Gatos ajudam Facebook a criar algoritmos contra o bullying

Luiz Gustavo Pacete
11 de maio de 2018 - 9h19

O Facebook lançou, no final de abril, uma ferramenta de checagem e filtragem de posts para detectar e reduzir a prática de bullying na plataforma. Uma das formas de aplicação da tecnologia é “desafiar” o algoritmo a aprimorar a maneira como podem ser identificados insultos e discursos de ódio. Isso é feito utilizando fotos do Instagram que contenham hashtags com gatos, cães e paisagens.

De acordo com a Wired, o algoritmo já processou, em sua primeira fase, mais de 3,5 bilhões de fotos públicas do Instagram. O desafio é que seu sistema consiga identificar fotos de mil categorias após o treinamento. Em um dos testes, a plataforma expôs o algoritmo a 1 bilhão de fotos. Na primeira vez, foram associadas as imagens às categorias corretas em 83,1% dos casos, posteriormente, o nível de acerto foi de 85,4%.

relacionado

Bradesco: como humanizar um chatbot

A inteligência artificial por trás do filtro foi treinada por humanos e é baseada em sistema de processamento de dados desenvolvido pelo Facebook chamado de DeepText. Ele classifica os comentários negativos em categorias como bullying, racismo e assédio sexual.

Uma pesquisa divulgada no final do ano passado pelo grupo anti-bullying Ditch the Label revelou que 42% dos jovens usuários da plataforma sofreram algum tipo de ofensa no Instagram, a mais alta das redes pesquisadas. De acordo com Luiz Carvalho, sócio e CTO da Nexo, empresa especializada em inteligência artificial, essas ações vêm de encontro com os desafios atuais relacionados a fake news e discurso de ódio proliferados pela rede atualmente.

“Não é humanamente viável identificar todas as possíveis inserções de comentários maliciosos que violam os direitos do outro e que, de certa forma, agridem moralmente. A inteligência artificial é uma extensão da inteligência natural”, afirma Carvalho.

relacionado

Os chatbots mais bem avaliados pelo público

Ele reforça que outro exemplo recente é o modo como o Facebook tem utilizado o tagueamento de fotos no Instagram para treinar seus modelos de machine learning. “São milhões de interações que geram modelos mais eficazes para identificação de fotos e assim poder, por exemplo, identificar e inibir conteúdo nocivo’”, afirma.