Blog

fevereiro 28, 2018

Google cria api para identificar comentários “tóxicos” em discussões online


 

Se você já tentou discutir uma questão polêmica na internet com algum nível de seriedade, deve ter percebido como é difícil. Percebendo que boa parte das conversas sobre temas delicados acabam em comentários raivosos e argumentos absurdos, o Google anunciou hoje uma ferramenta de inteligência artificial que ajuda a combater comentários tóxicos e ofensivos.

A ferramenta em questão se chama “Perspective”, uma API que usa recursos de aprendizagem de máquina para ajudar moderadores a filtrar comentários ofensivos de seus sites ou fóruns de discussão. Ela também pode ser usada para ajudar os comentadores, oferecendo a eles uma estimativa de quão tóxico seu comentário pode ser para outros leitores. Já é possível solicitar acesso à API por meio de seu site.

 

Filtrando os outros e a si mesmo

Um dos recursos da Perspective é um filtro que permite mostrar ou esconder comentários de acordo com sua “toxicidade”. Os comentários “tóxicos”, nesse caso, são definidos como “comentários rudes, desrespeitosos ou não-razoáveis que têm probabilidade de fazer as pessoas abandonarem a discussão”. O objetivo do recurso, portanto, é proteger as pessoas de comentários desse tipo, privilegiando comentários que beneficiem o diálogo.

Por outro lado, a API também pode ser usada para que os autores de comentários saibam o nível de toxicidade do que estão escrevendo. O site da ferramenta permite testar esse recurso escrevendo alguns comentários em inglês. No entanto, a empresa avisa que o sistema ainda está em fase de testes; por isso, comentários perfeitamente razoáveis podem ser marcados como altamente tóxicos, enquanto comentários claramente ofensivos podem não ser marcados.

 

Parcerias e utilidades

De acordo com o Google, mais de 17 milhões de comentários de leitores do New York Times foram usados para ensinar o sistema a identificar comentários tóxicos. Também foram utilizados alguns comentários da Wikipedia e dados colhidos junto a vítimas de abuso online que haviam mantido registros de seus assediadores.

 

Embora a ferramenta já esteja relativamente bem desenvolvida, o Google ressalta que ela só se tornará melhor caso tenha participação do público para avaliar quais comentários são tóxicos e quais não são. Além disso, a decisão final sobre como utilizar os recursos que a Perspective disponibiliza caberá a cada um dos sites que a utilizarem.

 

MOBIC

Somos uma agência com foco em aproximar pessoas e marcas para gerar relacionamentos e negócios.

posts relacionados