Google testa machine learning para bloquear comentários "tóxicos" nos sites de conteúdo

0
0

A Jigsaw, empresa controlada pela holding do Google, a Alphabet, anunciou nessa quinta-feira, 23, a Perspectiva, nova tecnologia para ajudar identificação de comentários abusivos, inapropriados, palavrões e assédios. Ela usa a aprendizagem de máquina (machine learning) para identificar o que está sendo chamado de "comentários tóxicos", que tem um contexto desrespeitoso que inibe a continuidade de uma discussão.

Ela vai revisar comentários, classificando-os com base na similaridade com observações que pessoas consideram "tóxicas" ou que provavelmente as levariam a deixar a conversa.

A API da Perspectiva está em estágios precoces de desenvolvimento, mas já foi testado pelo jornal New York Times.

"Os veículos de comunicação querem encorajar o engajamento e a discussão em torno de seu conteúdo, mas identificar em meio a milhares de comentários aqueles que são ofensivos ou abusivos requer muito dinheiro, trabalho e tempo. Como resultado, muitos sites bloquearam a função de uma vez por todas", disse Jared Cohen, presidente da Jigsaw.

A Perspectiva examinou centenas de milhares de comentários rotulados como ofensivos por usuários, para aprender como identificar linguagem potencialmente abusiva.

O serviço pode ser expandido no futuro, de modo a identificar ataques pessoais ou comentários fora de contexto, segundo o executivo. A tecnologia não decide o que fazer com os comentários considerados potencialmente abusivos. Em vez disso, ela os ressalta para os moderadores ou desenvolve ferramentas para ajudar usuários a entender o impacto do que escrevem.

"Enquanto melhoramos a tecnologia, também estamos trabalhando para expandi-la. No próximo ano estamos interessados ??em parcerias e entregar novos modelos em outras línguas que não o Inglês, bem como modelos que podem identificar outras perspectivas", enfatiza.

Deixe seu comentário