Google testa machine learning para bloquear comentários "tóxicos" nos sites de conteúdo

1

A Jigsaw, empresa controlada pela holding do Google, a Alphabet, anunciou nessa quinta-feira, 23, a Perspectiva, nova tecnologia para ajudar identificação de comentários abusivos, inapropriados, palavrões e assédios. Ela usa a aprendizagem de máquina (machine learning) para identificar o que está sendo chamado de "comentários tóxicos", que tem um contexto desrespeitoso que inibe a continuidade de uma discussão.

Ela vai revisar comentários, classificando-os com base na similaridade com observações que pessoas consideram "tóxicas" ou que provavelmente as levariam a deixar a conversa.

A API da Perspectiva está em estágios precoces de desenvolvimento, mas já foi testado pelo jornal New York Times.

"Os veículos de comunicação querem encorajar o engajamento e a discussão em torno de seu conteúdo, mas identificar em meio a milhares de comentários aqueles que são ofensivos ou abusivos requer muito dinheiro, trabalho e tempo. Como resultado, muitos sites bloquearam a função de uma vez por todas", disse Jared Cohen, presidente da Jigsaw.

A Perspectiva examinou centenas de milhares de comentários rotulados como ofensivos por usuários, para aprender como identificar linguagem potencialmente abusiva.

O serviço pode ser expandido no futuro, de modo a identificar ataques pessoais ou comentários fora de contexto, segundo o executivo. A tecnologia não decide o que fazer com os comentários considerados potencialmente abusivos. Em vez disso, ela os ressalta para os moderadores ou desenvolve ferramentas para ajudar usuários a entender o impacto do que escrevem.

"Enquanto melhoramos a tecnologia, também estamos trabalhando para expandi-la. No próximo ano estamos interessados ??em parcerias e entregar novos modelos em outras línguas que não o Inglês, bem como modelos que podem identificar outras perspectivas", enfatiza.

1 COMENTÁRIO

Deixe um comentário para lojafunniest Cancelar resposta

Por favor digite seu comentário!
Por favor, digite seu nome aqui

This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.