Nos últimos anos, uma das tecnologias que mais tem impressionado as pessoas é o deep fake. Ele começou a se popularizar em 2019, com celebridades norte-americanas, como o ator Nicolas Cage, se passando pelo então presidente Donald Trump, e logo se tornou uma febre mundial.
Recentemente, o rapper Kendrick Lamar utilizou deep fakes de nomes como Will Smith, Kobe Bryant e Kanye West no clipe de sua música The Heart Part 5, e o resultado é assustador. Não fossem detalhes como a voz e o cabelo, é praticamente impossível perceber que se trata de uma edição.
Destrinchando um pouco seu funcionamento, o deep fake nada mais é do que uma técnica baseada em deep learning, onde algoritmos de Inteligência Artificial reconhecem padrões com base em um banco de dados. Após isso, o sistema reproduz os movimentos para se assemelharem ao vídeo de origem.
O fato de as imagens do "alvo" virem de um banco de dados já nos dá alguns alertas. Quanto mais conteúdo sobre essa pessoa o sistema tiver, mais fidedigno será o deep fake. E quanto mais famosa, mais material haverá para coleta.
Ao mesmo tempo em que isso significam vídeos "inocentes" de humor como tantos que vemos e compartilhamos nas redes sociais, nas mãos erradas pode virar algo bem sério. Se tornou um grande problema a manipulação e inserção do rosto de jornalistas e políticas de todo o mundo em conteúdos de teor pornográfico, como forma de ataque à reputação.
Como explicado, quanto mais famosa uma pessoa, maior as probabilidades de um deep fake que tenha ela como alvo parecer mais real. Adicione isso ao fato de que entraremos em período de campanhas eleitorais muito em breve, e a mistura é potencialmente catastrófica.
Não se trata de uma questão de se deep fakes serão utilizados para difamar político X ou Y, eles já são compartilhados por aí e a situação tende a piorar. Por mais que se trate de uma tecnologia avançada e técnica, não é cara. Manipulações bem realistas podem ser criadas sem sair de casa, por meio de aplicativos e plataformas online.
Os casos de Kendrick Lamar e tantos outros mostram que um bom deep fake borra a diferença entre o que é real e o que é falso. No Brasil, que tem um sério problema com propagação de notícias falsas e desinformação, e cuja considerável parte da população não tem conhecimento tecnológico suficiente, a ponto de crer até mesmo em manipulações relativamente malfeitas, temos um cenário muito perigoso.
Impedir que deep fakes maliciosos continuem a existir é impossível, o que podemos fazer para mitigar sua ameaça baseia-se em uma palavra: desconfiar. O conteúdo parece absurdo demais? As vozes não batem? Problemas na pele, rosto, cabelo, iluminação pouco natural? Todos os sinais de que aquele vídeo e/ou foto merece uma segunda checagem.
Luiz Faro, diretor de engenharia de sistemas da Forcepoint.
