Deepfake ou a capacidade de produzir artificialmente vídeos realistas em que um fraudador assume a imagem (e a voz) de uma outra pessoa, podendo até mesmo interagir ao vivo com um interlocutor, por exemplo, em uma videoconferência, é uma ameaça real.
Não à toa os gigantes de tecnologia AWS, Facebook e Microsoft lançaram há alguns meses o desafio público DFDC – Deepfake Detection Challenge (Desafio de Detecção de Deepfake), com um prêmio de 1 milhão de dólares para quem apresentasse um software capaz de identificar deepfakes.
Renomadas empresas, institutos de pesquisa e profissionais especializados em reconhecimento facial e processamento de imagens aderiram ao desafio, cujos resultados foram sumarizados pelo site biometricupdate.com, revelando uma realidade perturbadora para quem esperava uma solução antifraude efetiva.
O melhor software de detecção apresentou uma taxa média de erro de aproximadamente 17%, quando submetido a um conjunto de deepfakes já conhecidas pelo mercado. Mas o resultado foi ainda pior quando foram usadas deepfakes melhor elaboradas (e ainda desconhecidas), onde a taxa média de erro foi de 35%.
As implicações disso não se limitam a produção de vídeos falsos que poderiam facilmente passarem-se por verdadeiros e serem disseminados através das redes sociais, exercendo influência (negativa) sobre uma grande quantidade de pessoas.
Temos a utilização da videoconferência, não somente como meio de interação entre pessoas, mas também como um recurso de validação de identidade, em substituição à presença física, certamente um alvo potencial de fraudes com deepfake.
Também é o caso de aplicações de autenticação de transações por meio de reconhecimento facial, usando câmeras de smartphones ou webcams. As deepfakes demonstram ser capazes de burlar até mesmo recursos de liveness detection (detecção de vida), onde a pessoa precisa fazer gestos aleatórios (p.ex. piscar os olhos, mover a cabeça, etc.) para indicar ser uma pessoa e estar viva (e não ser uma foto estática ou um vídeo gravado).
Embora avanços precisem ser dados para oferecer uma resposta efetiva à ameaça da deepfake como um todo, como revelou o DFDC, em algumas situações, com a combinação certa de recursos tecnológicos e implementação adequada, é possível tornar o reconhecimento facial e a captura de imagens de face suficientemente imunes à deepfake.
Para uma boa parte das aplicações práticas onde o reconhecimento facial pode produzir enormes benefícios, a questão é muito menos "se" podemos mitigar as fraudes por deepfake e muito mais "como" fazer isso.
Igor Ramos Rocha, consultor de Negócios e Tecnologia.
