Desde sua explosão em popularidade, muitos pesquisadores e mesmo interessados no assunto têm buscado encontrar as limitações do ChatGPT, IA Generativa capaz de aprender padrões de comportamento e resposta, e a partir disso gerar textos sobre os mais variados assuntos. Tirando o recorte temporal de sua base, que vai até meados de 2021, a ferramenta se mostra capaz de produzir conteúdos completos numa velocidade impressionante.
Caique Barqueta, Especialista em Inteligência de Ameaças da ISH Tecnologia, referência nacional em cibersegurança, explica que, por se tratar de uma ferramenta gratuita, comercial e disponível a todos, o ChatGPT (e outros semelhantes, como o Bard, do Google) possui algumas diretrizes que o impede de abordar determinados temas.
"A IA se recusa a redigir discursos de ódio ou códigos maliciosos, por exemplo, citando ainda quais leis estariam sendo infringidas se ela o fizesse. Já vimos alguns casos sendo compartilhados da plataforma sendo induzida a dizer algo que não deveria, mas são casos pontuais, que serviram para reforçar ainda mais o cuidado com sua segurança por parte de seus desenvolvedores", afirma.
O especialista alerta, no entanto, para um movimento cada vez maior e mais preocupante: a criação e venda de IAs Generativas especializadas na criação e disparo de golpes cibernéticos. Três exemplos recentes são as ferramentas conhecidas como "WormGPT", "FraudGPT" e "WolfGPT". Estão sendo vendidas ilegalmente em fóruns online, por meio de um modelo de assinatura de aproximadamente 200 dólares mensais, e realizam ações como a criação de linhas de malware e redação de e-mails de phishing para alvos específicos.
Barqueta explica como é permitida a criação dessas IAs maliciosas, utilizando o mesmo modelo do ChatGPT. "A sigla GPT refere-se a 'Transformador Pré-Treinado Generativo', que consiste num modelo de linguagem que gera texto, traduz idiomas e responde a cada pergunta que recebe de maneira única. Como vimos, são ferramentas que se alimentam de uma base de dados; nesse caso, esses dados se originam da análise de sites legítimos, fóruns da deep e dark web e códigos de malwares e ransomwares que não são mais utilizados."
A existência de IAs desse tipo apresenta um cenário potencialmente devastador, com ataques sendo disparados em um ritmo muito rápido, e, por estarem em constante aprendizado, cada vez mais difíceis de serem detectados. "Para esses criminosos, o ChatGPT serviu para ilustrar todo o potencial destrutivo de uma IA Generativa. Monitorar constantemente empresas em busca de vulnerabilidades, encontrar vazamentos e oferecer àqueles que não tem o conhecimento técnico o suficiente a possibilidade de orquestrar um ataque em grande escala, sobrando ao lado humano apenas pagar pela ferramenta que fará todo o trabalho", afirma.
Porém, o especialista ressalta que, ao mesmo tempo que as IAs que usamos no dia a dia podem ajudar a mostrar o "caminho das pedras" para criminosos, também podem ser usadas a nosso favor. "A ferramenta pode ser usada para automatizar a resposta a incidentes e reduzir os problemas originados de erros humanos, por exemplo. O outro lado já entendeu como utilizar essas novas tecnologias em seu benefício, é necessário que nós façamos o mesmo", conclui.
