O ChatGPT possui impressionantes 175 milhões de parâmetros, o que o tornou o modelo de linguagem mais famoso no mundo, roubando o cenário de discussões em 2023. Devido sua habilidade de escrever e compreender textos como um humano, a ferramenta se mostrou útil em diversos setores, desde aplicações financeiras, saúde e atendimento ao consumidor. Entretanto, junto de todos os seus benefícios, encontramos os seus riscos.
Em um artigo escrito Dinesh Kalla e Sivaraju Kuraku, pesquisadores da Universidade do Colorado e da Universidade de Cumberlands, respectivamente, foram levantados pontos fundamentais sobre as aplicações do ChatGPT na cibersegurança.
O ChatGPT pode ser um aliado na luta da cibersegurança?
Para os autores a ferramenta pode ser usada como um poderoso aliado contra invasões, sua capacidade de detectar e prevenir ameaças em tempo real. Ao analisar vastas quantidades de dados e identificar padrões e anomalias, o ChatGPT pode ajudar a identificar possíveis ameaças cibernéticas. Ele pode analisar o tráfego de rede, identificar atividades suspeitas e fornecer alertas oportunos às equipes de segurança.
Além disso, incidentes de cibersegurança exigem uma resposta imediata para minimizar danos potenciais. O ChatGPT pode desempenhar um papel crucial nesse processo ao lidar com relatórios iniciais de incidentes, automatizar sistemas de emissão de tíquetes e fornecer suporte de primeiro nível aos usuários. Com isso, ganharia tempo para que as equipes de cibersegurança se concentrem nas atividades críticas.
Os pesquisadores citam outras utilidades significativas para a ferramenta, aprimoramento da autenticação do usuário, incorporando sistemas de autenticação multifator (MFA) e verificação biométrica, podendo gerar perguntas dinâmicas de desafio e resposta com base em informações específicas do usuário, além de uma análise comportamental do usuário.
"Detecção e educação contra Phishing" e "Treinamento e conscientização em Segurança", são outros dois pontos levantados por eles, sendo que, o ChatGPT pode analisar e-mails, mensagens e outras formas de comunicação para identificar tentativas de phishing. Usando técnicas de processamento de linguagem natural, o ChatGPT pode reconhecer padrões suspeitos, informações enganosas e URLs maliciosos.
O ChatGPT pode ser uma arma a favor dos cibercriminosos?
O primeiro risco consiste em explorar as vulnerabilidades do ChatGPT. Como um modelo de linguagem de IA, o ChatGPT depende de seus dados de treinamento para gerar respostas. No entanto, se os dados de treinamento contiverem informações enviesadas ou inadequadas, o modelo pode gerar inadvertidamente conteúdo prejudicial ou ofensivo.
Não é a primeira referência aos dados de treinamento do ChatGPT, recentemente a TI Inside publicou a respeito de outro estudo que identificou vazamento de dados com apenas um pedido a plataforma.
Outro risco apontado pelos pesquisadores surge da questão dos ataques adversariais. Esses ataques envolvem a manipulação de entradas para enganar um modelo de IA e gerar saídas incorretas ou não intencionais. O ChatGPT, como qualquer outro modelo de linguagem, pode ser suscetível a tais ataques. Adversários poderiam explorar essa vulnerabilidade para manipular o ChatGPT e fornecer informações falsas ou até mesmo orientar os usuários a se envolverem em atividades maliciosas. Isso pode resultar em consequências graves, como fraudes financeiras, violações de dados ou até mesmo danos físicos se o modelo de IA for utilizado em sistemas críticos.
A engenharia social apresenta outra gigantesca preoucupação, com a capacidade da ferramenta de se assemelhar a produção textual humana, os atacantes podem usá-lo para criar mensagens de phishing sofisticadas ou se passar por entidades confiáveis, tornando mais desafiador para os usuários detectarem atividades fraudulentas.
A preocupação com relação ao comportamento do ChatGPT também precisa ser avaliada, já houveram casos em que usuários conseguiram driblar as medidas de segurança programadas pela OpenAI e obtiveram sugestões de golpes.
Por fim, o artigo conclui que embora as contribuições do ChatGPT sejam significativas, é importante reconhecer certas limitações e considerações ao usar o modelo. Sendo primordial verificar a precisão e validade das informações fornecidas pelo ChatGPT consultando fontes autorizadas.
Fonte: "Advantages, Disadvantages and Risks associated with ChatGPT and AI on Cybersecurity".
