No final do mês julho, o Comitê de Infraestrutura de Telecomunicações (C-INT) do Brasil encaminhou ofícios à OpenAI, Google e Microsoft para iniciar discussões sobre os impactos da inteligência artificial generativa (GenAI) nas telecomunicações, abordando também os potenciais riscos à saúde e segurança dos consumidores.
Nos ofícios, foram destacados que os riscos decorrentes do uso inadequado da GenAI são consideráveis. Entre eles estão a criação de códigos maliciosos e campanhas de phishing e spear phishing altamente convincentes. Além disso, os documentos mencionam que esses riscos já preocupam vários países e organizações internacionais, com as quais a Agência Nacional de Telecomunicações (Anatel) mantém diálogos.
Para a Associação Brasileira de Avaliação da Conformidade (Abrac), a implementação de normas de segurança é essencial para mitigar os riscos associados à GenAI. O vice-presidente de Telecomunicações da Abrac, Kim Rieffel, destaca que "a avaliação da conformidade é um processo que garante que produtos, serviços e sistemas estejam alinhados com requisitos técnicos previamente estabelecidos, reduzindo vulnerabilidades e fortalecendo, neste caso específico, a confiança na utilização da GenAI por parte das empresas e da população em geral".
A Inteligência Artificial oferece muitas oportunidades, mas também apresenta riscos significativos se não for utilizada de maneira responsável. "É imperativo que as empresas de tecnologia e os reguladores estabeleçam padrões claros e eficazes para garantir a segurança e a proteção dos usuários", acrescenta Rieffel.
A iniciativa do C-INT de engajar empresas líderes em tecnologia nas discussões sobre os riscos da GenAI demonstra a necessidade de regulamentação adequada para criar um ambiente seguro para o desenvolvimento e uso da inteligência artificial.
"A colaboração entre reguladores, empresas e especialistas em conformidade é crucial para desenvolver diretrizes que protejam os consumidores e assegurem a integridade das infraestruturas de telecomunicações. Esse é certamente um dos papéis da Anatel e da Abrac", concluiu o vice-presidente de Telecomunicações da Abrac.
UE e a regulamentação de IA
No final de 2023, a União Europeia regulamentou a Inteligência Artificial com base em níveis de risco. Sistemas de risco limitado e mínimo, como chatbots e filtros de spam, devem cumprir obrigações específicas de transparência e desenvolvimento responsável. Para sistemas de alto risco, são exigidas medidas de gestão de riscos, governança de dados, documentação técnica, supervisão humana e robustez de segurança. Além disso, há proibições específicas para tecnologias que ameaçam a segurança e os direitos das pessoas, como a manipulação subliminar.
A conformidade e a supervisão são garantidas por órgãos independentes, designados pelas autoridades nacionais dos Estados-Membros da UE, que avaliam a conformidade dos sistemas de alto risco e mantêm mecanismos contínuos de monitoramento. Provedores de IA de alto risco são responsáveis por garantir que seus sistemas cumpram os requisitos antes de serem comercializados, sob pena de multas significativas que podem chegar a 6% do volume de negócios global anual da empresa.
