A inteligência artificial é um caminho sem volta. Muitas áreas já se beneficiam desse universo. É o caso da indústria da saúde, que tem utilizado a tecnologia para acelerar descobertas científicas e melhorar os resultados das pesquisas. Um grande leque de possibilidades vem sendo construído por uma ferramenta que tem um alto poder de aprendizagem e a capacidade de melhorar, por meio da exposição a grandes quantidades de dados, a Identificação de padrões e relações que os humanos podem não perceber.
Ocorre que a falta de regras claras acende o botão de alerta para possíveis impactos negativos da IA na sociedade. Na mão de poucos, a indústria da IA tem direcionado a sua trajetória de atuação e desenvolvimento sem que haja uma base regulatória mínima e estruturada, o que pode representar um perigo em vários sentidos, uma ameaça à democracia e aos direitos humanos.
Na ONU, o presidente Lula defendeu que a inteligência artificial não seja controlada por poucas empresas, e que precisa ser criado um fórum internacional para que os países dialoguem sobre os rumos da tecnologia. Lula também defendeu uma regulação global da IA, para que ela possa ter a "a cara do Sul Global", com diversidade cultural, respeito aos direitos humanos, proteção de dados pessoais e integridade da informação
Recentemente em artigo que publiquei no Estadão com o pesquisador em IA da USP Atahualpa Blanchet, afirmamos que não se pode pensar em inteligência artificial sem trazer à baila direitos humanos já reconhecidos internacionalmente como o direito à vida e os fundamentos do Estado Democrático de Direito. Para tanto, é crucial que a IA seja desenvolvida dentro de parâmetros de algoritmos imparciais, equilibrados e que não ultrapassem o limite da ética nos processos de programação, treinamento e aplicação.
Já há um documento no âmbito do Mercosul sobre inteligência artificial no marco dos Direitos Humanos. Em 2023, durante a 42ª Reunião de Altas Autoridades sobre Direitos Humanos do Mercosul (RAADH), realizada na capital brasileira, e sob a minha coordenação enquanto estava à frente da Assessoria de Comunicação do Ministério dos Direitos Humanos e da Cidadania, foi aprovada a "Declaração de Princípios de Direitos Humanos no âmbito da Inteligência Artificial no Mercosul.
O documento contempla um elemento fundamental para que sejam evitadas violações de direitos humanos: as plataformas digitais não devem usar os algoritmos de recomendação para criar "caixinhas" de informações capazes de influenciar a realidade de um determinado grupo de usuários. É neste ponto que a Declaração evidencia a necessidade de que sejam desenvolvidas formas claras e objetivas de responsabilização e também que sejam criados mecanismos de incentivos às empresas que programam e desenvolvem esses sistemas. Essa diretriz estratégica busca, de forma propositiva, sincronizar o combate às violações com a promoção dos direitos humanos por meio das ferramentas digitais.
O Brasil elaborou um plano e pretende investir até 2028 R$23 bilhões em Inteligência Artificial. Serão priorizados 5 eixos: infraestrutura; formação; serviço público; inovação empresarial; e apoio à regulação e governança da IA. O problema que o plano deixa a desejar em alguns aspectos relativos aos Direitos Humanos, com lacunas que podem gerar conflitos. No aspecto referente ao Sul Global, o plano brasileiro faz referência a necessidade da tecnologia se adaptar à realidade do Brasil, mas não traz o foco para o Sul Global, assim como sugeriu o presidente Lula na ONU. Como afirma o especialista Atahualpa Blanchet, é preciso entender a macrotendência das florestas inteligentes, dos temas étnico-raciais, e da inclusão das comunidades e povos tradicionais, entre outros temas.
Há uma tendência de crescimento do controle privado sobre o bem comum, sem que tenhamos um cenário de possibilidade de regulação. Para o pesquisador da USP Lucas Vilalta, "há uma apropriação crescente do valor das relações sociais e uma captura da inteligência social para os interesses privados dessas empresas, sem que haja contrapartidas ambientais, sociais ou de governança. Uma das razões para tanto, encontra-se no fenômeno que denomino de ambivalência da transparência e desresponsabilização generalizada".
Ou seja, a sociedade está se tornando cada vez mais transparente enquanto os algoritmos estão cada vez mais secretos.
Enquanto isso, assistimos de camarote o crescimento exponencial de uma tecnologia que pode salvar vidas, mas que também tem um potencial destrutivo incalculável, se for utilizada indevidamente.
E tenho dito, se faz urgente uma regulação bem fundamentada da IA, que respeite os princípios democráticos e que não sobreponha os direitos humanos.
Ruy Conde, sócio fundador da IT Comunicação Integrada.
