Especialistas mundiais criam documento sobre capacidades e riscos da IA

0

O professor André Carlos Ponce de Leon Ferreira de Carvalho, diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), em São Carlos, foi convidado para participar de um comitê consultivo internacional formado pelo governo do Reino Unido para desenvolver um relatório sobre as capacidades e riscos da inteligência artificial (IA).

Carvalho coordena o Centro de Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA-IARA), que tem apoio da FAPESP e do Ministério da Ciência, Tecnologia e Inovação (MCTI). Também é pesquisador principal do Centro de Ciências Matemáticas Aplicadas à Indústria (CeMEAI), um Centro de Pesquisa, Inovação e Difusão (CEPID) da FAPESP sediado no ICMC-USP.

Segundo ele, em novembro de 2023, o Reino Unido organizou a primeira cimeira global sobre a segurança da inteligência artificial no Bletchley Park, onde, na Segunda Guerra Mundial, uma equipe liderada por Alan Turing, um dos pioneiros da IA, decifrou o código da máquina alemã Enigma.

"Da cimeira, participaram representantes de governos nacionais e da União Europeia, de empresas, da academia e da sociedade civil, incluindo o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos Estados Unidos, Kamala Harris, e a presidente da Comissão Europeia, Ursula Von Der Leyen", contou Carvalho à Assessoria de Imprensa do ICMC-USP.

No evento foram discutidos os riscos dos sistemas mais recentes e poderosos de IA, a inteligência artificial de fronteira (frontier AI) e os participantes receberam um relatório intitulado "AI Safety Summit- Capabilities and risks from frontier AI", apresentando as capacidades, os riscos da IA de fronteira e apontando para a necessidade de apoiar pesquisas no tema.

O relatório foi revisado por um comitê de especialistas, coordenado pelo professor Yoshua Bengio, da Universidade de Montreal (Canadá). Juntamente com os professores Geoffrey Hinton e Yann LeCun, Bengio recebeu em 2018 o Prêmio Turing, equivalente ao prêmio Nobel para a área de computação. Os três são chamados de "Padrinhos da IA".

Carvalho destacou um trecho apontado pelo relatório: "Estamos no meio de uma revolução tecnológica que trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos. A IA pode transformar quase todos os aspectos da nossa economia e sociedade".

"Para aproveitar as oportunidades, devemos compreender e enfrentar os riscos. A IA apresenta riscos de formas que não respeitam as fronteiras nacionais. É importante que governos, universidades, empresas e sociedade civil trabalhem juntos para enfrentar esses desafios, que são complexos e difíceis de prever, para mitigar os perigos potenciais e garantir os benefícios da IA para toda a sociedade", aponta outro trecho.

Segundo o diretor do ICMC, não se discute mais a força dessa tecnologia transformadora, com técnicas cada vez mais sofisticadas e complexas. Para ele, esse cenário futurista parecido com roteiro de filme de ficção científica já chegou.

O que não é possível prever ainda são as consequências do mau uso da tecnologia e do surgimento de uma IA mais inteligente do que os seres humanos. "Por isso, a urgência em discutir e elaborar documentos como esse, feitos por especialistas em IA. Também ficou acordado que seguiremos redigindo documentos com informações que possam dar subsídios para que os governos se preparem, entregando a eles o conhecimento necessário, de acordo com o estado da arte, sobre o que pode acontecer com essa área, particularmente de seus riscos", enfatizou. As informações são da Agência Fapesp.

O relatório completo pode ser lido no seguinte link

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.