A inteligência artificial (IA) leva executivos a alterar estratégias, tecnólogos a redirecionar carreiras, financistas a repriorizar investimentos, empreendedores a mudar sonhos e governos a repensar políticas. Não há como ignorar seu potencial. Entretanto, alguma cautela é apropriada.
Platão advertiu sabiamente há 2.500 anos: "Podemos pensar que falam como se tivessem alguma inteligência, mas se lhes perguntamos algo mais sobre seus dizeres, sempre respondem só uma única coisa, o mesmo." Aviso repetido em Protágoras: "mas se alguém questionasse alguma coisa [….], nem respondem nem eles mesmos perguntam; mas se alguém pergunta algo pequeno sobre o que foi dito, [….] estendem seus discursos por longo curso." É claro que não falava de IA, mas o aviso continua válido.
Todos fomos marcados por nosso primeiro contato com chatGPT. Somos a única geração na história a sentir o arrepio de interagir inesperadamente com um não humano capaz de sublimes respostas. Poucos saem intocados dessa primeira experiência. Por não estarmos preparados, corremos o risco de atribuir excessivo valor a essa tecnologia, esperando mais do que ela pode oferecer. Vejo isso frequentemente, em pedidos do tipo "preciso implementar algo com IA na minha empresa, não importa o quê."
Uma máquina de resultados
Não esqueçamos que os atuais transformers realmente não entendem o texto que criam. Por mais impressionantes que sejam, estão basicamente manipulando estatísticas sobre quais palavras aparecem juntas mais frequentemente. Transformers foram treinados durante meses por poderosos processadores paralelos tipo SIMD (Single Instruction, Multiple Data) compilando bilhões de pares de palavras, consumindo a maioria do que foi escrito por humanos, e regurgitam listas de palavras estatisticamente apropriadas.
Estou simplificando; o estágio atual de IA é mais complexo que isso. Há avanços em balanceamento equivalente ao córtex pré-frontal, controle de anosognosia e outros desenvolvimentos continuam acelerados. Há exemplos positivos e negativos.
Pelo lado negativo, a BBC recentemente publicou um estudo sobre a precisão de quatro IAs populares, onde um painel de jornalistas considerou que até 46% das respostas de uma das IAs tinha sérios problemas de exatidão. A melhor IA apresentou problemas sérios em 21% das respostas. Outra IA apresentou algum problema leve de exatidão em mais de 80%. Todos foram instruídos a usar a BBC como fonte, e em quase 20% dos casos, uma IA apresentou sérias discrepâncias com as fontes. Outra apresentou leves discrepâncias em mais de 75% das respostas. Os resultados levaram Deborah Turness, CEO de Notícias da BBC, a publicar um editorial afirmando "Gostaríamos que outras companhias de tecnologia ouvissem nossa preocupação [….]", finalizando com a chamada "Como podemos trabalhar urgentemente para garantir que essa tecnologia emergente seja projetada para ajudar usuários a achar informação confiável, ao invés de aumentar o caos e confusão?" Você pode acessar os dados da pesquisa aqui.
Esse exemplo mostra o risco de colocar excessiva confiança no resultado desses autômatos e acreditarmos haver entendimento por trás das palavras que esses transformers unem. As respostas soam tão razoáveis, convincentes, bem escritas e coerentes, que passam por conhecimento. Já vi contratos assinados baseados em análise feita por IA, estratégias empresariais escritas por IA, código escrito por IA ser colocado em produção com mínima supervisão humana, resumos filtrados apenas por IA e autores dependerem de IA para construir seus textos! São comportamentos arriscados no atual estágio da tecnologia.
Por outro lado, há relatos positivos impressionantes. Em muitas áreas, o impacto de IA é profundo, por exemplo, quando resolve em dois dias um problema científico investigado há dez anos. Ceticismo é sempre indicado quando nesse tipo de afirmação, mas esse caso é real: o pesquisador chama-se José Penadés, do Imperial College em Londres, e o escopo é pesquisa em resistência de superbactérias, e a fonte é a própria BBC.
Em resumo: IA é um avanço tecnológico enorme, que não pode ser ignorado. Porém, os tomadores de decisões devem ter cautela, e não adotá-la indiscriminadamente. O risco de IA hoje não é a tecnologia. É o que esperamos dela.
Álvaro Garcia, CEO da Robbu.
Ótima reflexão, Álvaro! Concordo que, apesar do entusiasmo com a IA, precisamos ser cuidadosos em como usamos essa tecnologia. É essencial lembrar que por trás da aparente inteligência, existe uma máquina que ainda não compreende verdadeiramente o que diz. Como bem apontado, o maior risco hoje é nossa própria expectativa exagerada sobre o que a IA pode entregar.