23% dos empregados consideram as organizações despreparadas para a governança e gestão de riscos de IA generativa

0

Organizações de grande porte seguem apostando na Inteligência Artificial Generativa, mas à medida em que acomodam a tecnologia e avançam na curva de aprendizagem, elas iniciam uma fase de avaliação mais crítica do aproveitamento para resultados sustentáveis de negócio.

A necessidade de aprimoramento de conhecimentos para personalização de demandas e tratamento de dados, criação de políticas de uso e mitigação dos riscos, além da melhor mensuração do valor tangível agregado são cada vez mais preponderantes, segundo a 3ª edição do relatório global "The State of Generative AI in the Enterprise: Now Decides Next", elaborado pela Deloitte – organização com o portfólio de serviços profissionais mais diversificado do mundo.

De acordo com o estudo, dois terços das grandes empresas consultadas em caráter global – 67% – estão aumentando investimentos em Inteligência Artificial. No Brasil, 62% das organizações com lideranças entrevistadas vão nesta mesma linha, considerando a tecnologia um diferencial competitivo.

Em meio aos projetos pilotos com a IA Generativa, em caráter global, as lideranças de grandes empresas relatam como desafios a jornada de gestão da mudança e o interesse na percepção mais clara de escalada dos benefícios da tecnologia e controle de riscos.

"À medida que a implementação da inovação se aprofunda, os executivos enfrentam maiores desafios relativos ao aproveitamento eficiente e avançado da tecnologia, bem como de suas implicações. Há práticas exigidas após a fase inicial de empolgação. Os executivos estão agora mais conscientes das complexidades e buscando soluções e suporte", analisa Jefferson Denti, Chief Disruption Officer da Deloitte e líder do Deloitte AI Institute no Brasil.

Em caráter global, 42% das lideranças entrevistadas destacam a maior eficiência, produtividade e redução de custos em uma série de demandas como os principais benefícios. Para 58%, a IA Generativa já está presente em melhores produtos e serviços, ou nos relacionamentos aprimorados com os clientes.

Dentre os executivos das organizações entrevistadas, em âmbito global, 75% informaram que aumentaram seus investimentos em tecnologia em torno do gerenciamento do ciclo de vida dos dados devido à IA Generativa. Ainda assim, 55% dos respondentes afirmaram que evitam certos casos de uso da ferramenta.

Apenas 23% de todos os entrevistados consideram as organizações nas quais trabalham preparadas para a governança e gestão de riscos que a IA Generativa traz. Para 41%, suas empresas estão lutando para definir e medir impactos das iniciativas com IA Generativa, e menos da metade têm KPI's específicos.

Interesse x entusiasmo com a tecnologia disruptiva

Em caráter global, o interesse pela IA Generativa entre a maioria dos executivos seniores e membros do conselho permanece ainda "alto" ou "muito alto" (63% e 53% respectivamente). Mas os números vêm apresentando uma queda em relação à pesquisa do primeiro trimestre de 2024, com uma redução na ordem de 8 a 11 pontos percentuais.

Entre os executivos e membros de conselho de empresas no Brasil entrevistados, o interesse "alto" ou "muito alto" pela IA Generativa foi respectivamente 51% e 29% na 3ª edição da pesquisa. Houve uma queda importante: no primeiro trimestre deste ano, os resultados foram de 87% e 74%.

O relatório indica que globalmente executivos e conselheiros andam intrigados com a IA Generativa. Parte está se sentindo "confusa" (de 4% na 1ª edição para 24% agora) e parte "receosa" (de 2,5% na 1ª edição para 11% na 3ª edição).

Nessa análise de sentimento, o "entusiasmo" dos executivos entrevistados em caráter global com a IA Generativa caiu de 65% para 36% entre as edições da pesquisa. Os sentimentos de "confiança" e "surpresa" também diminuíram, mas em menor escala (de 49% para 34% e de 20% para 22%), enquanto a "fascinação" sofreu uma leve queda (de 30% para 26%).

No Brasil, a disparidade foi ainda mais acentuada quanto ao entusiasmo com a IA Generativa. Entre os executivos seniores entrevistados, o registro foi de 87% empolgados na 1ª edição para 51% na edição atual.

"Isso sugere que os executivos estão enfrentando incertezas e preocupações em relação à tecnologia. Apesar de notarem benefícios, há toda uma jornada de investimento, adaptação e aculturamento que leva tempo até que se possa extrair o máximo dessa inovação, propiciando a escalada dos resultados", observa Jefferson Denti.

Apesar dos sentimentos relatados, nove em cada dez lideranças de empresas em caráter global acreditam que a IA Generativa transformará os mercados onde atuam em até 3 anos, sendo que sete em cada dez acreditam que seus negócios acompanharão a transformação dentro desse prazo.

Principais barreiras para a aplicação da IA Generativa

De acordo com a pesquisa global, três das quatro principais barreiras relatadas para uma implementação bem-sucedida de IA Generativa estão relacionadas a riscos, incluindo preocupações com a conformidade regulatória (36%); dificuldade em gerenciar riscos (30%); e falta de um modelo de governança (29%).

"Essas preocupações são provavelmente impulsionadas por riscos específicos da tecnologia, como viés de privacidade, confiança e proteção contra novas superfícies de ataque. Para construir confiança e garantir o uso responsável, as organizações estão trabalhando para criar novas diretrizes e capacidades de supervisão", enfatiza Jefferson Denti.

Globalmente e no Brasil, as principais ações incluem: estabelecer um framework de governança para o uso de ferramentas e aplicações de IA Generativa (51% e 40%, respectivamente); monitorar requisitos regulatórios e garantir conformidade (49% e 35%); e realizar auditorias/testes internos em ferramentas e aplicações de IA Generativa (43% e 68%). Adicionalmente, no Brasil, 44% das organizações também estão focadas em treinar profissionais para identificar e mitigar riscos em sistemas de IA Generativa, como parte das iniciativas para uma integração bem-sucedida da ferramenta.

"Mesmo com alguns avanços significativos na tecnologia de IA Generativa, estamos vendo um momento de reavaliação por parte das organizações. As empresas estão percebendo que, enquanto o potencial da IA é enorme, o caminho para sua implementação bem-sucedida é repleto de desafios complexos, especialmente em termos de dados e governança. Essa fase de adaptação é crucial para ajustar estratégias e garantir que a tecnologia possa entregar os benefícios prometidos de forma consistente e sustentável" avalia Jefferson Denti.

Cresce a necessidade de demonstrar o valor das iniciativas

Nas organizações globalmente pesquisadas, apenas 16% produzem relatórios regulares para a liderança financeira sobre o valor gerado com a tecnologia. No Brasil, apenas 19% elaboraram relatórios regulares para o CFO. "Conforme as aplicações e casos de uso amadurecem, os executivos estarão menos propensos a investir com base apenas em visões ambiciosas e no receio de perder oportunidades, tornando a medição um fator crucial para manter o interesse e o apoio da alta administração e dos conselhos", comenta Jefferson Denti.

Para demonstrar o valor, as organizações estão procurando utilizar KPIs específicos para avaliar o desempenho da tecnologia (55% no Brasil e 48% globalmente), criando um framework para avaliar os investimentos em IA Generativa (46% no Brasil e 38% globalmente) e acompanhando mudanças na produtividade dos funcionários (49% no Brasil e 38% globalmente).

Realizada entre maio e junho de 2024, a pesquisa Deloitte envolveu 2.770 líderes de negócios e tecnologia experientes em IA, diretamente envolvidos na pilotagem ou implementação de IA Generativa em grandes organizações presentes em 14 países. Dos entrevistados, 115 foram do Brasil. Os setores abrangidos foram: Consumo; Energia, Recursos e Indústrias; Serviços Financeiros; Ciências da Vida e Saúde; Tecnologia, Mídia e Telecomunicações; e Governo e Serviços Públicos.

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.