A inteligência artificial (IA) está transformando a forma como empresas e governos operam, com um impacto profundo em todos os aspectos da infraestrutura de TI. O poder transformacional dessa tecnologia é inegável, mas, como em toda revolução tecnológica, desafios significativos estão emergindo. Um dos mais urgentes é o protagonismo que a TI deve assumir para evitar riscos relacionados ao uso desenfreado e descontrolado da IA.
A acessibilidade da IA generativa e outras tecnologias de machine learning estão derrubando barreiras técnicas que antes limitavam seu uso. Hoje, qualquer usuário com acesso a ferramentas populares pode alimentar modelos de IA com dados, muitas vezes sem entender os riscos de segurança e conformidade envolvidos. Lembram do Shadow IT e do BYOD (Bring Your Own Device)? Agora os times de TI terão de lidar com o BYOAI (Bring Your Own AI) que está expondo organizações a vulnerabilidades críticas.
Imagine, por exemplo, um servidor público utilizando uma ferramenta de IA generativa para redigir petições jurídicas, alimentando o sistema com dados sensíveis. Esses dados podem ser processados em servidores localizados em qualquer lugar do mundo, sob legislações diferentes e fora do controle da organização. Isso não é apenas uma falha de segurança – é uma demonstração clara de como a TI precisa agir de forma propositiva para gerenciar a onda de inovação.
Design de soluções e controle da infraestrutura
A solução não está em bloquear ou restringir o uso da IA, mas em criar um ambiente controlado e seguro que permita explorar o potencial dessa tecnologia sem comprometer a organização. Isso inclui a adoção de abordagens como o uso de Large Language Models (LLMs) on-premise, que garantem maior controle sobre dados e processos, além de atender a regulamentações locais.
A TI deve desempenhar um papel fundamental no design de soluções que suportem o uso estratégico da IA, automatizem processos, resolvam problemas e proporcionem ganhos de eficiência. Mais do que fornecer infraestrutura, a TI precisa ser um braço ativo para sustentar a inovação, antecipar demandas e propor alternativas antes que os usuários recorram a soluções externas não regulamentadas.
A TI não pode ser reativa. Esperar por demandas é um sinal de que o problema já está acontecendo há muito tempo. Em vez disso, ela precisa entender o negócio, identificar os casos de uso mais relevantes e alinhar-se às necessidades estratégicas da organização. Esse protagonismo não é apenas uma medida de segurança cibernética, mas uma questão de sobrevivência na era digital.
Rafael Oneda, diretor de Tecnologia da Approach.