Passados poucos meses desde a disseminação dos modelos de inteligência artificial (IA) generativa, a tecnologia já demonstrou seu potencial para transformar produtos e operações de segurança cibernética. Após o lançamento do ChatGPT e de outros produtos alimentados por grandes modelos de linguagem (LLMs), a indústria da segurança cibernética já enxerga a IA generativa como uma ferramenta fundamental, mesmo com desafios como a natureza sensível e isolada dos dados de segurança, que dificulta o acesso a conjuntos de dados abrangentes e de alta qualidade para treinar e atualizar um modelo LLM.
Até o momento, o tópico mais comentado tem sido como identificar ameaças. A Bain analisou empresas de segurança cibernética que usam a IA generativa e descobriu que todas aplicam a tecnologia no estágio de identificação da estrutura de resposta a incidentes do SANS Institute – a maior adoção entre os seis estágios do SANS (preparação, identificação, contenção, erradicação, recuperação e lições aprendidas). Isso confirma a avaliação da Bain de que a identificação de ameaças tem o maior potencial para a IA generativa melhorar a segurança cibernética. A IA generativa já está, inclusive, ajudando os analistas a detectar ataques com mais rapidez e avaliar melhor sua escala e impacto potencial. Por exemplo: ela pode ajudar a filtrar alertas de incidentes com mais eficiência, rejeitando falsos positivos.
Para as fases de contenção, erradicação e recuperação da estrutura SANS, as taxas de adoção variam entre cerca de metade e dois terços das empresas de segurança cibernética analisadas, com destaque para a contenção. Nessas fases, a IA generativa já reduz lacunas de conhecimento e fornece aos analistas instruções de reparação e recuperação baseadas em táticas comprovadas de incidentes passados. Embora a automatização dos planos de contenção, erradicação e recuperação seja otimizada pela IA, a automatização total é improvável nos próximos cinco a dez anos – ou talvez nem aconteça. O impacto da IA generativa nestas áreas no longo prazo deve ser moderado e provavelmente sempre vai exigir algum tipo de supervisão humana.
A IA generativa também utiliza o conhecimento adquirido para automatizar a criação de relatórios de resposta a incidentes, melhorando a comunicação interna. Fundamentalmente, os relatórios podem ser reincorporados ao modelo para aprimorar as defesas. O Security AI Workbench, do Google, desenvolvido pelo Sec-PaLM 2 LLM, converte dados brutos de ataques recentes em inteligência de ameaças legível por máquina e humanos que pode acelerar as respostas (sob supervisão humana). No entanto, mesmo com a melhora contínua da qualidade dos relatórios generativos de resposta a incidentes alimentados por IA, é provável que o envolvimento humano continue a ser necessário.
É claro que a IA generativa também pode ser usada como ferramenta de ciberataque, como e-mails, vídeos, gravações ou imagens falsas mais realistas para enviar a alvos de phishing. A tecnologia permite que códigos maliciosos já conhecidos sejam reescritos para evitar a detecção e, como consequência, menções à IA generativa na dark web proliferaram em 2023.
As ameaças vão aumentar conforme os hackers utilizarem a IA generativa para padronizar e atualizar táticas, técnicas e procedimentos. Entre os desafios que as equipes de segurança cibernética vão enfrentar estão cepas de malware que evoluem automaticamente e criam variações para atacar um alvo específico com técnica, carga útil e código polimórfico exclusivos que são indetectáveis pelas medidas de segurança existentes hoje.
Diante desse panorama, apenas as operações de segurança cibernética mais ágeis terão capacidade para se manter à frente das ameaças. Para isso, as empresas precisam tomar algumas medidas:
– compreender que a IA generativa não elimina as complexidades operacionais e técnicas da segurança cibernética;
– tornar a IA generativa e a segurança cibernética itens recorrentes na agenda das reuniões do conselho e dos executivos;
– evitar o foco exclusivo em controles ou riscos específicos – a segurança cibernética exige uma abordagem holística.
Diretores de informação e de segurança da informação devem:
– garantir que os líderes das operações de segurança (SecOps) validem os resultados da IA generativa, especialmente algoritmos de detecção de ameaças atualizados pela tecnologia;
– treinar funcionários novos e juniores de SecOps para identificar ameaças com e sem IA generativa para evitar dependência;
– sempre que possível, não depender de um único fornecedor ou modelo de IA generativo em toda a pilha de segurança cibernética.
Empresas de segurança cibernética devem:
– contratar a combinação certa de talentos para incorporar capacidades generativas de IA nos seus produtos;
– buscar proteção contra informações falsas (alucinações) criadas pela IA generativa, adulteração externa de algoritmos e modelos de IA generativa que possam gerar vulnerabilidades de backdoor.
A IA generativa deve avançar rapidamente e é essencial que todas as partes interessadas, desde fornecedores de segurança cibernética até empresas, atualizem continuamente os seus conhecimentos e estratégias para aproveitar os benefícios e manter a proteção de toda a sua estrutura.
A empresa melhorou a sua estratégia de entrada no mercado para capitalizar a sua forte vantagem de produto e ganhar quota de mercado antes da sua venda. Avaliou o cenário competitivo e redefiniu os objetivos de fusões e aquisições para articular um caminho para um maior crescimento. Impulsionar uma execução mais rápida ajudou a empresa a aproveitar melhor sua tração e trajetória de mercado, o que aumentou o valor patrimonial durante o processo de vendas.
Essas ações tiveram um MOIC já notável de sete vezes no início do envolvimento e aumentaram para 14 vezes na saída. Uma nova segmentação de clientes ofereceu clareza sobre o serviço e o comportamento de compra para 13.000 clientes potenciais. A empresa cristalizou a sua estratégia, revisitou ideias de adjacência e aquisições e aperfeiçoou a dinâmica competitiva para criar o diálogo certo para a saída. Em dois anos, os proprietários de private equity concluíram uma venda parcial do negócio, mantendo para si uma parte considerável dada a sua nova confiança no negócio.
Conclusão: os investidores e gestores de carteiras que não acrescentam valor significativo aos seus ativos de software terão dificuldade em vender entre uma lista crescente de ativos maduros. Já os investidores em tecnologia que fizeram o trabalho necessário para alavancar os lucros têm maior probabilidade de ter sucesso no futuro mercado competitivo de compradores com ativos que se destacam.
