Com o objetivo de acaber com a desconfiança corporativa em relação à inteligência artificial, a Cisco lança o AI Defense, uma solução pioneira que possibilita e protege a transformação de IA dentro das empresas. À medida que a tecnologia de IA avança, novas preocupações de segurança e ameaças surgem em uma velocidade sem precedentes, contra as quais as soluções de segurança existentes não estão preparadas. A nova solução da Cisco foi construída especialmente para que as empresas possam desenvolver, implantar e proteger aplicações do gênero com confiança.
"Os líderes de negócios e tecnologia não podem sacrificar a segurança pela velocidade ao adotar a IA", afirma Jeetu Patel, vice-presidente executivo e diretor de Produtos da Cisco. "Em um cenário dinâmico onde a competição é intensa, a velocidade decide os vencedores. Integrada à estrutura da rede, AI Defense combina a habilidade única de detectar e proteger contra ameaças ao desenvolver e acessar aplicações de IA sem compromissos."
Os riscos de algo dar errado com a IA são extremamente altos. De acordo com o Índice de Prontidão de IA da Cisco, apenas 29% dos entrevistados se sentem totalmente equipados para detectar e prevenir adulterações não autorizadas com a IA. Os desafios de segurança também são novos e complexos, com as aplicações sendo multi-modelo e multi-nuvem. Vulnerabilidades podem ocorrer no nível do modelo ou do aplicativo, enquanto a responsabilidade recai sobre diferentes proprietários, incluindo desenvolvedores, usuários finais e fornecedores. Os riscos só aumentam conforme as empresas avançam além dos dados públicos e começam a treinar modelos com dados proprietários.
Para abrir caminho com objetivo de inovação e adoção da IA, as empresas precisam de uma camada comum de segurança que proteja cada usuário e aplicação. O Defense AI permite as transformações de IA das empresas ao abordar dois riscos urgentes:
Desenvolvimento e implantação de aplicações de IA Seguras: A partir do momento em que a IA se torna onipresente, as empresas usarão e desenvolverão centenas, senão milhares de aplicações de IA. Os desenvolvedores precisam de um conjunto de diretrizes de segurança e proteção que funcione para cada aplicação. O AI Defense ajuda os desenvolvedores a se moverem rapidamente e agregarem maior valor ao proteger sistemas de IA contra ataques e proteger o comportamento do modelo, em todas as plataformas. As capacidades do AI Defense incluem:
Descoberta de IA: As equipes de segurança precisam entender quem está construindo aplicações e as fontes de treinamento que usam. O Defense AI detecta aplicações de shadow AI e sancionadas em nuvens públicas e privadas.
Validação de modelos: O ajuste de modelos pode levar a resultados tóxicos e inesperados. Testes automatizados verificam modelos de IA em busca de centenas de possíveis problemas de segurança e proteção. Este algoritmo orientado por IA identifica potenciais vulnerabilidades e recomenda diretrizes para as equipes de segurança usarem no AI Defense.
Segurança em tempo de execução: A validação contínua protege contra ameaças potenciais de segurança e proteção, como injeção de prompts, negação de serviço e vazamento de dados sensíveis de forma contínua.
Segurança no acesso a aplicações de IA: Conforme os usuários finais se apressam para adotar aplicações de IA, como ferramentas de sumarização para melhorar sua produtividade, as equipes de segurança precisam prevenir vazamentos de dados e o envenenamento de dados proprietários. O AI Defense capacita as equipes de segurança com:
Visibilidade: Fornece uma visão abrangente de aplicações habilitadas de shadow AI usadas por funcionários.
Controle de acesso: Implementa políticas que restringem o acesso dos funcionários a ferramentas de IA não sancionadas.
Proteção de dados e ameaças: Protege continuamente contra ameaças e perda de dados confidenciais enquanto garante conformidade.
Ao contrário das diretrizes de segurança incorporadas em modelos de IA individuais, a Cisco oferece controles consistentes para um mundo multi-modelo. O AI Defense é auto-otimizável, aproveitando os modelos de machine learning proprietários da Cisco para detectar preocupações de segurança e proteção da IA em constante evolução, com base em dados de inteligência de ameaças da Cisco Talos.
Clientes da Splunk que usam o AI Defense receberão alertas enriquecidos com contexto adicional de todo o ecossistema. A solução se integra perfeitamente com os fluxos de dados existentes para visibilidade e controle inigualáveis e está integrada à Security Cloud, a plataforma de segurança unificada e orientada por IA da Cisco que abrange vários domínios.
Ela aproveita a abrangência de execução da Cisco para realizar segurança de IA no nível da rede de uma maneira que apenas a Cisco está otimizada para entregar. Precisão e confiabilidade são essenciais para proteger aplicações de IA empresariais, e a Cisco tem se envolvido ativamente no desenvolvimento de padrões da indústria para segurança de IA, incluindo aqueles da MITRE, OWASP e NIST.
"A adoção de IA expõe as empresas a novos riscos que as soluções tradicionais de cibersegurança não abordam", disse Kent Noyes, chefe global de inovação em IA e cibersegurança da World Wide Technology. "AI Defense da Cisco representa um salto significativo na segurança de IA, proporcionando visibilidade completa dos ativos de IA de uma empresa e proteção contra ameaças em evolução."
AI Defense é a mais recente de uma série de inovações em segurança orientadas por IA da Cisco, incluindo o Cisco Hypershield.
