Intel faz parceria com Georgia Tech no programa DARPA para atenuar ataques em machine learning

0
0

A Intel e o Instituto de Tecnologia da Geórgia (Georgia Tech) anunciaram nesta quinta-feira, 9, que foram selecionados para liderar uma equipe do programa GARD (Garantia de Inteligência Artificial) contra a decepção (GARD) da Agência de Projetos de Pesquisa Avançada de Defesa (DARPA), dos Estados Unidos. A Intel é a principal contratada nesse esforço conjunto de US$ 4 milhões para melhorar as defesas de segurança cibernética contra ataques fraudulentos nos modelos de aprendizado de máquina (ML).

"A Intel e a Georgia Tech estão trabalhando juntas para promover o entendimento coletivo do ecossistema e a capacidade de mitigar as vulnerabilidades de IA e ML. Por meio de pesquisas inovadoras em técnicas de coerência, estamos colaborando em uma abordagem para aprimorar a detecção de objetos e melhorar a capacidade da IA ??e da ML responderem a ataques adversários", disseJason Martin, engenheiro principal da Intel Labs e investigador principal do programa DARPA GARD da Intel.

Por que é importante

Embora raros, ataques adversários tentam enganar, alterar ou corromper a interpretação dos dados do algoritmo de machine learning. Como os modelos de IA e ML são cada vez mais incorporados a sistemas semi-autônomos e autônomos, é fundamental melhorar continuamente a estabilidade, a proteção e a segurança de interações inesperadas ou enganosas. Por exemplo, classificações errôneas de IA e interpretações erradas no nível de pixel podem levar a interpretações errôneas de imagem e cenários de identificação incorreta, ou modificações sutis em objetos do mundo real podem confundir os sistemas de percepção de IA. O GARD ajudará as tecnologias de IA e ML a se equiparem melhor para se defender contra possíveis ataques futuros.

Os esforços de defesa atuais são projetados para proteger contra ataques adversários predefinidos específicos, mas permanecem vulneráveis ??a ataques quando testados fora dos parâmetros de design especificados. A GARD pretende abordar a defesa de ML de maneira diferente – desenvolvendo defesas de base ampla que abordem os numerosos ataques possíveis em determinados cenários que podem fazer com que um modelo de ML classifique incorretamente ou interprete mal os dados. Devido à sua ampla pegada arquitetônica e liderança em segurança, a Intel está posicionada de maneira única para ajudar a impulsionar inovações na tecnologia de IA e ML, com uma participação significativa no resultado.

O objetivo do programa GARD é estabelecer fundamentos teóricos do sistema de ML que não apenas identifiquem vulnerabilidades do sistema e caracterizem propriedades para aprimorar a robustez do sistema, mas também promovam a criação de defesas eficazes. Por meio desses elementos do programa, o GARD visa criar tecnologias de ML resistentes a decepções com critérios rigorosos para avaliar sua eficácia.

Na primeira fase do GARD, a Intel e a Georgia Tech estão aprimorando as tecnologias de detecção de objetos por meio de coerência espacial, temporal e semântica para imagens estáticas e vídeos.

Deixe seu comentário