A Organização Internacional de Normalização (ISO) publicou nesta segunda-feira, 18, a norma ISO/IEC 42001:2023 – Tecnologia da Informação – Inteligência Artificial – Sistema de Gestão. Em particular, a norma fornece requisitos e orientações para estabelecer, implementar, manter e melhorar continuamente os sistemas de gestão de inteligência artificial (IA) dentro de uma organização.
A norma esclarece que as suas disposições se aplicam a qualquer organização, independentemente do tamanho, tipo e natureza, que forneça ou utilize produtos ou serviços que utilizem sistemas de IA.
A IA veio definitivamente para ficar, mas certas características da IA, como a capacidade de aprender e melhorar continuamente ou a falta de transparência ou uma lógica claramente compreensível, podem justificar salvaguardas diferentes e ocasionar preocupações adicionais em comparação com a forma como uma tarefa seria tradicionalmente executada.
As organizações podem optar por aplicar estes requisitos utilizando uma abordagem baseada no risco que é comum à maioria das normas de sistemas de gestão, para garantir que o nível apropriado de controlo é aplicado aos casos de utilização, serviços ou produtos específicos de IA dentro do âmbito da organização.
Os potenciais utilizadores beneficiarão do facto de a ISO/IEC 42001 seguir a Estrutura Harmonizada ISO para normas de sistemas de gestão, o que facilitará a sua implementação em harmonia com outros componentes do sistema de gestão.
Normas
Já não existia uma ISO sobre esse tema? A principal diferença entre a ISO 42001 e a ISO 23894, publicada anteriormente, é que o escopo desta última é a adaptação das normas genéricas de gerenciamento de riscos da ISO 38001-2018 aos sistemas IA. Por sua vez, a ISO 42001 se concentra em como uma organização projeta, adota e documenta procedimentos operacionais internos para gerenciar sistemas de IA. Assim, embora a ISO 42001 trate do gerenciamento de riscos, ela está dentro do contexto mais amplo de políticas e procedimentos.
ISO 42001 ou NIST AI Risk Management Framework? Ambos são padrões técnicos de adoção voluntária e podem ser considerados complementares. O NIST AI RMF se concentra principalmente no gerenciamento de riscos de IA, enquanto a ISO 42001 aborda o desenvolvimento de políticas e procedimentos internos para gerenciamento de sistemas de IA de forma mais específica e aprofundada.
“O crescimento do investimento em governança e boas práticas no desenvolvimento e uso de sistemas de IA, refletido na publicação de diferentes mecanismos de autorregulação durante o ano de 2023, demonstra a percepção do mercado acerca da importância de se estabelecer um ambiente seguro e confiável para a implementação de sistemas de IA.” Carolina Giovanini, advogada especialista em direito digital do escritório Prado Vidigal Advogados.
