Em um momento histórico para a regulamentação tecnológica global, a União Europeia estabelece um novo precedente com a introdução do "Artificial Intelligence Act". Esta legislação pioneira, que se destaca como um marco na governança da Inteligência Artificial (IA), visa estabelecer um equilíbrio entre o fomento da inovação tecnológica e a salvaguarda dos direitos fundamentais e valores democráticos. Neste artigo, exploraremos as nuances deste regulamento, destacando suas implicações, proibições específicas, salvaguardas para a aplicação da lei, e as medidas destinadas a apoiar a inovação e as pequenas e médias empresas (PMEs), junto com as sanções estipuladas para o não cumprimento.
Em uma recente sessão de negociações, os eurodeputados, juntamente com o Conselho da UE, alcançaram um acordo político provisório sobre este marco legal. Este regulamento visa proteger os direitos fundamentais, a democracia, o estado de direito e a sustentabilidade ambiental contra os riscos apresentados pela IA de alto risco, enquanto estimula a inovação e coloca a Europa na vanguarda do desenvolvimento de IA.
Aplicações Proibidas
O ato legislativo reconhece e proíbe aplicações de IA que representam ameaças potenciais aos direitos dos cidadãos e à democracia. Estão incluídas proibições a:
Sistemas de categorização biométrica baseados em características sensíveis, como crenças políticas, religiosas ou orientação sexual.
Coleta indiscriminada de imagens faciais para criação de bases de dados de reconhecimento facial.
Uso de reconhecimento de emoções em locais de trabalho e instituições educacionais.
Sistemas de pontuação social e IA que manipulam o comportamento humano.
A nova legislação europeia sobre Inteligência Artificial aborda de maneira criteriosa a delicada questão do uso de sistemas de identificação biométrica por forças da lei em espaços públicos. Reconhecendo a necessidade de ferramentas eficazes no combate ao crime, ao mesmo tempo em que se protegem os direitos individuais, o "Artificial Intelligence Act" estabelece salvaguardas e exceções restritas para o uso desses sistemas.
Essas exceções para a aplicação da lei são cuidadosamente balizadas por condicionantes que visam preservar as liberdades civis. Primeiramente, qualquer uso de sistemas de identificação biométrica em espaços públicos para fins de aplicação da lei requer autorização judicial prévia, assegurando assim uma supervisão independente e uma avaliação casuística da necessidade e proporcionalidade da medida.
Adicionalmente, o uso desses sistemas é restringido a listas estritamente definidas de crimes. Tal medida é crucial para evitar abusos e garantir que a tecnologia seja empregada apenas em situações onde realmente se faz necessária e justificada, como em casos de crimes graves que representem uma ameaça significativa à segurança pública.
Esta abordagem reflete um esforço consciente de equilibrar as vantagens da tecnologia avançada com o imperativo de proteger os direitos e liberdades fundamentais. Ao estabelecer um quadro regulatório claro e restritivo para o uso de IA na aplicação da lei, a UE está tomando uma posição firme contra o uso indiscriminado de tecnologias invasivas, ao mesmo tempo em que reconhece seu potencial para contribuir para uma sociedade mais segura.
Sistemas de IA classificados como de alto risco deverão atender a obrigações específicas, incluindo uma avaliação de impacto em direitos fundamentais. Isso se aplica a setores como seguros e bancário, e sistemas utilizados em processos eleitorais.
Foi acordado que sistemas gerais de IA (GPAI) devem aderir a requisitos de transparência, incluindo a elaboração de documentação técnica e cumprimento da lei de direitos autorais da UE.
A legislação europeia sobre Inteligência Artificial (IA) não se limita a estabelecer restrições e obrigações. Ela também demonstra um forte compromisso com o fomento à inovação e apoio às pequenas e médias empresas (PMEs), componentes vitais para o crescimento econômico e o avanço tecnológico. O acordo alcançado promove de forma proativa a implementação de "sandbox regulatório" e a realização de testes no mundo real. Estas iniciativas, estabelecidas por autoridades nacionais, são projetadas para oferecer um ambiente seguro e controlado onde empresas podem desenvolver e treinar soluções de IA inovadoras.
Esta abordagem proporciona um equilíbrio entre a regulamentação necessária e o espaço para experimentação. As PMEs, em particular, se beneficiam desses "sandbox", pois podem testar suas inovações em condições reais de mercado sem a pressão imediata das rigorosas regulamentações que se aplicam a produtos e serviços já disponíveis ao público. Isso não só acelera o ciclo de inovação, mas também oferece um caminho menos oneroso para a introdução de novas tecnologias no mercado, incentivando a competitividade e a diversidade no setor de IA.
Além disso, ao permitir que as PMEs testem suas inovações em ambientes reais, esses "sandbox" oferecem a oportunidade de coletar dados valiosos e feedback direto dos usuários, essenciais para o refinamento e aprimoramento de produtos e serviços de IA. Este suporte direcionado às PMEs é um reconhecimento da importância dessas empresas no ecossistema de IA e um investimento no futuro da inovação tecnológica na Europa.
Em suma, a iniciativa de fomentar a inovação e apoiar as PMEs, conforme delineada no "Artificial Intelligence Act", reflete uma estratégia abrangente que visa criar um ambiente regulatório que não apenas protege os cidadãos e seus direitos, mas também promove um ecossistema tecnológico saudável e dinâmico. Este equilíbrio é essencial para garantir que a Europa continue a ser um líder global em IA, incentivando ao mesmo tempo a inovação responsável e ética.
A União Europeia adotou uma postura rigorosa para garantir a adesão ao "Artificial Intelligence Act". As penalidades para o não cumprimento das regras são severas, refletindo a seriedade com que a UE aborda a regulamentação da IA. As multas estabelecidas para as infrações são substanciais, variando de 35 milhões de euros ou até 7% do faturamento global, a 7,5 milhões ou até 1,5% do faturamento da empresa, dependendo da gravidade da infração e do porte da empresa infratora. Essas sanções são um claro indicativo da intenção da UE de assegurar que as empresas que operam com tecnologias de IA não apenas respeitem os padrões estabelecidos, mas também assumam a responsabilidade por qualquer impacto negativo que suas operações possam ter sobre os direitos fundamentais, a democracia e a segurança pública. A implementação destas sanções sublinha a determinação da União Europeia em liderar globalmente na criação de um ambiente tecnológico ético e responsável.
O texto acordado agora deverá ser formalmente adotado pelo Parlamento e pelo Conselho para se tornar uma lei da UE. As comissões de Mercado Interno e Liberdades Civis do Parlamento votarão no acordo em uma reunião futura.
O "Artificial Intelligence Act" da União Europeia representa um avanço significativo na regulamentação da IA, posicionando a Europa na vanguarda da legislação tecnológica. Ao equilibrar inovação e proteção de direitos, este ato não apenas estabelece um padrão para outras jurisdições globais, mas também sublinha o compromisso europeu com uma abordagem centrada no ser humano para o avanço tecnológico. À medida que o Parlamento e o Conselho se preparam para a adoção formal deste regulamento, o mundo observa com expectativa o impacto potencial desta legislação no cenário tecnológico global e na evolução futura da IA. Este ato legislativo não é apenas um marco regulatório; é um testemunho do compromisso europeu com uma sociedade digital responsável e ética.
Vale pontuar que a adoção do "Artificial Intelligence Act" pela União Europeia pode ter implicações significativas para o Brasil, que atualmente está em processo de tramitação de três projetos de lei próprios que visam regulamentar a Inteligência Artificial. A legislação europeia, estabelecendo padrões rigorosos e abrangentes, pode servir como um modelo valioso para os legisladores brasileiros.
O Brasil, buscando posicionar-se como um player importante no cenário tecnológico global, pode se inspirar nos princípios e estruturas regulatórias da UE, e de outros países de vanguarda como Singapura, especialmente no que diz respeito à proteção dos direitos fundamentais, salvaguardas de privacidade e ética na aplicação da IA. Além disso, as empresas brasileiras que operam em mercados internacionais, ou que mantêm parcerias com entidades europeias, precisarão alinhar suas práticas e políticas de IA com essas novas regulamentações para garantir a conformidade e manter suas operações no mercado europeu. Assim, a legislação europeia não só influencia o quadro regulatório brasileiro em formação, mas também impulsiona uma mudança mais ampla nas práticas corporativas relacionadas à IA no Brasil.
Walter Calza Neto, DPO do Corinthians.
