A recente resolução aprovada pelo Conselho Nacional de Justiça (CNJ), que regulamenta o uso de Inteligência Artificial (IA) no Poder Judiciário, consolida um marco regulatório robusto voltado à inovação responsável. Ao abordar os principais desafios éticos, jurídicos e operacionais do uso de tecnologias inteligentes na justiça, a norma estabelece obrigações claras, limitações técnicas e garantias fundamentais para o cidadão.
Entre os principais eixos da resolução estão o respeito aos direitos fundamentais, a prevenção a vieses discriminatórios, a prestação de contas, a segurança da informação, a preservação da autonomia humana, restrições ao uso da IA em matéria penal e a promoção da diversidade nas equipes de desenvolvimento.
Um dos principais pilares da nova norma é a exigência de que qualquer uso de sistemas de IA seja compatível com os direitos fundamentais assegurados pela Constituição Federal e por tratados internacionais dos quais o Brasil é signatário. Isso significa que, mesmo diante da modernização dos serviços judiciais, os princípios da dignidade humana, da igualdade de tratamento, do devido processo legal e da proteção de dados devem ser rigorosamente observados. Os dados utilizados para treinar modelos de IA devem ser estatisticamente representativos e não podem violar o sigilo de justiça, especialmente quando envolverem informações sensíveis protegidas pela Lei Geral de Proteção de Dados (LGPD).
A prevenção de discriminações estruturais também é um compromisso expresso da resolução. Antes de qualquer modelo de IA ser colocado em produção, ele deverá ser submetido à homologação para verificação de eventuais vieses discriminatórios. Caso se identifique a presença de preconceitos inaceitáveis e sua correção não seja tecnicamente viável, o sistema deve ser descontinuado, com justificativa formal e documentação do caso.
O objetivo é garantir que a tecnologia sirva à justiça, e não perpetue desigualdades já existentes na sociedade. Além disso, todas as decisões baseadas em sugestões algorítmicas devem ser explicáveis, auditáveis e supervisionadas por seres humanos, especialmente quando afetarem diretamente os direitos das partes envolvidas.
Transparência e prestação de contas são outras exigências centrais da nova política de governança digital do Judiciário. Todos os órgãos que desenvolvam ou utilizem IA devem divulgar publicamente os objetivos dos sistemas, os resultados esperados, os custos envolvidos, os responsáveis técnicos, os riscos identificados e as técnicas adotadas para mitigá-los. A resolução exige ainda que todos os incidentes ou falhas operacionais sejam registrados e comunicados ao CNJ, criando uma cultura institucional de monitoramento constante e responsabilidade contínua.
No que se refere à segurança da informação, a norma determina que os dados usados nos treinamentos de IA sejam obtidos de fontes confiáveis — preferencialmente públicas — e que todo o processo esteja protegido contra perda, acesso indevido, modificação ou destruição. Cada versão de um modelo de IA deve ter uma cópia preservada (dataset), assegurando integridade e possibilidade de auditoria. O ambiente de armazenamento e execução dos sistemas precisa seguir padrões reconhecidos de segurança cibernética, reforçando a confiabilidade dos modelos adotados.
Outro ponto importante da resolução é a garantia da autonomia humana no processo decisório. A IA não pode substituir o juiz, devendo atuar apenas como ferramenta de apoio.
Assim, magistrados e servidores — os chamados usuários internos — têm o direito de revisar, questionar ou recusar as sugestões emitidas pelos sistemas inteligentes. Já os usuários externos, como advogados, defensores e jurisdicionados, devem ser claramente informados de que qualquer proposta gerada por IA não possui caráter vinculante e será sempre submetida à avaliação de uma autoridade humana.
Em relação ao uso da IA na esfera penal, a resolução adota uma postura de cautela e restrição. A norma desestimula fortemente a utilização de sistemas preditivos em decisões criminais, reconhecendo o risco de reforço de preconceitos estruturais no sistema penal.
Ainda assim, permite, com limitações, o uso de soluções tecnológicas para tarefas meramente administrativas, como o cálculo de penas, a análise de reincidência e a triagem de processos. Essas atividades, no entanto, devem seguir protocolos estritos e não podem resultar em decisões mais gravosas para o réu do que aquelas que seriam tomadas sem o auxílio da tecnologia.
A composição das equipes que desenvolvem ou implantam soluções de IA também é objeto de regulação específica. A norma exige que os grupos técnicos sejam diversos em sua formação, contemplando aspectos como gênero, raça, etnia, orientação sexual, faixa etária, deficiência e outros marcadores de representatividade. Essa diversidade deve estar presente em todas as etapas do processo — da concepção à validação dos sistemas — e tem como objetivo ampliar o espectro de visões, reduzir o risco de enviesamentos e fortalecer a legitimidade social das soluções desenvolvidas. Além disso, a resolução recomenda uma abordagem interdisciplinar, integrando profissionais de Direito, Tecnologia da Informação, Ciências Sociais, Estatística e outras áreas de conhecimento relevantes para o desenvolvimento ético e técnico da IA no Judiciário.
Com esse conjunto normativo, o CNJ inaugura uma nova etapa na digitalização da justiça brasileira, pautada pela responsabilidade institucional, pelo respeito aos direitos fundamentais e pela busca de uma tecnologia pública a serviço da equidade. O desafio, a partir de agora, será garantir a fiscalização efetiva dessas regras, promover capacitações contínuas e manter os sistemas alinhados aos valores democráticos que regem o Estado de Direito.
Walter Calza Neto, DPO do Corinthians.
