Ana Carolina Corrêa e Gabriela Alves
Em 18 de fevereiro de 2025, o Plenário do Conselho Nacional de Justiça (“CNJ”) aprovou o conjunto de normas (“Resolução”) que norteará a utilização de ferramentas de inteligência artificial (“IA”) no Poder Judiciário para que seja feita em conformidade com normas éticas e de proteção de dados pessoais. Para tanto, a Resolução apresenta os requisitos e a estrutura de governança para o desenvolvimento, o uso e a auditabilidade dessas ferramentas de IA.
Com relação aos requisitos, a Resolução determina, inicialmente, que os tribunais deverão observar a compatibilidade das soluções de IA utilizadas com os direitos fundamentais. Essa verificação deverá ocorrer em todas as fases do ciclo de vida[2] da IA, e os tribunais deverão implementar mecanismos de auditoria e monitoramento contínuos como forma de garantir o cumprimento de tal requisito. Além disso, a Resolução elenca outros requisitos para a utilização de ferramentas de IA buscando garantir, dentre outros, a segurança jurídica, a proteção de dados pessoais, e a não discriminação, como o dever de assegurar que os sistemas de IA auxiliem no julgamento justo e contribuam para eliminar ou minimizar os erros de julgamento decorrentes de preconceitos.
Ainda, a Resolução determina que os tribunais deverão avaliar o grau de risco das soluções de IA com base em fatores como seu potencial impacto nos direitos fundamentais, sua complexidade e seu uso pretendido. Nesse sentido, a Resolução lista as soluções de IA vedadas ao Poder Judiciário – seja por acarretarem risco excessivo à segurança da informação, aos direitos fundamentais ou à independência dos magistrados – como, por exemplo, as soluções que classificam pessoas naturais com base em seu comportamento ou situação social.
A Resolução também prevê que devem ser adotadas medidas de governança pelo tribunal desenvolvedor ou contratante da solução de IA. Entre elas, (i) a publicação de relatórios que detalhem o funcionamento dos sistemas, suas finalidades, dados utilizados e mecanismos de supervisão, (ii) a implementação de acompanhamento contínuo dos sistemas de inteligência artificial[3], e (iii) o acesso à Ordem dos Advogados do Brasil (“OAB”), à advocacia pública, ao Ministério Público e às Defensorias, aos relatórios de auditoria e monitoramento. Ainda, para os modelos de inteligência artificial de alto risco[4], a Resolução apresenta medidas de governança adicionais que devem ser implementadas, como a indicação clara dos objetivos e resultados pretendidos, adoção de medidas para mitigar e prevenir vieses discriminatórios[5], bem como políticas de gestão e governança para promoção da responsabilidade social e sustentável. Os tribunais também deverão promover a avalição de impacto algorítmico[6], incluindo auditorias regulares, monitoramento contínuo, revisões periódicas e a adoção de ações corretivas quando necessário.
Por fim, a Resolução estabelece outras diretrizes para o uso de inteligência artificial, determinando que os sistemas adotados devam garantir a supervisão humana e a explicabilidade[7] dos modelos utilizados. Além disso, a tecnologia não poderá ser utilizada para substituir decisões e, quando utilizada para auxílio em redação de ato judicial, tal uso poderá ser mencionado no corpo da decisão, a critério do magistrado. Ainda que o magistrado não o faça, deve ser realizado o registro da utilização de IA em sistema interno no tribunal, para fins estatísticos, de monitoramento e eventual auditoria.
Nesse sentido, a norma instituiu o Comitê Nacional de Inteligência Artificial do Judiciário que, dentre outros, irá (i) consolidar os padrões de governança e mapeamento de riscos, (ii) avaliar a conveniência de uso da inteligência artificial, (iii) determinar a realização de auditorias, e (iv) estabelecer padrões mínimos de transparência. O Comitê será formado por 14 membros titulares e 13 suplentes, divididos por categoria e designados por ato do Presidente do CNJ.
A nova regulamentação entrará em vigor após 120 dias da data da publicação, e até lá, poderá haver retificações ou atualizações. Para acessar a íntegra da regulamentação, clique aqui.
[1] Fonte: https://www.cnj.jus.br/cnj-aprova-resolucao-regulamentando-o-uso-da-ia-no-poder-judiciario/
[2] Art. 4º, II – ciclo de vida: série de fases que compreende a concepção, o planejamento, o desenvolvimento, o treinamento, o retreinamento, a testagem, a validação, a implantação, o monitoramento e eventuais modificações e adaptações de um sistema de inteligência artificial, incluindo sua descontinuidade, que pode ocorrer em quaisquer das etapas referidas, e o acompanhamento de seus impactos após a implantação.
[3] Art. 4º, I – sistema de inteligência artificial (IA): sistema baseado em máquina que, com diferentes níveis de autonomia e para objetivos explícitos ou implícitos, processa um conjunto de dados ou informações fornecido e com o objetivo de gerar resultados prováveis e coerentes de decisão, recomendação ou conteúdo, que possam influenciar o ambiente virtual, físico ou real.
[4] A Resolução elenca, em seu “Anexo de classificação de riscos”, as finalidades e contextos de desenvolvimento de soluções baseadas em inteligência artificial consideradas como de alto risco.
[5] Art. 4º, IXXX – Viés discriminatório ilegal ou abusivo: resultado indevidamente discriminatório que cria, reproduz ou reforça preconceitos ou tendências, derivados ou não dos dados ou seu treinamento.
[6] Art. 4º, XI – avaliação de impacto algorítmico: análise contínua dos impactos de um sistema de IA sobre os direitos fundamentais, com a identificação de medidas preventivas, mitigadoras de danos e de maximização dos impactos positivos, sem a violação da propriedade industrial e intelectual da solução de IA utilizada.
[7] Art. 4º, XVIII – explicabilidade: compreensão clara, sempre que tecnicamente possível, de como as “decisões” são tomadas pela IA.
O presente info possui finalidade meramente informativa e sem caráter de aconselhamento jurídico. As informações contidas neste info não devem ser utilizadas ou aplicadas indistintamente a fatos ou circunstâncias concretas sem consulta prévia a um advogado. As opiniões contidas neste info são as expressadas pelo(s) respectivo(s) autor(es) e podem não necessariamente refletir a opinião do escritório ou dos clientes do escritório; e estão sujeitas a alteração sem ulterior notificação.
