De acordo com a resolução aprovada, as minutas geradas por IA precisam passar por uma etapa de interpretação, verificação e revisão por parte do magistrado responsável pelo processo. Dessa forma, o juiz permanece integralmente responsável pelas decisões tomadas, mesmo que a redação inicial tenha sido produzida artificialmente.
O conselheiro Luiz Fernando Bandeira de Mello, que coordenou a elaboração da norma, fez questão de destacar que ninguém será julgado por robôs, reforçando a importância da supervisão humana em todo o processo decisório. Uma das prioridades estabelecidas é a prevenção de vieses discriminatórios, sendo proibido o uso de IA que classifique ou ranqueie pessoas com base em características sociais ou que avalie traços de personalidade para prever a prática de crimes.
A medida é resultado de um grupo de trabalho instituído pelo CNJ no ano passado para analisar a utilização da IA nos tribunais brasileiros e atualizar uma resolução anterior, de 2020, que não previa a redação de decisões judiciais por meio dessa tecnologia. A resolução reconhece a necessidade de adaptação às novas tecnologias, especialmente as inteligências artificiais generativas.
A IA generativa é definida no regulamento como qualquer sistema destinado a gerar ou modificar texto, imagens, áudio, vídeo ou código de software com diferentes níveis de autonomia. Algumas das ferramentas mais conhecidas desse tipo são os chatbots, capazes de simular conversas e produzir textos similares aos escritos por humanos com base em grande quantidade de dados processados.
Atualmente, o Judiciário brasileiro conta com aproximadamente 140 projetos para implementação de IA nos tribunais, sendo que cerca de uma dezena deles são dedicados ao auxílio na redação de documentos jurídicos. As principais aplicações já em uso são a busca e agrupamento de casos semelhantes e a classificação de documentos.
Um dos sistemas de IA generativa em operação é o MarIA, lançado pelo Supremo Tribunal Federal (STF) no ano passado, que auxilia na redação de peças processuais. Inicialmente, o MarIA está sendo utilizado para resumir votos e relatórios, além de sugerir respostas específicas para um tipo de processo constitucional.
A contratação de ferramentas de IA pelas instituições judiciárias pode ser realizada entre as disponíveis no mercado ou por meio do desenvolvimento de chatbots próprios, conforme estabelecido pela resolução do CNJ. Em casos onde os tribunais não possuem soluções corporativas, os juízes podem contratar chatbots, desde que observados os critérios de risco determinados pelo conselho.
Além disso, a resolução cria o Comitê Nacional de Inteligência Artificial no Judiciário, composto por 15 integrantes de entidades como a OAB, o Ministério Público e a Defensoria Pública. O comitê tem a função de avaliar a conveniência do uso de soluções de IA disponíveis no mercado pelos magistrados e servidores, além de revisar os riscos na utilização dessas tecnologias.
Diante das novas diretrizes, o uso de IA generativa está vedado em processos que envolvam informações sigilosas ou tramitem em segredo de Justiça, visando garantir a segurança e a confidencialidade dos dados. Com isso, o Poder Judiciário brasileiro avança na modernização e na adaptação às novas tecnologias, buscando aprimorar a eficiência e a transparência nos procedimentos jurídicos.
