O Conselho Nacional de Justiça aprovou, na terça-feira 18, diretrizes para o uso de ferramentas baseadas em Inteligência Artificial no Judiciário brasileiro. Entre as permissões, destaca-se que, caso todos os requisitos sejam atendidos, juízes poderão utilizar a IA para redigir minutas de decisões judiciais, desde que o conteúdo passe pela verificação do magistrado.
A resolução do CNJ permite que os tribunais desenvolvam suas próprias ferramentas ou as contratem entre as disponíveis no mercado.
O texto estabelece normas de governança, auditoria e supervisão humana em todo o uso da tecnologia, buscando evitar decisões enviesadas e garantir que cada caso seja analisado individualmente. Embora a IA possa auxiliar na análise, toda decisão automatizada será de responsabilidade integral do juiz que assina.
Entre as proibições, fica vedado o uso de IA para prever crimes com base em características pessoais ou comportamentais, incluindo a análise de imagens dos envolvidos. Os sistemas não poderão recorrer ao reconhecimento facial para detectar emoções ou aferir a veracidade de testemunhos, nem classificar cidadãos por condição socioeconômica para justificar decisões.
No que se refere à proteção de dados, o documento enfatiza que os sistemas desenvolvidos ou adquiridos deverão respeitar os princípios de proteção desde a concepção ou, quando aplicável, a proteção por padrão, garantindo a segurança dos dados sem necessidade de ação do usuário.
Para o treinamento das IAs empregadas, os dados utilizados deverão ser anonimizados “sempre que possível”, acompanhados de auditoria e monitoramento para evitar usos indevidos e vazamentos.
Desde dezembro do ano passado, o Supremo Tribunal Federal faz uso da MarIA, sistema desenvolvido especificamente para auxiliar o STF na redação de peças processuais, resumindo votos e relatórios de sessão.