CNJ sob a lente da administração gerencial e uso de IA: controle do risco de discriminação algorítmica

Resumo

Este artigo analisa os riscos de viés discriminatório e a opacidade algorítmica no uso da Inteligência Artificial (IA) pelo Poder Judiciário brasileiro. Partindo da reforma gerencialista de Bresser-Pereira, investiga-se como a busca pela eficiência e celeridade, consolidada pelo Conselho Nacional de Justiça (CNJ), impulsionou a adoção de ferramentas de machine learning na automação de decisões judiciais. O problema central reside na possibilidade de controle desses riscos em sistemas que operam sob a lógica da "caixa-preta". Metodologicamente, utiliza-se a abordagem dedutiva e o direito comparado, contrastando a Resolução nº 615/2025 do CNJ com o EU AI Act europeu e as diretrizes da UNESCO (2024). A análise destaca o caso americano COMPAS como paradigma de violação de direitos fundamentais. Os resultados indicam que o modelo regulatório brasileiro, ao priorizar o controle a posteriori em detrimento de testes prévios (sandboxes), incrementa o risco de danos coletivos e a consequente responsabilidade civil do Estado por erros judiciários algorítmicos. Conclui-se pela necessidade de uma governança ética baseada na "reserva de humanidade" e na transparência explicável, garantindo que a tecnologia atue como instrumento de isonomia, e não como vetor de reprodução de preconceitos estruturais.