Justiça ou caixa-preta? Estudo alerta para erro judiciário algorítmico e revela que União pode ser responsabilizada por falhas da IA nos tribunais

Publicado em: 22 de abril de 2026, às 10:47 (Horário de Brasília)

O uso de inteligência artificial (IA) para agilizar processos no Judiciário brasileiro pode trazer um efeito colateral perigoso: o “erro judiciário algorítmico”. Um estudo publicado na Revista Sociedade Científica (vol. 9, n. 1, 2026) alerta que sistemas como o “Victor” (STF) e o “Hércules” (TJAL) podem reproduzir vieses e operar como “caixas-pretas”, gerando prejuízos a cidadãos. A pesquisa conclui que, mesmo diante de falhas técnicas, o Estado deve indenizar os prejudicados com base na responsabilidade objetiva, abrindo um precedente crucial para a era da automação jurídica.

O fenômeno da “caixa-preta” nos tribunais

O artigo intitulado “Erro judiciário algorítmico e responsabilidade estatal no Poder Judiciário brasileiro”, de autoria de Giordana de Oliveira Scarano, Ítalo Lopes Gondim e Marcela Melo de Freitas, faz um raio-x da situação atual. Enquanto o Conselho Nacional de Justiça (CNJ) promove o programa Justiça 4.0, a pesquisa revela que a maioria das ferramentas de IA está concentrada em atividades-meio (triagem e gestão). No entanto, sistemas mais avançados, como o Elis (TJPE) e o Aslan (TJAL), já auxiliam na elaboração de minutas decisórias, aproximando-se perigosamente da função jurisdicional. O grande risco, segundo os pesquisadores, é a falta de transparência. Citando o autor Frank Pasquale, o estudo explica que muitos algoritmos são verdadeiras “caixas-pretas”: nem seus desenvolvedores conseguem explicar integralmente como chegaram a um resultado. Isso desafia a Constituição Federal, que exige a motivação clara de todas as decisões judiciais (art. 93, IX).

Quando a máquina erra, quem paga a conta?

A principal tese do estudo é inovadora: a responsabilidade civil do Estado permanece intacta, independentemente da complexidade tecnológica. Com base no artigo 37, §6º da Constituição, os autores sustentam a teoria do risco administrativo. Se o Estado decide adotar IA para modernizar a Justiça, ele assume os riscos dessa inovação. “A utilização de sistemas algorítmicos no Poder Judiciário não pode ser compreendida como fator capaz de afastar o dever de reparação estatal”, afirmam os pesquisadores. Isso significa que, se um sistema classificar erroneamente um recurso ou gerar um viés discriminatório contra uma parte, o prejudicado não precisa provar que o juiz ou o programador agiu com má fé; basta demonstrar o dano e o nexo causal com o uso da ferramenta pública.

As salvaguardas necessárias contra a “justiça das máquinas”

Para evitar que a tecnologia crie “zonas de irresponsabilidade”, o artigo exige a implementação rigorosa de quatro pilares, já previstos na Resolução CNJ nº 615/2025:

• Transparência: Divulgação clara sobre quais IAs estão sendo usadas e para quê.
• Explicabilidade: A decisão auxiliada por IA precisa ser inteligível ao ser humano.
• Auditabilidade: Tribunais devem permitir auditorias periódicas para detectar vieses.
• Supervisão humana significativa: Proibição total da “jurisdição robótica”. A decisão final é sempre do magistrado.

O estudo destaca ainda a importância da Lei Geral de Proteção de Dados (LGPD) e do Projeto de Lei nº 2.338/2023, que tramita no Senado e classifica sistemas judiciais como de “alto risco”, exigindo controles mais rígidos.

O veredito final da pesquisa

Os pesquisadores concluem que não se trata de demonizar a tecnologia, mas de domesticá-la juridicamente. “A confiabilidade do sistema de justiça no século XXI depende da preservação de sua inteligibilidade humana”, destacam. Para que a IA não se torne um “oráculo opaco”, o Judiciário precisa investir em capacitação de magistrados, curadoria de dados (para evitar reprodução de desigualdades sociais) e relatórios de impacto algorítmico acessíveis ao público.

---

Sobre os autores

---

Mapa do site: Revista Sociedade Científica | Edição Atual *Este conteúdo é uma comunicação jornalística baseada no artigo original de acesso aberto licenciado sob Creative Commons.