Uma pesquisa recente do Comitê Gestor da Internet, a TIC Governo 2025, revelou que 94% dos órgãos do Poder Judiciário brasileiro já utilizam inteligência artificial. O dado impressiona, mas não deve ser celebrado sem uma análise crítica do engenheiro de software que está acostumado a lidar com sistemas em produção. Quando falamos de um tribunal, não estamos discutindo recomendação de filmes ou precificação dinâmica de passagens aéreas. Estamos falando de decisões que afetam liberdade, patrimônio e a vida de milhões de cidadãos.
Antes de pensar no potencial transformador, é preciso entender que a adoção em escala de 94% não significa maturidade ou qualidade. Significa, antes de tudo, penetração. E penetração sem governança é receita para desastre. Nos meus anos de experiência em arquitetura de sistemas críticos, aprendi a desconfiar de métricas de adoção que não vêm acompanhadas de métricas de conformidade, auditoria e taxa de erro. O Judiciário brasileiro está, neste momento, operando um dos maiores experimentos de IA aplicada a direitos fundamentais do mundo, e a pergunta que não quer calar é: quem está garantindo que esses sistemas funcionam como deveriam?
Infraestrutura de dados: o calcanhar de Aquiles invisível
Todo engenheiro de software que já trabalhou com modelos de machine learning sabe que a qualidade da saída é diretamente proporcional à qualidade da entrada. No contexto do Judiciário, os dados de treinamento são decisões históricas, petições, jurisprudências e movimentações processuais. O problema é que boa parte desse acervo digital foi gerado sem padronização, com metadados inconsistentes e, em muitos casos, com erros de digitação e classificação que se acumulam há décadas. Treinar um modelo com esses dados é como construir um prédio sobre uma fundação de areia movediça.
A pesquisa da TIC Governo aponta que a IA está presente, mas não detalha quantos desses sistemas foram validados externamente, quantos têm seus vieses documentados e, mais importante, quantos são auditáveis por partes interessadas. Em tribunais onde a infraestrutura de dados ainda depende de sistemas legados como DJE (Diário da Justiça Eletrônico) em formatos não estruturados, a ingestão de dados para modelos de linguagem natural é um exercício de engenharia reversa que consome recursos e introduz ruído. Já vi projetos de IA promissores naufragarem porque a equipe de dados subestimou a sujeira dos datasets históricos. No Judiciário, o custo desse erro não é financeiro — é social.
Viés algorítmico e a ilusão da neutralidade tecnológica
Um dos argumentos mais repetidos por entusiastas da IA no direito é que a máquina seria mais imparcial que o juiz humano. Essa narrativa é perigosa porque escamoteia um fato técnico incontornável: todo modelo de aprendizado de máquina carrega os vieses dos dados com os quais foi treinado. Se o Judiciário brasileiro historicamente toma decisões desproporcionais contra populações vulneráveis — o que está fartamente documentado em estudos criminológicos e sociológicos —, um modelo treinado nessas decisões tende a reproduzir e amplificar essas injustiças, não a corrigi-las.
Do ponto de vista da engenharia, corrigir viés em modelos de classificação jurídica não é trivial. Diferente de problemas de visão computacional, onde você pode balancear classes com aumento de dados sintéticos, no direito a noção de "justiça" é normativa e contestável. Não existe ground truth para "decisão justa". O que existe é um consenso jurisprudencial que muda com o tempo e com a composição dos tribunais. Um modelo treinado em 2023 pode estar desalinhado com a jurisprudência de 2025, e a atualização desse modelo não é apenas um problema técnico — é um problema de governança que exige revisão humana constante.
Não estou dizendo que a IA no Judiciário seja intrinsecamente negativa. Pelo contrário: sistemas bem projetados podem reduzir drasticamente o tempo de tramitação de processos repetitivos, liberar juízes para análises mais complexas e aumentar a transparência ao padronizar decisões sobre temas consolidados. O problema é o salto acrítico da automação de tarefas administrativas para a tomada de decisões substantivas sem a devida camada de supervisão e contestabilidade.
O gargalo da contestabilidade e do direito ao contraditório
Em sistemas de IA que auxiliam na redação de sentenças ou na classificação de petições, surge uma questão de engenharia de produto que muitas vezes é negligenciada: como garantir que o cidadão ou seu advogado possa contestar uma decisão que teve influência algorítmica? Se o modelo classifica uma petição como "sem fundamento" e o sistema a arquiva automaticamente, qual é o mecanismo de recurso técnico? Em tribunais mais digitalizados, já existem relatos de advogados que tiveram recursos indeferidos por sistemas de IA sem que houvesse possibilidade de explicação do motivo do indeferimento.
Do ponto de vista da arquitetura de software, isso exige que o sistema não apenas registre em log qual foi a saída do modelo, mas também serialize e armazene o contexto completo da decisão — versão do modelo, features utilizadas, confiança da predição e caminho de inferência. Não é um requisito trivial e impõe custos de armazenamento e latência que muitos tribunais não estão preparados para absorver. Mas sem essa rastreabilidade, o direito ao contraditório vira letra morta.
Modelos de linguagem no Judiciário: o risco da alucinação em documentos legais
Com a popularização dos grandes modelos de linguagem (LLMs), vários tribunais começaram a experimentar ferramentas de sumarização de processos e redação assistida de minutas. Aqui o risco é ainda mais agudo. Diferente de um classificador que atribui uma categoria, um modelo generativo pode produzir texto fluente, coerente e completamente falso. No contexto jurídico, uma alucinação que atribui um precedente inexistente ou interpreta incorretamente um artigo de lei não é um bug aceitável — é uma falha sistêmica que pode invalidar um processo inteiro.
Em projetos de IA generativa que liderei, sempre defendi que a saída do modelo deve ser tratada como um rascunho de alta qualidade, não como verdade. Isso implica projetar a interface de usuário para que o operador do direito — juiz, assessor ou servidor — seja forçado a revisar, editar e confirmar cada trecho gerado. Não basta um botão de "aceitar tudo". O design de produto tem que induzir uma postura crítica, e isso é uma decisão de engenharia tanto quanto de experiência do usuário.
A maturidade dos tribunais e a heterogeneidade técnica
Outro ponto que a pesquisa da TIC Governo não captura é a enorme disparidade técnica entre os tribunais brasileiros. Um tribunal de grande porte como o TJSP ou o TRF da 3ª Região pode ter equipes dedicadas de ciência de dados, infraestrutura em nuvem e pipelines de MLOps. Já um tribunal de pequeno porte no interior do Norte ou Nordeste pode estar rodando modelos em servidores locais com capacidade computacional limitada e equipe de TI enxuta, sem especialização em IA.
Isso cria um cenário perigoso de "IA de fachada": sistemas que foram desenvolvidos por terceiros, implantados sem validação local e que operam como caixas-pretas. Sem a capacidade de auditar o código, re-treinar o modelo com dados locais ou até mesmo interpretar as métricas de desempenho, esses tribunais ficam reféns de fornecedores e de decisões técnicas tomadas sem o devido contexto jurisdicional. Para um engenheiro de software, isso é o pior dos mundos: alta responsabilidade com baixo controle.
Governança de IA: o que falta e o que podemos aprender
O Brasil já deu passos importantes, como a criação do Sistema de Inteligência Artificial do Poder Judiciário (SIAJ) e a Resolução 332/2020 do CNJ, que trata da ética e transparência no uso de IA. Mas a pesquisa mostra que o discurso normativo está longe da prática operacional. Ter uma política de governança documentada não é o mesmo que ter um processo de auditoria contínuo e independente. Da minha experiência, muitos órgãos públicos tratam a documentação de conformidade como um checklist burocrático, não como um requisito de engenharia vivo que evolui com o sistema.
Para que a IA no Judiciário seja confiável, preciso ver três práticas se consolidarem. Primeiro, a publicação obrigatória de relatórios de impacto algorítmico para qualquer sistema que influencie decisões judiciais, à semelhança do que a União Europeia está discutindo no AI Act. Segundo, a realização de auditorias independentes periódicas, conduzidas por entidades externas ao tribunal, com acesso ao código-fonte e aos dados de treinamento. Terceiro, a criação de canais de contestação técnica, onde advogados e cidadãos possam questionar não apenas a decisão final, mas o processo algorítmico que a gerou.
Não são medidas simples e terão custos. Mas o custo de não fazê-las, em termos de erosão da confiança no sistema judiciário, é muito maior. Como engenheiro, sei que software nunca é neutro. Cada escolha de arquitetura, cada hiperparâmetro, cada feature incluída ou excluída do modelo carrega uma decisão de projeto que reflete valores. O Judiciário brasileiro precisa reconhecer isso e tratar a IA não como uma solução mágica, mas como uma ferramenta que exige o mesmo rigor, transparência e possibilidade de recurso que qualquer outro ato processual.
A boa notícia é que temos condições técnicas e normativas para fazer isso. A má notícia é que a velocidade de adoção está superando a velocidade de governança. E em sistemas de alto risco, essa diferença é o terreno onde os acidentes acontecem. Não para alarmar, mas para lembrar que, em engenharia e no direito, o princípio da precaução nunca sai de moda.