Há alguns dias, a associação de juízes da Alemanha (DRB) fez um movimento que, para quem não acompanha o direito constitucional europeu, pode parecer apenas mais um debate jurídico institucional. O pedido é claro: blindar o Ministério Público alemão de interferências políticas, especialmente diante do avanço eleitoral do partido de ultradireita Alternativa para a Alemanha (AfD). A estrutura atual do país coloca os ministérios públicos sob o guarda-chuva do Poder Executivo, e a história já mostrou que governos podem usar esse controle para orientar investigações – ou abafar processos inconvenientes.
Como profissional de tecnologia que atua há anos com segurança da informação e infraestrutura em nuvem, confesso que meu primeiro reflexo ao ler essa notícia foi traçar um paralelo com algo que discutimos diariamente em projetos de inteligência artificial aplicada: a independência dos sistemas de decisão. Afinal, se um governo pode influenciar quais crimes serão priorizados por um promotor, o que impede que um algoritmo treinado com dados desse mesmo Ministério Público carregue um viés político estrutural? A conexão entre a luta dos juízes alemães e os desafios da governança algorítmica não é apenas retórica – ela expõe fragilidades que precisamos enfrentar em qualquer aplicação de IA em serviços públicos.
Por que a estrutura alemã é um alerta para sistemas de IA na Justiça
Na Alemanha, o Ministério Público é subordinado ao Ministério da Justiça estadual ou federal, dependendo da instância. Isso significa que, em tese, um governo pode dar instruções genéricas ou específicas sobre como conduzir investigações. O DRB argumenta que, com a ascensão de partidos como a AfD, que já demonstraram menosprezo pelo Estado de Direito, essa subordinação se torna um risco concreto. A proposta é modificar a lei para criar um modelo mais próximo do que vemos no Brasil ou nos Estados Unidos, onde o Ministério Público goza de autonomia funcional e administrativa.
Agora, imagine um sistema de recomendação de priorização de casos alimentado por dados históricos de um Ministério Público que sofreu influência política. Esse algoritmo aprenderia padrões enviesados – por exemplo, perseguir crimes de imigração com mais rigor em períodos de governo conservador, ou aliviar investigações de corrupção durante certas gestões. O problema não é apenas técnico; é uma questão de desenho institucional. Se a base de treinamento reflete decisões politicamente orientadas, o modelo de IA vai perpetuar e até amplificar esses vieses, criando um ciclo vicioso difícil de quebrar.
Já participei de projetos em que precisávamos usar dados judiciais brasileiros para treinar modelos de predição de litígios. A primeira dificuldade foi justamente entender o grau de independência real das promotorias e varas. Sem essa clareza, qualquer métrica de “performance” da Justiça se torna questionável. O caso alemão escancara que a independência não é um luxo burocrático – é um pré-requisito para qualquer sistema de IA que se proponha a ser justo e confiável.
Governança de dados e o mito da neutralidade algorítmica
Uma das lições mais incômodas que aprendi ao longo dos anos é que não existe algoritmo neutro. Todo modelo carrega as escolhas, os vieses e as limitações de quem o construiu e dos dados que o alimentam. Quando falamos de Ministério Público e IA, estamos lidando com o poder de decidir quem será investigado, processado ou absolvido – ainda que indiretamente. Na Alemanha, o DRB está preocupado com a interferência política no nível humano; mas, num futuro próximo, a interferência pode ser embutida no código.
Pense em um sistema de análise de risco criminal usado para definir fianças ou penas alternativas. Se os dados de treinamento vierem de um Ministério Público que historicamente perseguiu minorias étnicas (como a comunidade turca na Alemanha) sob ordens de um governo de extrema direita, o modelo reproduzirá essa perseguição de forma estatística, mas com a falsa aura de objetividade que um algoritmo carrega. O DRB está, no fundo, pedindo que a Alemanha se antecipe a esse cenário, garantindo que a cadeia de produção de dados da Justiça seja independente desde a origem.
Do ponto de vista da engenharia de software, isso implica exigir que os sistemas de IA utilizados pelo Ministério Público tenham auditoria completa de todo o pipeline de dados – desde a coleta até o treinamento. Não basta ter um modelo explicável; é preciso ter garantias de que os dados históricos não foram contaminados por instruções políticas. E esse é um requisito muito mais duro do que parece, porque envolve transparência governamental, acesso público a metadados de decisões e, principalmente, uma cultura institucional que valorize a independência.
O trade-off entre eficiência e controle
Defensores de soluções de IA na Justiça costumam argumentar que algoritmos podem reduzir a discricionariedade humana, tornando as decisões mais rápidas e consistentes. Há mérito nesse argumento, especialmente em países com grande volume de processos, como o Brasil. Contudo, a discricionariedade humana também é uma forma de proteção: um promotor independente pode se recusar a obedecer a uma instrução ilegal ou imoral; um algoritmo, não.
No contexto alemão, o DRB quer justamente fortalecer a capacidade dos promotores de resistir a pressões políticas. Se substituirmos parte dessa discricionariedade por modelos de IA, estaremos transferindo o poder de decisão de um humano potencialmente independente para um sistema que pode ser manipulado por quem controla os dados e os algoritmos – ou seja, o mesmo governo que se quer conter. O trade-off é claro: ganha-se em escala e consistência, mas perde-se em autonomia e capacidade de desobediência institucional.
Não estou dizendo que IA não deva ser usada na Justiça. Pelo contrário, acredito que o uso inteligente de aprendizado de máquina pode ajudar a identificar padrões de corrupção, otimizar a alocação de recursos e até prever gargalos processuais. Mas isso exige salvaguardas que a maioria dos projetos atuais ignora. Uma delas é separar claramente quem define as regras de negócio do algoritmo de quem fornece os dados. No caso alemão, qualquer sistema de IA desenvolvido para o Ministério Público deveria ser auditado por um conselho independente, com participação de juízes, promotores e especialistas em ética algorítmica – exatamente o que o DRB está sugerindo para as atividades humanas da instituição.
Implicações para o mercado de trabalho e para produtos digitais
O debate alemão também ressoa no mercado de tecnologia. Profissionais de engenharia de software e IA que atuam em projetos governamentais precisam desenvolver uma sensibilidade jurídico-institucional que raramente é ensinada nos cursos técnicos. Saber modelar dados não basta; é preciso entender o contexto legal em que esses dados foram gerados e como a arquitetura de poder pode distorcê-los. Isso abre espaço para um novo perfil profissional: o engenheiro de governança algorítmica, que une competências de ciência da computação, direito e políticas públicas.
Para empresas que desenvolvem produtos de IA voltados à Justiça (como sistemas de gestão de processos, análise preditiva ou ferramentas de investigação), o recado é direto: não adianta ter o melhor modelo AUC-ROC se o cliente institucional não tiver independência garantida. O risco de reputação e legal é enorme. Um sistema treinado com dados de um Ministério Público politicamente capturado pode ser questionado judicialmente, invalidar condenações e gerar responsabilizações para a empresa desenvolvedora.
Do ponto de vista de infraestrutura em nuvem e segurança, a independência também se traduz em requisitos de isolamento. Se um governo pode influenciar o Ministério Público, ele pode também tentar acessar dados sigilosos armazenados em sistemas de IA – como investigações em andamento. Soluções de sovereign cloud, com criptografia controlada por entidades independentes, tornam-se não apenas uma boa prática, mas uma exigência de Estado de Direito. O caso alemão mostra que a blindagem técnica anda de mãos dadas com a blindagem institucional.
Riscos e limitações: o que a tecnologia não pode resolver
Há quem acredite que a tecnologia por si só pode garantir a imparcialidade – que blockchains imutáveis ou algoritmos transparentes resolveriam a interferência política. Discordo frontalmente. Um sistema pode ser tecnicamente correto e ainda assim ser usado para o mal se a instituição que o opera não for independente. O blockchain não impede que um governo oriente quais dados devem ser registrados. Um modelo explicável não impede que a explicação seja usada para justificar uma decisão injusta.
O DRB está certo em focar na mudança legal antes de qualquer automação. A independência do Ministério Público é um pilar do Estado Democrático de Direito, e sem ela qualquer IA aplicada à Justiça será um reflexo da vontade política dominante, não da lei. Isso não significa que devemos parar de inovar; significa que devemos inovar com a institucionalidade correta. Como profissional de tecnologia, prefiro construir sistemas que operem dentro de uma estrutura de freios e contrapesos robusta – mesmo que isso signifique desenvolver modelos menos “performáticos”, mas mais justos.
Uma perspectiva pessoal sobre o futuro
O movimento dos juízes alemães me lembra de uma discussão que tive com um colega promotor brasileiro sobre o uso de inteligência artificial para definir prioridades de investigação no combate à lavagem de dinheiro. Ele me disse: “O problema não é o algoritmo; é saber se amanhã o procurador-geral vai querer que o algoritmo foque em crimes de colarinho branco ou em crimes políticos”. Na época, achei que ele estava sendo cético demais. Hoje, com a notícia vinda da Alemanha, vejo que ele estava apenas sendo realista.
O caso alemão não é sobre um partido específico – AfD, CDU, SPD – é sobre o risco estrutural de qualquer sistema jurídico que permita que o Executivo dê ordens ao órgão acusador. E, por extensão, é um alerta para todos nós que trabalhamos com IA aplicada: nosso trabalho só será ético e eficaz se estiver ancorado em instituições que respeitem a separação de poderes. O código não substitui a Constituição. Pelo contrário, ele a executa – e, se a Constituição estiver frágil, o código só amplificará essa fragilidade.
Para quem desenvolve produtos digitais na área de justiça, minha recomendação prática é: investigue a independência do seu cliente. Exija contratos que prevejam auditoria independente dos dados históricos. E, acima de tudo, não aceite o discurso de que “a tecnologia vai resolver problemas políticos”. Tecnologia resolve problemas técnicos; problemas políticos exigem leis, instituições e cidadãos vigilantes. Os juízes alemães nos lembram disso – e cabe a nós, engenheiros de software, não ignorar o recado.