O mito da autonomia total: o que realmente significa “vencer” com IA?
A notícia de que uma inteligência artificial atuou como advogada de defesa e venceu um caso em um tribunal inglês causou alvoroço justificado. Porém, antes de celebrarmos o feito como um marco de autonomia algorítmica, precisamos perguntar: quem realmente venceu? O modelo de linguagem, os engenheiros que o ajustaram, ou os advogados humanos que definiram a estratégia? Na prática, é provável que o sistema tenha operado dentro de um perímetro bem delimitado — talvez com revisão humana em cada argumento — e a vitória tenha sido atribuída à IA por efeito de marketing. Do ponto de vista de privacidade em produto, essa distinção é crucial, porque a responsabilidade por dados sensíveis permanece humana, independentemente de quem “argumenta”.
Assumir que uma IA pode representar legalmente um cliente sem supervisão é um convite ao desastre regulatório. A LGPD brasileira, em seu artigo 20, garante ao titular o direito de revisão de decisões automatizadas que afetem seus interesses. Se uma IA perde um caso ou comete um erro processual, quem explica ao cliente o que aconteceu? O sistema precisa ser capaz de fornecer uma explicação inteligível — e isso exige rastreabilidade total de cada raciocínio. Portanto, antes de replicar o modelo inglês no Brasil, todo product manager deve se perguntar: meu sistema consegue justificar, em linguagem natural, por que escolheu um precedente em vez de outro? Se a resposta for não, a autonomia plena é irresponsável.
Os três desafios de privacidade que a fonte original não aprofundou
A primeira questão é a anonimização em contexto jurídico. Diferentemente de um chatbot de atendimento, uma IA que litiga precisa processar dados absolutamente reais e não anonimizados — nomes, endereços, documentos, histórico criminal. O princípio da minimização da LGPD (art. 6º, III) exige que apenas os dados estritamente necessários sejam coletados. Porém, definir o que é necessário para uma defesa é complexo. Uma decisão de omitir um dado pode enfraquecer o argumento. Times de produto precisam implementar uma camada de “anonimização condicional” que permita revelar informações apenas quando uma regra de relevância jurídica for ativada. Isso não é trivial e envolve ontologias jurídicas.
O segundo desafio é o consentimento informado. Um cliente comum dificilmente entende como um modelo de linguagem processa seus dados. A transparência algorítmica exige que o produto comunique, de forma clara e não jurídica, que o tratamento será feito por um sistema automatizado, quais os riscos de viés e como solicitar intervenção humana. Essa comunicação deve ser registrada digitalmente, com prova de ciência do titular. Na prática, poucas legaltechs brasileiras implementam esse fluxo de consentimento granular — a maioria trata a aceitação dos termos de uso como suficiente, o que fere o espírito da LGPD.
O terceiro ponto, e talvez o mais negligenciado, é a transferência internacional de dados. Se a IA inglesa utilizou modelos hospedados nos Estados Unidos ou na Europa, o caso pode ter envolvido dados de cidadãos brasileiros? O tribunal inglês provavelmente julgou um caso local, mas produtos brasileiros que desejam usar a mesma infraestrutura precisam verificar se o país de destino oferece nível adequado de proteção (art. 33 da LGPD). Na ausência de decisão de adequação para os EUA, cláusulas contratuais padrão ou binding corporate rules são obrigatórias — e muitas startups não as possuem.
Por que o direito à explicação se torna o calcanhar de Aquiles da IA jurídica
A LGPD, inspirada pelo GDPR, estabelece que decisões automatizadas que afetem interesses do titular devem poder ser contestadas por meio de revisão humana. Quando uma IA perde um caso, o cliente tem o direito de saber por que perdeu. Mas como um modelo de deep learning explica sua decisão? Técnicas de XAI como SHAP ou LIME podem apontar quais precedentes foram mais relevantes, mas não conseguem traduzir o raciocínio inferencial em uma explicação juridicamente aceitável. Um juiz ou advogado humano pode questionar a lógica interna, e o sistema precisa responder de forma coerente e auditável.
Do ponto de vista de engenharia, isso significa que o sistema deve armazenar não apenas o argumento final, mas todo o caminho de raciocínio: quais artigos de lei foram consultados, quais jurisprudências foram ponderadas, e quais pesos foram atribuídos a cada fator. Isso gera um volume enorme de logs. Para produtos em cloud, o custo de armazenamento e processamento pode inviabilizar a operação, a menos que se adote estratégias de amostragem ou sumarização automática dos logs. Mas aí surge o dilema: logs amostrados não garantem auditoria completa. Portanto, a arquitetura precisa prever armazenamento imutável e de baixo custo — soluções como bancos de dados em série temporal ou blockchain podem ser alternativas, embora a fonte original não as mencione.
Arquitetura de referência para uma IA jurídica que respeite a privacidade
Se eu fosse projetar um sistema assim hoje, começaria pela separação radical entre a base de conhecimento jurídico e os dados do cliente. O modelo de linguagem jamais deve ser treinado ou ajustado com dados reais de clientes. Em vez disso, o fine-tuning deve usar apenas jurisprudência pública e legislação. O contexto específico do caso deve ser injetado no prompt de maneira temporária, com políticas de retenção curta e exclusão automática após o término do processo. Isso minimiza o risco de vazamento ou memorização não intencional.
O segundo componente é uma camada de anonimização dinâmica: antes de qualquer dado do cliente ser enviado ao modelo, um sistema de regras substitui identificadores pessoais por pseudônimos. O modelo argumenta com “Cliente A” e “Testemunha B”. Um segundo sistema, isolado e com acesso controlado, mantém o mapeamento reverso e só o revela quando necessário — por exemplo, para cumprir uma ordem judicial. Essa abordagem, chamada de “arquitetura de duas faces”, é comum em sistemas de saúde e pode ser adaptada ao direito.
O terceiro pilar é o logging imutável: cada interação do sistema com o tribunal — petições, respostas a perguntas, citações legais — deve ser registrada em um repositório que não permita alteração nem exclusão. Isso garante auditabilidade futura e atende ao artigo 20 da LGPD, que exige registro de decisões automatizadas. Ferramentas como blockchain permissionado ou bancos de dados com append-only são adequadas. A fonte original menciona brevemente a necessidade de rastreabilidade, mas não detalha soluções concretas — aqui está o valor agregado que podemos oferecer.
O que product managers precisam saber antes de embarcar nessa onda
Primeiro: não confunda inovação com pressa. O caso inglês é um experimento controlado, não um modelo de negócios validado. Antes de construir uma IA que “representa” clientes, invista em uma prova de conceito que atue como assistente autônomo supervisionado. A IA prepara a argumentação, mas um humano revisa e autoriza cada envio ao tribunal. Isso reduz riscos legais, evita multas por violação de privacidade e permite que o produto evolua com segurança regulatória.
Segundo: integre um DPO (Data Protection Officer) desde a concepção. A LGPD exige que o DPO seja consultado em operações de alto risco. Uma IA que processa dados sensíveis para representação legal é, por definição, de alto risco. O DPO deve participar das escolhas de arquitetura, da redação dos termos de uso e dos contratos com fornecedores de nuvem. Se a empresa não tem DPO, é o momento de contratar — ou terceirizar o serviço.
Terceiro: prepare-se para o escrutínio regulatório. O caso inglês atrairá a atenção de autoridades de proteção de dados em todo o mundo. A ANPD brasileira pode questionar como a empresa garante o direito à explicação, a minimização de dados e a segurança do tratamento. Ter uma documentação técnica clara e atualizada (Data Protection Impact Assessment, por exemplo) não é opcional — é requisito de sobrevivência do produto.
Conclusão: o código e a lei precisam caminhar juntos
A vitória da advogada de IA na Inglaterra não é o fim de uma era, mas o começo de uma discussão técnica e regulatória complexa. Para profissionais de privacidade em produto, o caso oferece uma oportunidade única de mostrar que a inovação responsável começa com transparência, anonimização inteligente e arquitetura auditável. Ignorar esses pilares é transformar um marco histórico em um passivo jurídico. Cabe a nós, engenheiros e product managers, garantir que o futuro do direito digital seja construído sobre bases que respeitem tanto a eficiência quanto os direitos fundamentais. Não se trata de frear a tecnologia, mas de dirigi-la com responsabilidade — e, no caso da IA jurídica, com a consciência de que cada argumento gerado carrega a privacidade de alguém.