No centro de um julgamento que divide opiniões no Tribunal Superior Eleitoral, um vídeo gerado por inteligência artificial com a imagem de Jair Bolsonaro durante a convenção de Flávio Bolsonaro no PL reacende um debate que vai muito além do resultado eleitoral. Para quem atua com engenharia de software, infraestrutura e segurança da informação, o caso é um estudo de caso concreto sobre como a regulamentação de tecnologias emergentes colide com a realidade técnica — e como a ausência de padrões robustos de verificação pode transformar qualquer decisão judicial em um exercício de adivinhação forense.
A notícia, veiculada pelo Diário do Centro do Mundo, indica que o tribunal deve manter a proibição de deepfakes nas campanhas eleitorais, mas está dividido quanto à aplicação de multa a Flávio Bolsonaro. Essa divisão não é apenas política: ela expõe uma dificuldade estrutural que engenheiros de IA e segurança conhecem bem — como provar, com grau de certeza aceitável em um tribunal, que um vídeo foi gerado por inteligência artificial? E, mais importante, quem deve ser responsabilizado quando uma ferramenta de IA é usada para criar conteúdo falso?
O Caso que Expõe as Fraturas da Regulamentação
A resolução do TSE que proíbe deepfakes em campanhas eleitorais foi aprovada em 2024, em um movimento pioneiro entre cortes eleitorais ao redor do mundo. Do ponto de vista legal, a intenção é clara: impedir que a síntese de voz e vídeo por IA seja usada para simular declarações ou ações de candidatos, criando desinformação difícil de distinguir da realidade. O problema, como engenheiros de visão computacional e processamento de áudio sabem, é que a linha entre um vídeo manipulado manualmente e um gerado por IA está cada vez mais tênue – e as ferramentas de detecção disponíveis no mercado ainda são frágeis.
No caso concreto, o vídeo sob análise foi produzido com inteligência artificial e exibido durante a convenção partidária. A relatora do processo, ministra Cármen Lúcia, manifestou-se pela manutenção da proibição, mas pediu vista para avaliar a dosimetria da multa. Esse movimento revela um dilema técnico-jurídico que interessa diretamente a engenheiros e arquitetos de sistemas: como quantificar o dano causado por um conteúdo sintético? E, mais relevante, como atribuir responsabilidade quando a cadeia de criação envolve o candidato, sua equipe de campanha, a plataforma de IA e até mesmo o modelo de fundamento (foundation model) utilizado?
Detecção de Deepfakes: Entre a Ciência e a Incerteza
Do ponto de vista técnico, a detecção de deepfakes se apoia em três abordagens principais: análise de inconsistências fisiológicas (como piscadas de olho ou reflexos de luz), redes neurais treinadas para distinguir sintéticos de reais, e blockchain de procedência (provenance). Cada uma tem limitações severas. As inconsistências fisiológicas são cada vez mais raras em modelos de última geração. Redes neurais de detecção — como o modelo de MesoNet ou o DeepFake Detector do Facebook — apresentam taxas de acerto que variam entre 55% e 90% dependendo do conjunto de dados e da qualidade da compressão do vídeo. E os padrões de provenance, como o C2PA, ainda são voluntários e raramente implementados em massa.
Em projetos de segurança que liderei, a lição é constante: a perícia digital de conteúdo sintético é cara, demorada e, muitas vezes, inconclusiva. Em um ambiente de julgamento, onde o ônus da prova é determinante, essa incerteza técnica torna a aplicação de multas algo extremamente espinhoso. O TSE, para decidir, depende de laudos técnicos que frequentemente se resumem a "probabilidade alta" — e isso não é suficiente para fixar responsabilidade civil ou penal.
Quem Deve Pagar a Conta? A Cadeia de Responsabilidade
A divisão dos ministros sobre a multa a Flávio Bolsonaro reflete um desafio maior: imputar responsabilidade pelo uso de IA generativa em campanhas eleitorais. Se um vídeo foi gerado por uma ferramenta de terceiros — como um modelo de linguagem multimodal ou um gerador de vídeo por difusão —, o candidato é responsável por seu conteúdo? Ou a responsabilidade recai sobre o fornecedor da tecnologia? A legislação brasileira ainda não estabelece uma hierarquia clara nessa cadeia, e o TSE está, na prática, criando jurisprudência na marra.
Para engenheiros de produto e privacy engineers que trabalham com plataformas de geração de conteúdo, esse caso é um sinal de alerta. Ferramentas que permitem a criação de vídeos com personagens reais (como "dublagens" de políticos) precisam incorporar desde o design mecanismos de metadados imutáveis, restrição de uso eleitoral nos termos de serviço e — idealmente — verificações em tempo real de conformidade. Não fazer isso é abrir um passivo legal que pode atingir a empresa desenvolvedora.
O Que Engenheiros de IA Precisam Saber
O julgamento do TSE não é uma peça isolada. Ele faz parte de uma tendência global de regulamentação de deepfakes, que inclui o Ato de IA da União Europeia (que classifica deepfakes como risco de transparência), a Lei de Desinformação da Austrália e projetos de lei nos Estados Unidos. No Brasil, a resolução do TSE de 2024 serviu como base, mas está sujeita a revisões. O que engenheiros devem extrair disso?
Primeiro, a importância de incorporar provenance tracking nos pipelines de geração. O padrão C2PA (Coalition for Content Provenance and Authenticity) permite anexar ao arquivo de mídia metadados criptografados sobre sua origem, data, ferramenta e usuário. Implementar essa camada não é trivial — exige alterações nos decodificadores de vídeo e nas APIs de distribuição —, mas é a única forma de criar um rastro auditável que tribunais possam aceitar como prova de criação sintética. Em empresas que constroem ferramentas de geração para o mercado brasileiro, essa implementação pode ser um diferencial de compliance.
Segundo, a necessidade de educar as equipes jurídicas e de produto sobre os limites da detecção. Muitas vezes, ouço de gestores: "colocamos um sistema de detecção de deepfake e pronto". Na prática, nenhum classificador é imune a falsos positivos — um vídeo real comprimido ou com ruído pode ser classificado como sintético, gerando censura indevida. A decisão do TSE de manter a proibição, mas se mostrar cautelosa na punição, é um reflexo dessa realidade técnica. Engenheiros precisam comunicar essa incerteza de forma transparente para evitar decisões jurídicas baseadas em tecnologia que ainda não amadureceu.
Regulação sem Infraestrutura é Só Intenção
Há uma mensagem mais ampla que transcende o caso específico. De nada adianta proibir deepfakes se não houver um ecossistema de verificação acessível ao Judiciário, à imprensa e ao público. Atualmente, ferramentas forenses como o InVID (para verificação de vídeos) ou o Amnesty International's YouTube DataViewer são gratuitas, mas exigem treinamento técnico para uso. O celular de qualquer cidadão não tem capacidade de analisar a procedência de um vídeo que chega via WhatsApp.
Nesse sentido, o papel de engenheiros que trabalham com plataformas de distribuição de conteúdo — redes sociais, aplicativos de mensagem, sites de campanha — é fundamental. Implementar verificações silenciosas de metadados no momento do upload, exibir selos de "conteúdo sintético" quando detectado, e oferecer APIs de consulta forense para órgãos reguladores são passos concretos que podem transformar a regulamentação de papel em proteção real. Se o TSE tiver que depender apenas de laudos periciais sob demanda (como ocorre hoje), a capacidade de resposta será lenta e cara.
Para quem desenvolve infraestrutura em nuvem, há também um ângulo de arquitetura: a escalabilidade da verificação. Um sistema de detecção de deepfake que precise rodar inferência em cada frame de cada vídeo de campanha exige clusters de GPU com alta disponibilidade e latência baixa. Empresas de cloud pública já oferecem serviços como AWS Rekognition ou Google Video Intelligence com detecção de deepfake em versões beta, mas o custo por hora de processamento ainda é proibitivo para campanhas menores. Projetar uma arquitetura multicamadas que combine pré-filtragem de conteúdo suspeito com verificação forense aprofundada pode ser a solução técnica que o mercado precisa.
Perspectiva Pessoal: A Engenharia de Confiança como Pilar
Acredito que o caso do TSE com o vídeo de Flávio Bolsonaro — independentemente do resultado da multa — serve como um termômetro para a maturidade do debate sobre IA no Brasil. Não adianta apenas regular sem investir em infraestrutura técnica de verificação, nem esperar que a tecnologia resolva sozinha problemas que são, em essência, de confiança e transparência. A engenharia de confiança digital (trust engineering) precisa ser tratada como disciplina tão importante quanto a engenharia de features e escalabilidade.
Para engenheiros que estão na linha de frente da criação de modelos generativos, ferramentas de mídia sintética e plataformas de distribuição, minha recomendação é: envolvam-se nos grupos de trabalho sobre padrões abertos (como C2PA), testem exaustivamente os detectores contra seu próprio conteúdo, e documentem as limitações técnicas de forma clara — para que o Judiciário e a sociedade possam tomar decisões informadas. A regulamentação não pode ser feita no escuro técnico, e cabe a nós, profissionais de tecnologia, iluminar o caminho.
O julgamento do TSE provavelmente não será o último sobre deepfakes eleitorais. Com a evolução dos modelos de vídeo (Sora, Runway, Pika, entre outros), a capacidade de gerar conteúdo realista só aumentará. A pergunta que fica não é se haverá novas fraudes, mas se teremos — como engenheiros, como reguladores, como sociedade — a infraestrutura de verificação necessária para distinguir o real do sintético a tempo de proteger o processo democrático.