O Tribunal Superior Eleitoral pautou para a próxima terça-feira o julgamento de uma ação que pode definir, na prática, como o sistema eleitoral brasileiro tratará o uso de inteligência artificial para criar conteúdo político sintético. O caso envolve um vídeo do ex-presidente Jair Bolsonaro produzido com IA, questionado pelo PT sob a acusação de configurar deepfake. Mais do que um embate político-partidário, esse julgamento representa o primeiro grande teste de como o judiciário brasileiro interpretará a interseção entre liberdade de expressão política e a capacidade técnica de simular realidades com precisão crescente.
Como profissional que atua com transformação digital e automação, tenho acompanhado de perto como a IA generativa vem rompendo barreiras que antes separavam o conteúdo autêntico do artificial. Até dois anos atrás, a criação de um vídeo fotorrealista de uma figura pública exigia equipes de pós-produção e orçamentos de campanha. Hoje, qualquer pessoa com acesso a modelos de difusão e ferramentas de clonagem de voz pode gerar material com qualidade suficientemente alta para enganar grande parte do público. O caso em pauta no TSE não é um fato isolado: é o ponto de inflexão de uma realidade que engenheiros de software e profissionais de infraestrutura já enfrentam nos bastidores.
O que está realmente em jogo no julgamento
A ação questiona se o vídeo produzido com inteligência artificial pode ser enquadrado como deepfake, o que, se confirmado, implicaria em violação às regras eleitorais vigentes. Do ponto de vista técnico, deepfake não é um termo jurídico — é um descritor tecnológico para mídia sintética gerada por redes neurais, normalmente combinando substituição de rosto (face swap), manipulação de expressões faciais e sincronização labial com áudio clonado. O que o TSE precisará decidir, na verdade, é se a peça atende aos critérios que a legislação eleitoral estabelece para desinformação grave: conteúdo sabidamente falso, que imite ou substitua a voz e a imagem de uma pessoa real, com potencial de enganar o eleitor sobre fatos relevantes.
Essa distinção é crucial para engenheiros e profissionais de produto. Não estamos falando de uma discussão abstrata sobre os males da IA, mas de uma definição prática de limites. Se o tribunal decidir que qualquer uso não rotulado de IA para simular declarações de candidatos é ilegal, isso criará um precedente técnico imediato: plataformas de vídeo, redes sociais e produtoras de conteúdo político precisarão implementar mecanismos de marcação obrigatória — e verificável — de material sintético. Isso impacta diretamente arquiteturas de moderação de conteúdo, sistemas de upload e pipelines de processamento de mídia.
A armadilha da "qualidade do engano"
Um dos pontos mais espinhosos para quem atua com verificação de conteúdo é que a linha entre um vídeo editado convencionalmente e um gerado por IA está se tornando irrelevante. A engenharia reversa de deepfakes hoje depende de detectores especializados que analisam inconsistências sutis — pixels que não se alinham na transição entre o rosto e o pescoço, frequências de piscadas fora do padrão humano, artefatos de compressão incomuns em vídeos nativos. Esses detectores, no entanto, têm sua eficácia reduzida a cada nova geração de modelos generativos. O julgamento do TSE precisará enfrentar essa questão: se a peça não for "tecnicamente detectável" como deepfake por ferramentas padrão, ela ainda pode ser enquadrada juridicamente como tal?
Na minha experiência implementando sistemas de checagem automatizada para clientes corporativos, aprendi que a confiabilidade dos detectores de deepfake é muito menor do que o senso comum supõe. Em ambientes controlados, com resolução conhecida e sem compressão adicional, as taxas de acerto chegam a 90%. No mundo real — vídeos compartilhados em WhatsApp, comprimidos para caber em redes sociais, regravados com telas de celular — essa taxa despenca. O TSE não tem um laboratório de engenharia reversa de mídia, e os peritos que analisarão o caso dependerão de ferramentas que podem ou não ser adequadas para o cenário específico. Isso não é um problema jurídico apenas: é um problema de como estruturar processos de verificação que não sejam frágeis a ponto de serem inúteis, nem rigorosos a ponto de serem impraticáveis.
Implicações para a engenharia de moderação de conteúdo
Para equipes de produto e engenharia que trabalham com moderação de conteúdo em larga escala, a decisão do TSE terá consequências operacionais imediatas. Se a corte determinar que vídeos políticos produzidos com IA precisam ser explicitamente rotulados, as plataformas precisarão de sistemas de classificação automática de mídia sintética. Não se trata de um recurso de "nice to have": é um requisito legal que, se não for atendido, pode gerar multas, responsabilização de diretores e até suspensão de serviços.
Arquitetonicamente, implementar essa detecção em escala envolve um trade-off técnico relevante. Modelos de detecção de deepfake baseados em visão computacional consomem GPU de forma intensiva. Para um site com milhões de uploads por hora, submeter cada frame de cada vídeo a uma rede neural de inferência inviabiliza qualquer orçamento de infraestrutura. A alternativa prática é uma abordagem em camadas: primeiro, um classificador leve baseado em metadados (verificando se o upload foi feito por produtora credenciada, se há timestamps de criação consistentes, se o código fonte do arquivo indica geração sintética); segundo, um detector rápido de baixa resolução; terceiro, uma verificação aprofundada apenas para conteúdo sinalizado ou viral.
Esse pipeline, no entanto, introduz latência e falsos positivos. Em campanhas eleitorais, onde horas fazem diferença, um vídeo legítimo marcado como suspeito pode gerar controvérsias desnecessárias. Quem já trabalhou com moderação em tempo real sabe que o calcanhar de Aquiles desses sistemas não é a precisão absoluta — é a comunicação com o usuário. Um candidato que tem seu conteúdo erroneamente classificado como deepfake não quer saber de explicações técnicas; quer o vídeo no ar imediatamente e um pedido de desculpas público. Isso cria uma tensão entre cumprir a regulação e não virar alvo político.
Rotulação obrigatória: o que muda na prática
Se o TSE determinar a obrigatoriedade de rotulação, o desafio de engenharia passa a ser como garantir que essa rotulação não seja removível, falsificável ou facilmente contornada. Marcas d'água visuais (como um selo "produzido por IA" no canto do vídeo) são triviais de cortar. Metadados embedados no arquivo podem ser perdidos na compressão. A solução técnica mais robusta hoje envolve assinatura criptográfica do conteúdo original no momento da geração, com uma chave pública disponível para verificação. Mas isso exige que as ferramentas de IA — de editores de vídeo a geradores de texto para locução — adotem um padrão comum, o que está longe da realidade.
O que vejo no mercado é que a maioria das produtoras e assessorias políticas ainda não internalizou a gravidade desse cenário. Continuam usando ferramentas de IA para criar materiais de campanha — desde a geração de roteiros até a clonagem de voz para narração — sem qualquer política de transparência. O julgamento do TSE pode forçar uma mudança estrutural: quem produz conteúdo político com IA precisará demonstrar, tecnicamente, que o material não é enganoso. Isso não é um problema de boa-fé; é um problema de engenharia de processos e de rastreabilidade.
Riscos de uma decisão mal calibrada
Há um risco real de que a decisão do TSE, por falta de entendimento técnico aprofundado, crie um precedente excessivamente restritivo. Se a corte definir que todo uso de IA em campanha eleitoral é presumivelmente ilegal, estará criminalizando práticas legítimas — como a geração de gráficos animados para explicar propostas, a tradução automática de spots para libras ou a criação de avatares para interação com eleitores. O uso de IA não é intrinsecamente enganoso; o problema está na intenção e na verossimilhança do conteúdo gerado.
Do outro lado, uma decisão muito permissiva — que considere que deepfake só se configura quando há dolo comprovado de enganar — criará um vácuo regulatório. Advogados de campanha já estão de olho nesse julgamento para calibrar suas estratégias. Se a barra for alta demais, veremos um aumento de conteúdo sintético em campanhas futuras sem qualquer responsabilização, porque será difícil provar a intenção de enganar quando o criador pode alegar que era "arte", "sátira" ou "simulação hipotética". O ponto de equilíbrio técnico é exigir rotulação explícita e verificável, independentemente da intenção, e punir o não cumprimento dessa obrigação formal — não a criação do conteúdo em si.
O que engenheiros e gestores de produto devem fazer agora
Enquanto o julgamento não acontece, minha recomendação para times de engenharia que atuam com moderação, mídia ou campanhas digitais é começar a mapear as dependências técnicas. Saber quais fornecedores de IA generativa sua equipe ou seus clientes utilizam, qual o nível de rastreabilidade do conteúdo gerado e se há metadados que permitam verificação posterior é o primeiro passo. Sem isso, qualquer decisão judicial que exija rotulação ou remoção será implementada às pressas, com soluções improvisadas que geram mais problemas do que resolvem.
Além disso, vale a pena investir em mecanismos de provenance — a capacidade de rastrear a origem de um conteúdo desde sua criação. Não estou falando apenas de blockchain (que tem custos e complexidades próprias), mas de sistemas de hash e registro temporal que permitam vincular um vídeo à sua versão original. Em um cenário onde deepfakes serão cada vez mais comuns, ter um "certificado de nascimento" do conteúdo será um diferencial competitivo — e, talvez, uma exigência legal.
O julgamento do TSE não resolverá todos os problemas técnicos da desinformação com IA, mas estabelecerá o tom para os próximos anos. Cabe a nós, engenheiros e profissionais de produto, garantir que as implementações resultantes desse marco legal sejam tecnicamente viáveis — e não apenas juridicamente consistentes. O direito não pode ignorar a engenharia, assim como a engenharia não pode fingir que a regulação não importa. Esse caso é o ponto de encontro entre essas duas realidades, e o resultado definirá como construímos confiança em um ecossistema digital onde o real e o sintético já não se distinguem a olho nu.