O silêncio dos ministros e o ruído dos algoritmos
Na terça-feira, 18, os ministros do Tribunal Superior Eleitoral se reuniram a portas fechadas para discutir dois processos que vão definir como a inteligência artificial será tratada nas campanhas políticias deste ano. O julgamento formal ainda não tem data marcada, mas o sinal é claro: a Justiça eleitoral percebeu que o problema não pode mais ser ignorado. Do outro lado da mesa, engenheiros de software, cientistas de dados e arquitetos de infraestrutura acompanham com uma mistura de ansiedade e ceticismo.
O que está em jogo vai muito além de multas ou prazos de propaganda. Estamos falando de um desfio técnico que remete à própria capacidade de distingão entre o real e o sintético em escala. E, para quem já implementou sistemas de deteção de deepfakes em produção, sabe que a linha entre o factível e o impraticável é tênue. A reunião do TSE, ainda que reservada, expõe uma verdade incômoda: o arcabouço jurídico tradicional não foi projetado para lidar com modelos generativos que evoluem em ciclos de semanas.
O problema não é a IA, é a assimetria de poder computacional
Grande parte do debate público sobre regulação de IA nas eleições se concentra na intenção de quem gera o conteúdo. Queremos punir quem cria um vídeo falso de um canditado com o objetivo de enganar o eleitor. Mas, do ponto de vista da engenharia, essa abordagem ignora o principal: a capacidade de gerar desinformação sintética está crescendo exponencialmente, enquanto as ferramentas de deteção avançam em um ritmo linear – quando avançam. Modelos como o Stable Diffusion, o DALL·E 3 ou mesmo sistemas de clonagem de voz de código aberto já estão disponíveis para qualquer pessoa com um notebook e acesso à internet.
Durante minha experiência implementando pipelines de moderação de conteúdo para uma plataforma de mídia, testemunhei como a deteção automatizada de deepfakes falha em cenários adversariais. Um ataque simples – como redimensionar o vídeo, adicionar ruído leve ou comprimir o codec – basta para enganar a maioria dos detectores baseados em rede neural convolucional. Os modelos mais robustos, como aqueles que usam análise de artefatos de geração ou verificação de consistência temporal, exigem poder computacional que poucos órgãos reguladores têm disponível. O TSE, por exemplo, não possui uma infraestrutura de IA dedicada para monitorar, em tempo real, milhões de postagens em redes sociais e aplicativos de mensageria.
A regra clara que ninguém consegue implementar
Suponha que o TSE decida obrigar que todo conteúdo publicitário gerado por IA seja explicitamente rotulado, como já ocorre com anúncios digitais em grandes plataformas. Parece sensato. Mas, na prática, a execução é um pesadelo. Rotular um vídeo deepfake exige que o produtor do conteúdo declare voluntariamente o uso de IA. Isso nunca acontece quando a intenção é fraudulenta. Por outro lado, plataformas como YouTube, TikTok e Instagram poderiam ser pressionadas a detectar automaticamente e marcar conteúdo sintético. Contudo, os custos de implementação de tais sistemas para escala global são astronômicos e, mesmo assim, as taxas de falso positivo gerariam controvérsias políticas – imagine um candidato ter seu vídeo autêntico removido por erro de classificação.
Outra proposta em discussão é a de banir completamente o uso de IA para criar representações realistas de candidatos. Aí o problema se torna ainda mais cabeludo: o que define "representação realista"? Um filtro de beleza que suaviza a pele conta? Um assistente de redação baseado em GPT para escrever discursos? O limite entre ferramenta legítima e abuso é difuso. Em projetos de processamento de linguagem natural que participei, a linha entre "reescrita automática" e "geração de conteúdo novo" é frequentemente determinada por um hiperparâmetro de temperatura. Em outras palavras, a mesma tecnologia pode ser usada para ajudar um candidato a redigir propostas ou para criar falas falsas atribuídas ao adversário.
O elefante na sala: a deteção forense de deepfakes
Se a regulação por rotulagem é frágil e a proibição é imprecisa, resta o caminho da fiscalização técnica: usar sistemas de IA para detectar IA. Aqui, a engenharia tem mais a contribuir, mas também mais limitações a reconhecer. Métodos forenses tradicionais, como análise de inconsistências na iluminação, frequências de piscar ou artefatos de compressão, são eficazes contra geradores ingênuos, mas perdem rapidamente a validade com novos modelos generativos. Lembro de uma prova de conceito que realizei em 2022, testando detectores de deepfake em imagens geradas pelo StyleGAN3: a taxa de acerto caiu abaixo de 60% assim que os geradores foram treinados com ruído adversário.
Hoje, a abordagem mais prometedora envolve blockchain para garantir a proveniência de mídia (C2PA, Coalition for Content Provenance and Authority) e marcas d'água criptográficas inseridas no momento da captura por dispositivos confiáveis. Mas isso exige que câmeras e aplicativos de gravação implementem esse padrão – o que está longe de ser universal. Enquanto isso, deepfakes gerados em servidores na nuvem ou em GPUs domésticas não carregam nenhuma dessas garantias. O resultado é uma assimetria difícil de resolver com regras e mais fácil de mitigar com educação midiática e responsabilização posterior, após a identificação de danos.
Pesquisas eleitorais sob a ótica de IA
O mesmo encontro do TSE discutiu regras sobre pesquisas eleitorais. Embora não seja o foco principal da pauta, há uma interseção clara com IA: modelos de machine learning podem estimar intenção de voto a partir de dados de redes sociais, com margens de erro imprevisíveis. Durante a campanha de 2022, testemunhei times de marketing político usando redes neurais para segmentar eleitores com base no histórico de navegação e postagens. A linha entre "análise de sentimento" e "manipulação algorítmica" é tênue. Se o TSE não atualizar as regras para incluir modelos preditivos baseados em IA, corre-se o risco de que as pesquisas oficiais percam relevância frente a modelos não auditáveis, operados por consultorias privadas.
O que engenheiros de software podem aprender com isso
Para quem constrói produtos digitais, a indefinição regulatória não é desculpa para ignorar o problema. Plataformas que hospedam conteúdo gerado por usuários devem investir proativamente em sistemas de deteção, ainda que imperfeitos. Ferramentas como o SynthID (Google DeepMind) ou detectores de deepfake da Microsoft podem ser integrados em pipelines de moderação, mesmo que apenas como alerta para revisão humana. Em projetos que lidam com conteúdo político, recomendo adotar uma política de "princípio da precaução": qualquer conteúdo audiovisual que apresente alta probabilidade de IA gerativa deve ter sua veiculação suspensa até verificação manual, especialmente em períodos eleitorais.
Além disso, equipes de infraestrutura em nuvem precisam estar preparadas para escalar a computação durante os picos de demanda – tanto para moderação quanto para resposta a incidentes. Um ataque coordenado com milhares de deepfakes pode sobrecarregar sistemas que não estejam dimensionados para cargas de inferência intensiva. Do ponto de vista de segurança, é crucial registrar logs de todas as operações de geração de conteúdo e estabelecer cadeias de custódia claras para provas digitais, pois boa parte da responsabilização pós-evento dependerá da rastreabilidade.
Riscos de uma regulação apressada ou omissa
O principal risco de uma decisão judicial apressada é a criação de regras tecnicamente impossíveis de cumprir. Por exemplo, exigir que toda plataforma detecte deepfakes em tempo real, sob pena de multas milionárias, poderia inviabilizar startups e forçar as grandes empresas a adotarem censura preventiva excessiva, removendo conteúdo legítimo por medo. Por outro lado, a omissão total deixaria o campo aberto para ataques de desinformação em uma escala que pode comprometer a legitimidade do processo eleitoral. O equilíbrio ideal, na minha visão, passa por uma abordagem gradual: foco na rotulagem obrigatória de conteúdo pago ou impulsionado, investimento em educação digital e criação de um selo de verificação para emissoras e políticos que aderirem a padrões de proveniência.
A reunião fechada do TSE mostra que a magistratura entendeu a gravidade do tema, mas a ausência de data para julgamento sugere que ainda não há consenso técnico entre os ministros. Enquanto isso, os algaritmos continuam treinando.
Este artigo reflete a análise independente do autor e não representa posição oficial de nenhuma instituição ou empresa. As opiniões expressas são baseadas em experiência prática com implementação de sistemas de IA, moderação de conteúdo e segurânça da informação.