Em meio à corrida eleitoral brasileira, um caso está chamando a atenção de quem trabalha diretamente com inteligência artificial: a defesa apresentada ao Tribunal Superior Eleitoral (TSE) pela campanha de Flávio Bolsonaro contra a acusação de uso de deepfake em um vídeo de Jair Bolsonaro. O argumento central dos advogados é que a falta de autorização prévia do titular da imagem não é suficiente para caracterizar o conteúdo como deepfake. Para quem atua com IA generativa e sistemas de autenticação visual, essa afirmação soa como um atalho jurídico que ignora completamente a realidade técnica da ferramenta. A discussão vai muito além de um caso político específico — ela expõe o enorme fosso entre a capacidade tecnológica já disponível e a forma como o direito e a sociedade ainda estão tentando compreender o que é, de fato, um deepfake.
O que realmente define um deepfake?
Do ponto de vista da engenharia de software, um deepfake não é definido pela presença ou ausência de autorização, mas sim pelo método de geração. Tecnicamente, deepfakes são resultados de modelos generativos — principalmente Generative Adversarial Networks (GANs) e, mais recentemente, modelos de difusão — que aprendem a mapear características faciais, movimentos labiais, expressões e até microexpressões de uma pessoa alvo para um vídeo sintético. O processo envolve treinamento com milhares de imagens ou vídeos da pessoa, muitas vezes coletados sem consentimento explícito, e a inferência em tempo real de um modelo que substitui a identidade visual original. A ausência de autorização não é um item opcional da definição técnica: ela é quase sempre uma consequência do método, já que a coleta massiva de dados pessoais para treinamento raramente passa por um processo de consentimento granular. Portanto, afirmar que falta de aval não torna o vídeo um deepfake é um contra-senso — o deepfake nasce exatamente desse uso não autorizado de dados biométricos para gerar conteúdo sintético.
Os desafios técnicos de detecção e a fragilidade dos argumentos jurídicos
Atualmente, os sistemas de detecção de deepfake mais robustos — como aqueles desenvolvidos por laboratórios de forense digital e empresas como Microsoft, Google e startups especializadas — baseiam-se em múltiplas camadas de análise. Elas incluem inconsistências na iluminação, artefatos de compressão em bordas de rosto, padrões de movimento ocular não naturais, falta de sincronia labial em microssegundos, e até assinaturas de modelo residual deixadas pela arquitetura GAN. No caso concreto que chegou ao TSE, a perícia técnica não se limitou a verificar se houve autorização; ela analisou o vídeo buscando essas marcas deixadas pelo processo de geração. O argumento de que “falta de aval não torna deepfake” tenta deslocar o debate para uma questão de permissão, quando o cerne da acusação é a existência de um conteúdo sintético gerado por IA, independentemente de quem o produziu ou com qual finalidade. Para um profissional de engenharia, essa separação é artificial — o método de criação e a ausência de consentimento são dois lados da mesma moeda. Se um vídeo foi gerado por um modelo GAN treinado com imagens de uma pessoa sem sua permissão, ele já carrega em si a violação do direito de imagem, independentemente de qualquer análise jurídica posterior.
O contexto regulatório brasileiro e as lacunas legais
O Brasil ainda não possui uma regulamentação específica para deepfakes, ao contrário de países como a União Europeia, que já discute a inclusão de deepfakes no AI Act, ou estados americanos que criaram leis contra “deepfake pornográfico” e “deepfake eleitoral”. A Lei Geral de Proteção de Dados (LGPD) oferece algumas ferramentas, mas ela foi desenhada para dados pessoais tradicionais, não para a geração de dados biométricos sintéticos. O Marco Civil da Internet também não trata especificamente da criação de conteúdo por IA. Nesse vácuo, a argumentação jurídica se apoia em conceitos clássicos de direito de imagem e de liberdade de expressão, que são insuficientes para lidar com a granularidade de um deepfake. A tese de que a falta de aval não é suficiente para definir o conteúdo como deepfake é uma tentativa de explorar essa lacuna: se a lei não define o que é um deepfake, então qualquer vídeo que não seja comprovadamente gerado por IA com base em dados não autorizados poderia ser contestado. Para os engenheiros que trabalham com sistemas de verificação de identidade, isso é um alerta vermelho — a tecnologia pode ser usada tanto para provar a existência de deepfake quanto para contestar essa prova, dependendo de quem contrata a perícia e de como os dados forenses são interpretados.
Implicações práticas para empresas e desenvolvedores de IA
Para quem constrói produtos digitais que envolvem geração de conteúdo visual — como plataformas de edição de vídeo, ferramentas de marketing, sistemas de avatar virtual ou soluções de entretenimento —, o caso traz lições imediatas. Primeiro, a implementação de mecanismos de consentimento informado para coleta de dados biométricos não é apenas uma questão de compliance, mas de engenharia de produto. Se o seu modelo de IA requer imagens de rostos para treinamento, você precisa de um pipeline que registre de forma auditável a autorização de cada indivíduo, incluindo a finalidade específica de geração de conteúdo sintético. Segundo, a adição de marcas d'água digitais ou metadados de origem no momento da geração do vídeo — como proposto por iniciativas como a Content Authenticity Initiative (CAI) — não é um bônus, mas uma exigência de responsabilidade técnica. Sem esses mecanismos, qualquer conteúdo gerado pela sua ferramenta pode ser usado em contextos judiciais ou políticos sem que se consiga rastrear sua origem. Terceiro, os times de engenharia precisam desenvolver sistemas de detecção internos para monitorar o uso indevido de suas próprias APIs de geração. Se você oferece um serviço de síntese facial, deve ser capaz de dizer, com alta confiança, se um determinado vídeo saiu do seu modelo ou não. Isso exige log de inferências, hash de saída e até mesmo a inclusão de assinaturas invisíveis nos pixels gerados — uma prática que ainda é rara no mercado brasileiro.
Riscos de confiança e o futuro da verificação de identidade
O caso de Flávio Bolsonaro também acende um alerta para o mercado de trabalho de tecnologia: a demanda por especialistas em forense digital de IA deve crescer significativamente nos próximos anos. Empresas de mídia, plataformas de redes sociais, agências de verificação eleitoral e departamentos jurídicos de grandes corporações precisarão de profissionais capazes de não apenas detectar deepfakes, mas também de explicar tecnicamente em tribunal o que caracteriza a manipulação. Para engenheiros de software e cientistas de dados, isso significa que habilidades em visão computacional, processamento de sinais, e interpretação de modelos generativos estarão cada vez mais valorizadas. Além disso, a confiança em sistemas de verificação biométrica — como reconhecimento facial para autenticação bancária ou acesso a sistemas críticos — pode ser abalada se não houver mecanismos robustos contra a apresentação de deepfakes. Nesse cenário, a implementação de liveness detection (detecção de vitalidade) e de técnicas de challenge-response que exijam reações em tempo real se torna mandatória. Qualquer aplicação que use biometria facial deve considerar que um atacante pode gerar um vídeo sintético convincente da pessoa alvo em questão de minutos, usando ferramentas de código aberto como o DeepFaceLab ou o roop.
Uma perspectiva pessoal: o que podemos aprender com essa polêmica
Como engenheiro que já trabalhou com sistemas de moderação de conteúdo e detecção de manipulação de mídia, vejo nesse episódio um reflexo de um problema maior: a assimetria entre a velocidade da inovação tecnológica e a capacidade de regulação e de entendimento público. O argumento jurídico apresentado ao TSE não é absurdo do ponto de vista legal — ele explora as brechas de uma legislação que ainda não alcançou a tecnologia. Mas do ponto de vista técnico, é profundamente frágil. Afirmar que a falta de aval não torna o conteúdo deepfake é como dizer que a falta de licença de motorista não torna alguém um motorista — ignorando o fato de que a pessoa estava dirigindo. O que precisamos, como comunidade técnica, é de uma postura proativa: criar padrões abertos de verificação de autenticidade, educar o público sobre como identificar sinais de manipulação, e pressionar por uma regulamentação que entenda as nuances do processo de geração de conteúdo por IA. O mercado de trabalho de engenharia de software e IA tem uma responsabilidade grande aqui — não apenas de construir ferramentas melhores, mas de ajudar a construir uma cultura de transparência digital. Caso contrário, continuaremos vendo decisões judiciais baseadas em argumentos que tratam a tecnologia como uma caixa-preta, enquanto a caixa já está aberta e funcionando há anos.