A reunião a portas fechadas dos ministros do Tribunal Superior Eleitoral para discutir a regulamentação do uso de inteligência artificial nas campanhas deste ano não é apenas mais um item na pauta burocrática da justiça eleitoral. Trata-se, na minha avaliação, de um dos momentos mais críticos para a engenharia de software e a governança de dados no Brasil nos últimos anos. Quando uma corte máxima precisa debater, em sigilo, como lidar com tecnologia que pode sintetizar a voz e a imagem de um candidato com precisão cirúrgica, fica claro que o fosso entre a inovação e a regulação nunca esteve tão exposto.
Trabalho há mais de uma década com infraestrutura em nuvem e segurança da informação, e posso afirmar: o que está em jogo não é apenas a punição de quem usar a IA para enganar o eleitor. O verdadeiro desafio, e que me parece ainda sem solução clara nos bastidores do TSE, é a implementação de mecanismos técnicos viáveis de auditoria, rastreabilidade e responsabilização em tempo real. Não se regula IA com canetas e resoluções; regula-se com APIs verificáveis, logs imutáveis e procedimentos de chain-of-custody digital que hoje a maioria das campanhas — grandes ou pequenas — simplesmente não tem.
O problema da detecção em escala
Grande parte do debate público sobre deepfakes eleitorais se concentra na capacidade de detectar se um vídeo ou áudio foi gerado artificialmente. Do ponto de vista de engenharia, esse é um problema fascinante e, confesso, ainda longe de uma solução definitiva. Ferramentas de detecção baseadas em redes neurais convolucionais e análise de inconsistências temporais têm taxas de acerto razoáveis em ambientes controlados, mas falham de forma ruidosa quando o conteúdo sofre compressão, é repassado por aplicativos de mensageria ou é regravado a partir de uma tela.
O TSE, se seguir o caminho mais óbvio, pode exigir que plataformas como YouTube, Instagram e TikTok implementem filtros de verificação pré-publicação. Essa abordagem, no entanto, carrega um trade-off técnico severo: qualquer sistema automatizado de moderação que opere com alta sensibilidade para não deixar passar um deepfake gerará inevitavelmente um volume enorme de falsos positivos, silenciando conteúdo legítimo de campanha. Já vi esse mesmo dilema em sistemas de segurança de conteúdo em nuvem: tentar bloquear 100% das ameaças significa bloquear 10% do tráfego legítimo. Em um período eleitoral, isso pode equivaler a censura em escala.
Accountability algorítmica: quem assina o que a IA gerou?
Um ponto que frequentemente se perde na discussão jurídica, e que eu gostaria de ver mais presente nas análises, é o conceito de accountability algorítmica. Não basta saber que um conteúdo foi criado por inteligência artificial. É preciso saber quem treinou o modelo, com quais dados, em qual infraestrutura e, principalmente, quem assumiu a responsabilidade legal pela sua saída. Na minha experiência com projetos de machine learning em produção, o registro de metadados de inferência — carimbo de tempo, hash do modelo, identificador do operador — é uma prática consolidada em ambientes regulados como finanças e saúde, mas praticamente inexistente em marketing político.
Uma regulamentação técnica madura deveria obrigar que qualquer material audiovisual de campanha gerado com o auxílio de IA carregue, em seu cabeçalho digital ou em uma camada de watermarking robusta, um payload com essas informações. Não estou falando da marca d'água visível que o eleitor vê na tela. Refiro-me a metadados criptograficamente assinados, armazenados em blockchain permissionada ou em um registro de auditoria imutável que o TSE e os partidos possam consultar. Sem isso, a investigação de um possível crime eleitoral envolvendo IA se torna um exercício de engenharia reversa que pode levar meses — tempo incompatível com o calendário eleitoral.
Infraestrutura em nuvem e o gargalo da fiscalização
Outro aspecto que me preocupa, e que pouca gente está discutindo, é a capacidade operacional da justiça eleitoral de fiscalizar o uso de IA na nuvem. Hoje, campanhas contratam serviços de AWS, Google Cloud e Azure para rodar modelos de linguagem e geração de imagem. A própria infraestrutura de campanha, muitas vezes efêmera, pode ser desmontada horas após a eleição. Se o TSE quiser investigar a origem de um áudio falso gerado por uma API de texto-para-fala, vai precisar de mandados de busca em provedores de nuvem com prazos apertados e conhecimento técnico para interpretar logs de uso de GPU e chaves de API.
Li certa vez que o orçamento de TI do TSE para este ano teve um incremento para segurança cibernética. Ainda assim, a escala do problema é outra. Uma única campanha presidencial pode gerar mais dados de treinamento e inferência que a base inteira de processos do tribunal. A assimetria de recursos computacionais entre quem gera o conteúdo e quem o fiscaliza é brutal e tende a crescer. Se não houver um plano claro de como a justiça eleitoral vai acessar, armazenar e analisar evidências digitais em infraestrutura de nuvem, corremos o risco de regulamentar o impossível de fiscalizar.
Não existe regulamentação de IA sem engenharia de software
Este é o meu ponto central: as resoluções que o TSE está discutindo precisam ser informadas por arquitetura de sistemas, não apenas por doutrina jurídica. Um texto legal que determine "proibido usar IA para simular pessoa real sem autorização" é inócuo se não vier acompanhado de especificações técnicas sobre como essa verificação deve ser implementada. Quem define o padrão de watermarking? Qual formato de metadados de auditoria será aceito? Como as plataformas devem expor APIs de consulta para que o TSE possa auditar a origem de um conteúdo? Essas decisões são de engenharia e precisam ser tomadas por engenheiros, de preferência com experiência em sistemas distribuídos e segurança.
Em projetos que liderei de integração com APIs governamentais, sempre recomendei que a especificação técnica fosse definida antes ou junto com a regra de negócio, e não depois. Fazer o contrário — primeiro criar a regra, depois delegar a implementação a técnicos que não participaram da discussão — gera sistemas frágeis, com ambiguidades que abrem brechas para contornos legais. É exatamente nessa zona de ambiguidade que campanhas mal-intencionadas vão operar.
Lições que podemos aprender com outros setores
Setores como o financeiro e o de saúde já enfrentaram dilemas similares — e com certo sucesso. No mercado de capitais, a regulação de algoritmos de trading de alta frequência exige que cada ordem carregue metadados de identificação da estratégia e do operador, além de logs auditáveis mantidos por anos. Na telemedicina, a autenticidade de um diagnóstico assistido por IA depende de trilhas de auditoria que vinculam a inferência ao laudo médico.
Não me parece que as discussões no TSE estejam incorporando esses precedentes. Pelo tom das notícias que circulam, a reunião fechada parece focada mais em definir sanções e limites conceituais do que em desenhar a arquitetura de verificação. Isso me soa como um erro estratégico que pode custar caro na primeira grande crise de desinformação gerada por IA durante o período eleitoral. O julgamento que ainda não tem data marcada deveria, na minha opinião, ser precedido por uma consulta pública a especialistas em engenharia de software e segurança digital — não apenas a juristas.
Riscos e limitações de qualquer intervenção regulatória
Preciso fazer um contraponto, porque não acredito em soluções exclusivamente técnicas para problemas sociotécnicos. Mesmo com a melhor regulamentação do mundo, a detecção de deepfakes continuará sendo uma corrida armamentista. Um modelo generativo treinado com dados suficientes vai eventualmente superar os detectores disponíveis — isso é fato conhecido na literatura de segurança de machine learning. O que a regulamentação pode fazer é aumentar o custo de oportunidade de quem quer usar a IA para fraudar e reduzir a janela de exposição antes que o dano seja irreversível.
Outra limitação importante é a aplicação extraterritorial. Plataformas sediadas no exterior, com processos de moderação opacos, podem simplesmente ignorar os requisitos técnicos brasileiros. O TSE não tem o poder de forçar uma empresa como a OpenAI a implementar watermarking em todas as imagens geradas pelo DALL-E para o mercado brasileiro. Qualquer regra que não considere essa assimetria de jurisdição será facilmente contornada.
Por onde o Brasil deveria começar
Se eu pudesse sugerir um caminho prático, dentro da minha experiência com sistemas distribuídos e segurança, seria começar por três frentes simultâneas. Primeiro, exigir que todo material de campanha gerado ou editado com IA tenha um manifesto digital público e verificável — um arquivo JSON assinado, hospedado em um repositório imutável, com a descrição da tecnologia utilizada. Segundo, criar um sandbox regulatório controlado pelo TSE, onde provedores de IA possam submeter seus modelos para auditoria de conformidade antes do período eleitoral, em vez de esperar uma fiscalização reativa. Terceiro, investir na formação de corpo técnico próprio dentro da Justiça Eleitoral, com engenheiros de machine learning e segurança da informação dedicados exclusivamente a esse tema, e não apenas contratar consultorias externas que somem relatórios sem capacidade de ação.
Essas medidas não são caras em relação ao custo de uma crise de legitimidade eleitoral. O risco de não fazer nada, ou de fazer uma regulamentação puramente normativa, é que a IA seja usada não para ampliar o debate democrático, mas para corroer a confiança no resultado das urnas. Já vimos capítulos parecidos na história recente, com as fake news de 2018 e a operação de bots em 2022. A diferença agora é que a tecnologia generativa tornou a mentira mais barata, mais realista e infinitamente mais escalável.
A reunião fechada dos ministros do TSE termina, mas o trabalho técnico necessário para viabilizar o que foi discutido ali está apenas começando. Espero que, quando o julgamento finalmente tiver data marcada, a decisão venha acompanhada de especificações técnicas que um engenheiro de software possa implementar. Senão, teremos mais uma resolução elegante no papel e impraticável na nuvem — e o eleitor brasileiro será quem pagará a conta.