A pré-campanha para a Prefeitura de São Paulo se transformou, discretamente, no primeiro grande laboratório brasileiro de regulação de inteligência artificial aplicada à comunicação. O caso, que ganhou destaque no portal Veja com as sentenças do Tribunal Regional Eleitoral (TRE) paulista, vai muito além da multa aplicada a um coordenador de campanha ou da remoção de publicações de parlamentares petistas. Para qualquer profissional de engenharia de software, arquitetura de sistemas e inteligência artificial, este episódio soa como um alarme técnico. Ele sinaliza que a letra da lei — seja a Resolução 23.732 do TSE ou o futuro PL 2338/2023 — deixou de ser uma abstração jurídica para se tornar um requisito não funcional no backlog dos produtos digitais. A pergunta que passamos a fazer não é "o que a IA pode fazer?", mas sim "o que o sistema deve fazer para operar dentro da lei?". E essa é uma questão essencialmente de engenharia.
O que significa "uso irregular" na prática do desenvolvedor?
A irregularidade apontada pelo TRE reside na ausência de rotulagem e na potencial criação de conteúdo enganoso sintético. Vamos traduzir isso para uma spec de engenharia. A Resolução 23.732 exige que todo conteúdo político veiculado em campanha que utilize tecnologias de inteligência artificial seja marcado de forma explícita. Tecnicamente, isso obriga qualquer pipeline de geração de mídia — seja para vídeo, áudio ou imagem — a implementar um estágio obrigatório de stamping. Imagine um sistema de campanha que utiliza um modelo de difusão para gerar peças publicitárias. O fluxo correto hoje não é apenas gerar a imagem e revisá-la. O fluxo deve incluir: geração da mídia, aplicação de uma marca d'água digital visível ou invisível, inserção de metadados no arquivo (EXIF, C2PA) especificando o modelo e a campanha, e log do prompt e do output em um sistema de audit trail imutável. Se qualquer uma dessas etapas for omitida, e o conteúdo for questionado judicialmente, a cadeia de custódia do dado estará quebrada. A multa do coordenador não foi um erro de comunicação; foi uma falha de processo técnico.
O problema não é gerar, é detectar e provar
Um ponto técnico que poucos analisam é a diferença entre metadados forenses e detecção pós-hoc. O padrão C2PA (Coalition for Content Provenance and Authenticity), apoiado por Adobe, Microsoft e Sony, promete uma cadeia de custódia criptográfica desde a captura ou geração até o consumo. Na teoria, é perfeito. Na prática, um post no Instagram pode ser recapturado por um screenshot, um mensageiro como o Telegram pode limpar metadados ao comprimir a imagem, ou um usuário pode simplesmente baixar e republicar o conteúdo. O C2PA resolve o problema da geração, mas não o da distribuição viral. Por isso, as plataformas precisam de detectores de conteúdo sintético que funcionem independentemente da origem do arquivo.
A decisão do TRE, ao focar na remoção, acaba exigindo que as plataformas implementem ambas as camadas: a passiva (ler metadados) e a ativa (detectar artefatos). O custo computacional disso, em escala de bilhões de posts, é astronômico. Detectores como os da Hive AI ou do próprio OpenAI têm alta acurácia em benchmarks, mas caem drasticamente em cenários do mundo real: imagens comprimidas, ressalvas de tela e legendas cortadas. Além disso, modelos de código aberto, por não possuírem os mecanismos de segurança proprietários dos grandes players, tornam a detecção ainda mais frágil. A tensão técnica aqui é que a lei exige um nível de precisão que a tecnologia atual não garante. Fomos colocados em uma posição onde precisamos prometer mais do que podemos tecnicamente entregar com segurança.
A cadeia de responsabilidade técnica na IA Generativa
A multa foi direcionada ao coordenador de campanha, o operador do sistema. Mas quem escreveu o código do gerador de imagens? A empresa que forneceu a API? O desenvolvedor que fez o fine-tune do modelo? O PL 2338/2023, que tramita no Congresso, estabelece uma responsabilidade escalonada, similar à do Marco Civil da Internet, mas adaptada para IA. Para startups e provedores de API de IA generativa, o cenário é de risco iminente. Se a sua API for usada para gerar deepfakes políticos, a responsabilidade pode recair sobre você se não houver barreiras técnicas robustas.
Na prática, isso significa implementar Content Safety Filters na sua API de imagem que impeçam a geração de faces de figuras públicas e contextos proibidos pela lei eleitoral. Exige também Rate Limiting e detecção de padrões de uso: um pico repentino de requisições gerando imagens de candidatos deve disparar alertas de compliance. Ignorar isso é jogar roleta russa com o negócio. O caso do TRE mostra que o Judiciário está disposto a responsabilizar todos os elos da cadeia de fornecimento. A auditoria de terceiros em sistemas de IA deixou de ser diferencial para se tornar pré-requisito de operação.
Trade-offs de Produto e Design de Sistema
Implementar conformidade com a resolução eleitoral em um produto digital não é trivial. Envolve trade-offs diretos com a experiência do usuário e o desempenho do sistema. Adicionar um classificador de conteúdo político na pipeline de geração aumenta a latência. Para um produto que promete geração em tempo real, isso pode matar a UX. A decisão de arquitetura se divide em três momentos: o pre-check (analisar o prompt no frontend, frágil e dependente da honestidade do usuário), o inline-check (um proxy que examina o fluxo na API usando um modelo leve como CLIP, ideal para equilibrar segurança e latência) e o post-check (uma fila de análise assíncrona que revisa o conteúdo já publicado, criando uma janela de vulnerabilidade de minutos ou horas).
Cada arquitetura tem seu custo e seu risco residual. A escolha depende do nível de aversão a risco da empresa. Além disso, a rotulagem explícita como "gerado por IA" tende a reduzir o engajamento, criando um incentivo econômico perverso para as plataformas. A lei remove essa escolha, mas a implementação técnica precisa redesenhar a interface para acomodar a label sem destruir a experiência. O trade-off ideal para moderação é um sistema híbrido: a IA gera um escore de risco. Abaixo de 0.3, o conteúdo passa automaticamente; entre 0.3 e 0.7, vai para revisão humana; acima de 0.7, é bloqueado automaticamente com direito a recurso. Isso é engenharia aplicada à governança.
Riscos, limitações e o "pânico de compliance"
O maior risco técnico e social desse novo cenário regulatório é o que chamo de "pânico de compliance". As plataformas, temendo multas e sanções, podem adotar políticas de moderação excessivamente conservadoras. Um modelo de detecção de IA com 99% de acurácia ainda errará 1% do tempo. Em um ecossistema com milhões de postagens, isso significa milhares de censuras injustas. Engenheiros precisam ser os guardiões do equilíbrio, defendendo sistemas que priorizem a devida processo e a reversibilidade das decisões. Um appeal mechanism robusto não é um luxo, é uma exigência técnica e ética do sistema.
Outro ponto crítico é a assimetria de poder. Grandes plataformas têm times de ML Safety dedicados. Pequenos candidatos ou movimentos políticos que utilizam ferramentas de código aberto — Stable Diffusion, Llama, Whisper — podem não ter a estrutura técnica para rotular e auditar seus próprios materiais. A regulação, se mal calibrada, pode favorecer apenas quem tem capital para contratar engenheiros de compliance, criando um desequilíbrio competitivo no debate público que a lei, ironicamente, busca proteger.
Perspectiva pessoal e recomendação editorial
A multa do TRE não é uma aberração jurídica. É a primeira peça de dominó em uma fileira que vai atingir todos os setores que utilizam IA generativa. Da publicidade ao marketing, do suporte ao cliente à criação de conteúdo, a régua subiu. Minha recomendação para os engenheiros e gestores de produto que acompanham o CurriculoIA é simples e urgente: mapeiem seus pipelines de IA e documentem onde a geração ou modificação de conteúdo acontece; implementem a rotulagem como funcionalidade padrão, não como um checkbox opcional; construam audit trails desde o primeiro dia — se você não sabe quem gerou o quê e quando, você está vulnerável; e participem da conversa regulatória, levantando os pontos técnicos inviáveis para que a lei não exija o impossível. O "campo de batalha judicial" das redes sociais é, na verdade, um campo de batalha de arquitetura de sistemas. A trincheira é o código. E a melhor defesa contra uma multa é um sistema bem desenhado, transparente e auditável.