Em 25 de janeiro de 2025, Elon Musk discursou por videoconferência para militantes do partido alemão Alternativa para a Alemanha (AfD), chamando-os de “a melhor esperança para a Alemanha” e tecendo críticas ao multiculturalismo. Para quem acompanha a arquitetura de sistemas de recomendação, o episódio não foi uma surpresa política — foi um sintoma técnico. O que chamo de “tecnofascismo” não é um termo jurídico ou filosófico distante; é a materialização de decisões de engenharia de software que, deliberadamente ou por omissão, criaram câmaras de eco capazes de amplificar discursos autoritários.
Como engenheiro de software especializado em sistemas distribuídos e inteligência artificial aplicada, venho observando nos últimos anos como a camada de recomendação algorítmica se tornou o motor invisível de fenômenos políticos globais. Não se trata apenas de “moderação de conteúdo” ou “discurso de ódio” — conceitos que a indústria trata como problemas isolados. Trata-se de como algoritmos de engajamento, ao otimizar métricas como tempo de permanência e cliques, aprendem a explorar vieses cognitivos humanos com precisão cirúrgica. E, quando o controle desses algoritmos está nas mãos de indivíduos com agendas políticas explícitas — como o próprio Musk, dono do X (antigo Twitter) —, a erosão democrática deixa de ser um efeito colateral e passa a ser uma feature do sistema.
Da otimização de métricas à manipulação de massas
Todo engenheiro de software que já trabalhou com sistemas de recomendação conhece o trade-off fundamental entre relevância e diversidade. Um modelo treinado exclusivamente para maximizar o tempo de sessão do usuário naturalmente favorece conteúdos que geram indignação, medo ou polarização — porque esses conteúdos produzem mais cliques e mais compartilhamentos. Não há conspiração aqui: é matemática. O gradiente descendente que ajusta os pesos da rede neural não sabe o que é democracia; ele sabe o que maximiza a função de perda.
O problema se agrava quando a plataforma pertence a um ator que decide deliberadamente relaxar as proteções contra desinformação e discurso de ódio. Foi exatamente o que Musk fez ao adquirir o X em 2022: demitiu equipes de moderação, restaurou contas banidas (incluindo a do próprio Trump e de figuras ligadas à extrema-direita europeia) e, mais importante, alterou os pesos do algoritmo de recomendação para favorecer seu próprio conteúdo e o de aliados políticos. Do ponto de vista da engenharia, isso não é difícil de implementar — é uma questão de adicionar um viés explícito no ranking de relevância. Do ponto de vista ético, é a transformação de uma plataforma de debate público em um canal de propaganda personalizada.
No caso específico da AfD, a participação de Musk por videoconferência foi apenas a ponta do iceberg. O que realmente importa é que o algoritmo do X — que antes tentava (mal, mas tentava) equilibrar visibilidade entre diferentes espectros políticos — passou a amplificar ativamente o conteúdo do partido alemão para milhões de usuários que nem sequer o seguiam. Isso não é “liberdade de expressão”. É engenharia de audiência direcionada, com consequências eleitorais mensuráveis.
A infraestrutura de nuvem e a blindagem do tecnofascismo
Outro aspecto que raramente é discutido fora dos círculos técnicos é o papel da infraestrutura de cloud computing na blindagem dessas plataformas contra regulação. O X, como a maioria das grandes plataformas, roda em servidores distribuídos globalmente — parte na AWS, parte em data centers próprios e, após a aquisição por Musk, possivelmente com migração estratégica para jurisdições com regulações mais brandas.
Para um engenheiro de infraestrutura, isso representa um desafio técnico interessante: como garantir resiliência e baixa latência enquanto se opera sob múltiplos regimes legais? Para o tecnofascismo, é uma vantagem tática. Se um país decide multar ou bloquear a plataforma, o algoritmo simplesmente redireciona o tráfego para servidores em outra região, mantendo a distribuição do conteúdo autoritário intacta. A Lei de Serviços Digitais (DSA) da União Europeia tenta coibir essa prática, mas a assimetria técnica entre reguladores e plataformas é enorme — os engenheiros das big techs estão sempre um passo à frente dos legisladores.
Vivi isso na prática em projetos de sistemas de recomendação para clientes do setor financeiro. Toda vez que implementávamos um filtro de conformidade regulatória, a equipe de produto reclamava da queda nas métricas de engajamento. O dilema é o mesmo: otimizar para o usuário ou otimizar para a democracia? Em um ambiente corporativo, a resposta quase sempre é a primeira. Agora imagine esse dilema escalado para bilhões de usuários, com donos que têm poder político e econômico para ignorar completamente as consequências sociais.
Inteligência Artificial e a personalização do autoritarismo
O aspecto mais preocupante e tecnicamente fascinante desse fenômeno é o uso de IA generativa e modelos de linguagem de grande escala (LLMs) para personalizar discursos autoritários em escala industrial. Não estamos mais na era de algoritmos simples de filtragem colaborativa (“quem viu isso também viu aquilo”). Os sistemas atuais são capazes de construir perfis psicográficos detalhados de cada usuário — não apenas o que ele clica, mas como ele clica, em que horário, com que emoção (detectada por análise de sentimento em tempo real) e com qual threshold de radicalização.
Isso permite que o mesmo conteúdo político seja apresentado de formas radicalmente diferentes para públicos distintos. Um jovem desempregado em Berlim receberá uma versão do discurso da AfD focada em imigração e economia; um aposentado no interior da Baviera verá a mesma ideologia embalada em nostalgia cultural e crítica à União Europeia. O algoritmo não precisa “decidir” qual argumento funciona melhor — ele testa A/B em tempo real, aprende qual variante gera mais conversão (engajamento, compartilhamento, doação) e escala a vencedora.
Para quem constrói esses sistemas, é um trabalho de engenharia sofisticado. Para a sociedade, é a automação da manipulação política. E não há patch, hotfix ou rollback que corrija isso — o viés está embutido na própria função de custo do modelo. A menos que a empresa decida mudar a métrica de otimização de “engajamento” para “saúde do debate público”, o que, convenhamos, seria um péssimo negócio do ponto de vista de receita publicitária.
O que a engenharia de software pode (e deve) fazer
Não acredito em soluções puramente regulatórias para problemas técnicos. Leis como a DSA e o Marco Civil da Internet são necessárias, mas insuficientes — a velocidade de inovação dos algoritmos supera a capacidade legislativa. A verdadeira barreira contra o tecnofascismo precisa vir da própria engenharia de software, de dentro das empresas.
Já vi times de produto rejeitarem a implementação de métricas de diversidade algorítmica porque “reduziam o tempo de tela”. Já vi CTOs argumentarem que “não é problema da tecnologia resolver questões políticas”. Isso é um erro técnico e moral. O algoritmo sempre carrega um viés — a questão é se esse viés é explícito, auditável e desenhado para mitigar danos ou se é oculto, opaco e otimizado apenas para receita.
Algumas práticas que defendo e implemento em meus projetos de arquitetura de sistemas de recomendação:
- Métricas de diversidade como KPI de produto: assim como medimos precisão e recall, deveríamos medir a exposição cruzada a diferentes espectros políticos. Não para censurar, mas para garantir que o usuário não fique preso em uma bolha. Isso é tecnicamente simples — adicionar uma penalidade na função de perda que favoreça resultados diversos.
- Auditoria de viés como parte do pipeline de CI/CD: antes de deployar um novo modelo de recomendação, a equipe deveria executar testes automatizados que verificam se o algoritmo está amplificando desproporcionalmente discursos de ódio ou desinformação. Ferramentas como o AI Fairness 360 da IBM já fazem isso para vieses raciais e de gênero — o mesmo deveria ser aplicado para vieses políticos.
- Transparência radical na camada de ranking: o usuário deveria poder ver por que um conteúdo foi recomendado — não um “porque você se interessou por X” genérico, mas os fatores reais de ponderação (engajamento de pares, similaridade de perfil, boost explícito do proprietário). O X, por exemplo, deveria expor que posts de Musk ou da AfD receberam um multiplicador de 2x no ranking.
Nenhuma dessas soluções é trivial, mas todas são factíveis com a tecnologia atual. O que falta não é capacidade técnica, é vontade política dentro das empresas de tecnologia. E enquanto engenheiros, arquitetos e líderes técnicos não assumirem a responsabilidade pelo que constroem, continuaremos a ver algoritmos servindo como aceleradores de autoritarismo.
A participação de Musk no ato da AfD não foi um deslize. Foi a demonstração pública de algo que já estava codificado nas linhas de comando do X há meses. Nós, profissionais de tecnologia, estamos do lado certo da história? Depende do que decidirmos colocar em produção amanhã de manhã.