O alarme errado
Nos corredores das conferências de tecnologia, ainda ouço com frequência a pergunta que muitos repetem: a inteligência artificial pode conquistar o mundo? A resposta curta é não, mas não pelo motivo que Hollywood nos vendeu. Carlos Fiolhais, físico e divulgador de ciência, acertou ao deslocar o foco do apocalipse para problemas muito mais concretos: o desemprego e a desinformação. Na minha experiência implementando sistemas de IA em produtos digitais, esses dois riscos já são palpáveis e causam estragos reais — enquanto a fantasia da Skynet continua sendo apenas um bom roteiro de ficção. O debate precisa mudar de eixo.
Desemprego: a conta que já está chegando
A automatização de tarefas cognitivas repetitivas não é novidade, mas a escala que os modelos generativos trazem é inédita. Em projetos de chatbot para suporte ao cliente, vi equipes inteiras de atendimento serem reduzidas a um terço do tamanho original. A justificativa era econômica — redução de custos operacionais — mas o impacto humano foi tratado como externalidade. O que muitos gestores ignoram é que a IA não elimina apenas funções repetitivas; ela redefine cadeias de valor inteiras. Um designer que antes criava variações de layout manualmente agora é substituído por uma ferramenta de geração de imagens. Um redator que produzia descrições de produto vê seu trabalho sendo feito em segundos por um LLM.
No entanto, o desemprego tecnológico não é inevitável se houver planejamento. Vejo duas estratégias funcionando na prática: a recapacitação interna da equipe e a criação de novos papéis híbridos. Em uma fintech onde atuei como arquiteto, realocamos analistas de risco para treinar e auditar modelos de crédito — eles se tornaram especialistas em validação de saídas da IA, não em execução manual. O custo de transição foi alto, mas menor do que o custo de demitir e contratar. O verdadeiro trade-off não é entre eficiência e emprego, mas entre curto prazo e sustentabilidade do time.
Desinformação: o calcanhar de Aquiles dos sistemas generativos
O segundo perigo apontado por Fiolhais — a desinformação em massa — é ainda mais insidioso porque atua na camada de confiança da sociedade. Trabalhei diretamente com modelos de linguagem que alucinavam fatos com segurança absoluta. Em um sistema de FAQ para um portal jurídico, o modelo inventou jurisprudências que não existiam. O cliente quase publicou aquilo como conteúdo oficial. Esse tipo de erro não é um bug; é uma característica estatística dos modelos atuais. A diferença entre um texto plausível e um texto verdadeiro é invisível para quem não tem o contexto técnico para questioná-lo.
O problema escala quando esses conteúdos são distribuídos por redes sociais ou assistentes virtuais. Não há curadoria editorial, não há revisão humana em tempo real. O resultado é uma erosão lenta da credibilidade de qualquer informação — porque, se tudo pode ser gerado sinteticamente, nada pode ser confiado plenamente. A desinformação gerada por IA não precisa ser intencional para causar dano. Ela apenas precisa ser estatisticamente convincente. E, como engenheiros, subestimamos o custo de recuperar a confiança depois que um sistema entrega uma resposta errada com aparência de verdade.
O que a engenharia de software tem a ver com isso?
A responsabilidade por mitigar esses riscos não é apenas dos cientistas de dados ou dos formuladores de políticas. Ela recai diretamente sobre arquitetos e engenheiros de software que desenham os pipelines de IA. Decisões aparentemente técnicas — como definir o nível de confiança para exibir uma resposta, ou incluir um passo de validação humana em um fluxo automatizado — são, na verdade, decisões éticas e de negócio. Em um projeto de recomendação de conteúdo, optei por incluir um mecanismo de explicabilidade que mostrava ao usuário por que aquele artigo foi sugerido. Embora tenha aumentado a latência da resposta em 200 milissegundos, a taxa de rejeição de recomendações caiu 40%. O ganho de confiança compensou o custo de desempenho.
Outra prática que adoto é o versionamento de saídas: todo texto gerado por IA precisa ter um hash associado ao prompt original, ao modelo e à temperatura usada. Isso permite rastrear incidentes de desinformação e corrigir o pipeline sem culpar o modelo abstratamente. É um padrão simples, mas que muitas equipes ignoram por preguiça operacional. A engenharia de software tem a obrigação de tornar os sistemas de IA auditáveis, mesmo que isso signifique escrever mais código de infraestrutura do que código de modelo.
Minha experiência com equipes de produto e IA
Já vi times inteiros de produto tratarem a IA como uma caixa-preta mágica. O discurso é sempre o mesmo: "vamos colocar IA aqui e tudo melhora". A realidade é bem diferente. Sem uma definição clara de métricas de impacto — número de alucinações aceitáveis, taxa de substituição de tarefas humanas, nível de satisfação do usuário — o projeto vira uma aposta. Em uma startup de healthtech, implementamos um sistema de triagem de sintomas baseado em NLP. O resultado foi um aumento de 30% na precisão do encaminhamento, mas também uma queda de 15% na satisfação dos pacientes, porque o sistema não conseguia captar nuances emocionais. Tivemos que reverter parte da automação e criar um fluxo híbrido: IA sugere, humano decide.
Essa experiência me ensinou que o desemprego causado pela IA não é uma fatalidade, mas uma consequência de decisões mal calibradas. Quando uma empresa substitui toda uma equipe de suporte por um chatbot sem considerar escalonamento para casos complexos, ela está transferindo o custo humano para a sociedade — e o desemprego resultante é uma escolha, não um imperativo tecnológico. A boa notícia é que a engenharia de software pode projetar sistemas que aumentam o trabalho humano em vez de substituí-lo, desde que os stakeholders estejam dispostos a pagar o preço da complexidade adicional.
O futuro do trabalho não é distópico — é responsável
Prefiro uma visão menos catastrofista e mais pragmática. A IA não vai nos extinguir, mas já está redefinindo o que significa ser produtivo em dezenas de setores. O desemprego será real se empresas e governos não investirem em transição e requalificação. A desinformação será uma ameaça permanente se não exigirmos transparência e auditabilidade dos sistemas. Como engenheiros, temos tanto o poder quanto a responsabilidade de projetar esses mecanismos. Não se trata de parar a tecnologia — seria impossível e indesejável —, mas de construir as comportas que canalizam seu impacto para direções úteis.
Na minha prática, adotei três princípios que recomendo a qualquer equipe que esteja embarcando em um projeto de IA: sempre inclua um ponto de verificação humano para decisões de alto risco; documente explicitamente os limites do modelo (o que ele não sabe fazer); e meça o impacto nos postos de trabalho antes de cortar custos. Essas ações não tornam o sistema mais lento ou menos inteligente — tornam-no mais confiável e mais justo. E confiança, no fim das contas, é o ativo mais valioso que um produto digital pode ter.
Carlos Fiolhais tem razão: o perigo não está em uma inteligência artificial senciente que decide nos eliminar. O perigo está em nós mesmos, quando implementamos IA sem responsabilidade, sem transparência e sem pensar nas pessoas que serão afetadas. A conquista do mundo pela IA não será um golpe de Estado tecnológico — será uma rendição silenciosa de empregos e da verdade, entregue de bandeja por decisões técnicas mal pensadas. Cabe a nós, engenheiros, recusar essa rendição.