Quando uma empresa do porte da Meta decide cortar 10 mil funcionários, a tentação de usar inteligência artificial para acelerar o processo de seleção é compreensível. O que não é compreensível — e agora está sendo questionado na Justiça — é a ausência de salvaguardas técnicas que garantam que o algoritmo não repita, amplifique ou até crie novos vieses. Vinte e seis ex-funcionários da Meta entraram com um processo alegando que sistemas de IA foram usados para escolher quem seria demitido, e que essas ferramentas selecionaram desproporcionalmente pessoas que haviam tirado licença médica. O caso não é apenas mais uma notícia sobre ética em IA; é um sinal de alerta para qualquer engenheiro ou líder de produto que esteja projetando sistemas de tomada de decisão automatizada em larga escala.
Antes de discutir as implicações técnicas, é importante entender o contexto. A Meta, assim como outras big techs, passou por um ciclo de contratação agressivo durante a pandemia e depois precisou reverter o crescimento. Demissões em massa são brutais por natureza, mas quando um algoritmo é colocado no centro da decisão, a responsabilidade deixa de ser apenas de um gestor e passa a ser um problema de engenharia. O que está em jogo não é apenas a reputação da empresa, mas a vida de pessoas reais — e a confiança do mercado em sistemas de IA aplicados a RH.
O que significa "selecionar desproporcionalmente"?
Do ponto de vista técnico, um modelo de classificação ou ranking pode aprender a associar características — como tempo de licença médica, frequência de afastamentos ou padrões de uso de benefícios — a uma probabilidade de "baixo desempenho" ou "baixa alocação estratégica". Se esses dados estiverem nos features do modelo sem a devida análise de fairness, o algoritmo pode reproduzir um viés histórico: gerentes podem ter, inconscientemente, avaliado pior funcionários que estavam ausentes por doença, e o modelo aprende essa correlação espúria. O problema é que o modelo não entende causalidade; ele apenas maximiza a acurácia preditiva com base nos dados de treinamento. Se os dados de desempenho passado já contêm viés contra quem tirou licença médica, o algoritmo vai amplificá-lo.
Na prática, isso significa que um engenheiro que não incluiu variáveis de controle ou que não realizou testes de disparate impact (impacto desproporcional) pode estar criando uma máquina de discriminação. E não estou falando de discriminação intencional, mas de um erro de engenharia tão comum quanto não tratar dados desbalanceados em um classificador de fraude. A diferença é que, aqui, o erro custa empregos e abre espaço para processos trabalhistas milionários.
Onde a governança de dados falhou?
Para que um modelo de seleção de demissões seja minimamente justo, ele precisa ser treinado com dados que representem de forma equitativa todos os grupos de funcionários. Mas a Meta, como qualquer grande empresa, possui dados históricos de avaliações de desempenho, promoções, feedbacks de gestores e métricas de produtividade. Esses dados são inerentemente ruidosos e sujeitos a vieses culturais e organizacionais. Um gestor pode ter uma percepção negativa de um funcionário que esteve afastado por doença, mesmo que o desempenho antes e depois do afastamento seja excelente. Esse viés entra no dado de treinamento.
Além disso, há o problema da variável target. O que exatamente o modelo deve prever? "Probabilidade de ser demitido" é uma target que reflete decisões humanas anteriores, que podem ser tendenciosas. Se o modelo for treinado para prever quem foi demitido no passado, ele vai aprender os padrões dessas demissões — incluindo qualquer viés. Uma abordagem mais robusta seria usar uma target que reflita desempenho real, como métricas de entrega de projetos, mas isso é difícil de padronizar entre equipes e cargos. A escolha da target é uma decisão de engenharia com implicações éticas profundas.
Lições de implementação que aprendi na prática
Já liderei projetos de machine learning em RH, e uma das primeiras lições que aprendi é que você nunca deve usar um modelo sem uma forte camada de interpretabilidade e auditoria. No caso das demissões, isso significa que o modelo não pode ser uma caixa-preta. Cada decisão precisa ser explicável: por que o funcionário A foi selecionado e o B não? Quais features foram mais relevantes? Se o modelo aponta "licença médica" como um dos principais fatores, isso é um red flag imediato.
Outra prática que deveria ser obrigatória é o teste de impacto desproporcional antes de colocar o modelo em produção. Ferramentas como a biblioteca Aequitas ou o pacote fairness do scikit-learn permitem calcular métricas como disparate impact ratio, equal opportunity difference e outras. Na Meta, se esses testes foram feitos, os resultados precisam ser apresentados no tribunal. Se não foram feitos, isso é uma falha grave de governança.
Também é crucial envolver times jurídicos e de compliance desde o início do desenvolvimento, não apenas na validação final. O engenheiro de software não precisa ser especialista em leis trabalhistas, mas precisa entender que decisões automatizadas sobre pessoas são reguladas em diversos países (como o GDPR na Europa e a LGPD no Brasil, que exigem explicação de decisões automatizadas). Ignorar isso é expor a empresa a riscos legais.
O que muda para engenheiros e líderes de produto?
O caso Meta deve servir como um catalisador para que times de engenharia repensem seus processos de desenvolvimento de modelos de RH. Se você está construindo ou usando um sistema de IA para apoiar decisões de contratação, promoção ou demissão, considere os seguintes pontos:
- Audite os dados de treinamento — verifique se há correlações espúrias entre características protegidas (como saúde, gênero, raça) e a variável target. Remova ou pondere adequadamente essas features.
- Implemente fairness constraints — use técnicas de pré-processamento, em-processamento ou pós-processamento para garantir que o modelo não discrimine grupos protegidos. Não é opcional; é parte da especificação técnica.
- Estabeleça um human-in-the-loop — mesmo que a IA sugira uma lista de candidatos a demissão, a decisão final deve ser revisada por humanos com poder de veto. O modelo deve ser uma ferramenta de apoio, não um carrasco autônomo.
- Documente e versione — cada versão do modelo, conjunto de dados e hiperparâmetros precisa ser rastreável. Em um eventual litígio, essa documentação pode ser a diferença entre provar due diligence ou negligência.
Riscos técnicos e limitações do modelo
Mesmo com todas as precauções, modelos de IA para RH têm limitações intrínsecas. A primeira é a instabilidade temporal: o que funciona hoje pode não funcionar amanhã, especialmente em um ambiente de reestruturação onde os critérios de negócio mudam rapidamente. Um modelo treinado com dados de 2022 pode não capturar as novas prioridades estratégicas de 2023. A segunda é a falta de contexto individual: o modelo não sabe que um funcionário que tirou licença médica estava cuidando de um familiar doente ou enfrentando um problema de saúde grave. Esses fatores humanos são difíceis de quantificar e, ao tentar quantificá-los, corremos o risco de simplificar demais.
Outra limitação é a dificuldade de medir o impacto causal. O modelo pode apontar correlação, mas não causalidade. Funcionários que tiram licença médica podem ter desempenho inferior simplesmente porque o sistema de suporte da empresa é falho, não porque eles são menos produtivos. O algoritmo, ao penalizá-los, apenas reforça um ciclo vicioso. Para mitigar isso, seria necessário um experimento controlado, algo raro em processos de demissão reais.
Minha perspectiva sobre o caso
Não tenho acesso aos detalhes internos do modelo da Meta, mas a acusação é consistente com o que vejo em muitos projetos de IA mal conduzidos. O erro não é usar IA para apoiar decisões de RH — isso pode trazer eficiência e objetividade. O erro é tratar a IA como uma solução mágica que substitui o julgamento humano e a responsabilidade ética. A Meta, assim como Amazon (que abandonou um sistema de recrutamento com viés de gênero), está aprendendo da pior forma que a engenharia de IA não pode ignorar valores humanos e legais.
Para engenheiros que trabalham com IA aplicada, essa é uma oportunidade de refletir: qual o nosso papel na construção de sistemas que afetam diretamente a vida das pessoas? Não basta acertar a acurácia. Precisamos acertar a justiça, a transparência e a auditoria. O caso Meta mostra que, quando não fazemos isso, o mercado e a Justiça nos lembram — com força.
Se você está liderando um time de dados ou produto, sugiro incluir uma etapa de revisão de fairness no seu pipeline de desenvolvimento. Não espere um processo judicial para descobrir que seu modelo estava segregando funcionários por licença médica. O custo de prevenir é muito menor do que o custo de remediar — e a reputação, uma vez perdida, dificilmente se recupera.