Uma ação judicial movida contra a Meta, acusando a empresa de utilizar inteligência artificial para selecionar funcionários de forma discriminatória durante demissões em massa, escancara um problema que assombra o setor de tecnologia há pelo menos dois anos: como provar que um algoritmo agiu de forma tendenciosa quando seu funcionamento interno é, por definição, opaco? A denúncia é inédita em sua formulação, mas o dilema que ela representa é antigo e, até agora, sem solução clara.
Não se trata de um caso isolado de “má fé” corporativa. Estamos diante de um paradoxo técnico-jurídico. Se, por um lado, a empresa alega que a IA otimiza decisões com base em dados objetivos — performance, senioridade, alinhamento cultural —, por outro, o funcionário demitido enxerga um padrão que a estatística sugere ser sistemático, mas que o código-fonte, devidamente guardado por segredo industrial, não permite escrutinar. A questão central não é se a Meta usou IA para demitir, mas sim como usou — e que métricas alimentaram esse modelo.
Para quem atua com engenharia de software e produto, essa história deveria soar como um alarme. Não porque a Meta esteja fazendo algo ilegal — ainda não se sabe —, mas porque qualquer sistema de recomendação ou avaliação automatizada de pessoas carrega, dentro de si, as mesmas armadilhas técnicas que já vimos em sistemas de crédito, recrutamento e moderação de conteúdo. A diferença é que, nas demissões, o custo de um erro não é um anúncio mal direcionado: é a carreira de uma pessoa.
O que está por trás da acusação de “discriminação algorítmica”
A acusação central é que a Meta teria utilizado um modelo de IA para ranquear funcionários e definir quem seria cortado em levas de layoffs, e que esse ranqueamento teria penalizado desproporcionalmente grupos protegidos por leis antidiscriminação — como mulheres, pessoas negras e profissionais acima de 40 anos. A alegação faz sentido técnico: modelos de machine learning treinados com dados históricos de desempenho podem incorporar vieses estruturais da própria empresa. Se, no passado, mulheres receberam menos promoções por razões culturais, um modelo que usa “histórico de promoções” como feature relevante vai, matematicamente, reproduzir essa injustiça.
No entanto, o que os ex-funcionários enfrentam agora é a chamada “caixa-preta” do algoritmo. Sem acesso ao código, aos pesos do modelo e, principalmente, aos dados de treinamento, não há como provar que o viés existiu. A Meta, como qualquer empresa de tecnologia, protege esses ativos como segredo industrial — e com razão, do ponto de vista comercial. Mas essa proteção cria um ambiente onde a discriminação algorítmica pode ocorrer sem deixar rastros auditáveis externamente.
Eu já vi isso de perto. Em projetos de sistemas de recomendação de conteúdo, basta uma feature mal pensada — como “tempo médio de clique em posts de determinada categoria” — para que o modelo comece a segregar públicos sem que nenhum engenheiro tenha programado explicitamente essa segregação. Imagina isso aplicado a pessoas, com variáveis como “último ano sem aumento”, “participação em reuniões de diversidade” ou “avaliação de gestor anterior”. O modelo não precisa ser malicioso para ser injusto. Ele só precisa ser mal especificado.
O gargalo técnico da transparência em modelos de RH
Há um detalhe técnico que pouca gente discute fora dos círculos de MLOps: a diferença entre explicabilidade local e global. Um modelo pode ter uma métrica de acurácia excelente (explicabilidade global), mas ainda assim tomar decisões individuais bizzarras ou discriminatórias (explicabilidade local). Ferramentas como SHAP e LIME permitem analisar decisões pontuais, mas são caras computacionalmente e, muitas vezes, não são utilizadas em produção porque aumentam a latência da inferência.
Na prática, isso significa que, mesmo que a Meta tenha auditoria interna e relatórios de fairness, esses documentos podem não ser suficientes para demonstrar, decisão por decisão, que cada funcionário demitido foi tratado de forma equânime. É um problema de granularidade: a empresa pode provar que o modelo, como um todo, não é enviesado, mas não consegue provar que o corte específico que atingiu aquele profissional em particular foi justo. O ônus da prova recai sobre o trabalhador — que não tem acesso a nada disso.
E aqui está o ponto cego jurídico que o caso Meta ilumina: a legislação trabalhista atual, no Brasil e nos EUA, foi desenhada para um mundo onde decisões de demissão são tomadas por humanos, que podem ser questionados sobre seus critérios. Com um algoritmo, não há “gestor” para depor. Há um arquivo pickle ou um modelo serializado em ONNX. Como se interroga um arquivo binário?
Por que a “onda de ações” ainda não aconteceu
Segundo o portal Globo, especialistas apontam que a esperada enxurrada de processos trabalhistas contra o uso de IA em demissões ainda não se materializou justamente por essa dificuldade probatória. Não é por falta de casos — há relatos informais de ex-funcionários do Google, Amazon e Microsoft que suspeitam de decisões automatizadas. O que falta é a prova técnica. E isso não é coincidência: as empresas estruturam seus processos seletivos e avaliativos justamente para não deixar rastros.
Há um mecanismo de “blindagem processual” que funciona de forma indireta. Quando um funcionário é demitido com base em uma avaliação de performance, a empresa pode apresentar uma pilha de e-mails, feedbacks e métricas objetivas. O fato de esses dados terem sido processados por um modelo de IA é irrelevante — o que importa é o resultado. Para o direito, o meio é secundário. Mas, para a engenharia, o meio é tudo. Um modelo mal calibrado pode amplificar ruídos que um humano ignoraria, e vice-versa.
Na minha experiência com sistemas de recomendação em larga escala, notei que muitos vieses só aparecem quando você faz testes de abdução — ou seja, quando força o modelo a explicar uma decisão absurda e rastreia o peso de cada feature. É um trabalho detectivesco que consome dias de engenharia. Nenhum escritório de advocacia, por mais bem equipado que seja, tem esse conhecimento técnico embutido. E as empresas de tecnologia sabem disso.
O que isso significa para profissionais de tecnologia e produto
Se você trabalha com engenharia de software, ciência de dados ou produto, este caso deve servir como um alerta ético e profissional. Não espere que o jurídico da sua empresa resolva essas questões. Muitas vezes, o time de produto não tem ideia de que o modelo que eles aprovaram para “otimizar alocações” está, na verdade, sendo usado para ranquear pessoas para demissão. É um problema de governança de modelo que começa na fase de design.
Perguntas que todo time de engenharia deveria fazer antes de implantar um sistema de avaliação automatizada de pessoas:
- Quem definiu os targets do modelo? O target “produtividade medida por commits” é justo para um QA ou um designer? E para um gestor que passa o dia em reuniões?
- Há um mecanismo de human-in-the-loop? A decisão final é revisada por um gestor que pode discordar do algoritmo? Se sim, como garantir que esse gestor não apenas referenda a sugestão?
- Qual a política de retenção de logs de inferência? Se um funcionário questionar a decisão daqui a três anos, vocês conseguem reproduzir exatamente o que o modelo respondeu naquele momento?
- O modelo passa por auditoria externa periódica? Uma empresa independente tem acesso aos dados de treinamento e pode verificar vieses?
Ações como a da Meta podem parecer um ruído distante para quem está no Brasil, mas elas criam precedentes que chegarão aqui. O Marco Legal da Inteligência Artificial em tramitação no Congresso brasileiro já prevê mecanismos de auditoria e responsabilidade civil para sistemas de alto risco — e decisões de RH certamente se enquadram nessa categoria. Quem não se preparar agora, pode ser pego desprevenido.
Riscos, limitações e o que ninguém está dizendo
É preciso justiça à Meta: usar IA para demissões não é, em si, ilegal. A empresa pode argumentar que o modelo apenas processa dados fornecidos por gestores humanos — ou seja, o viés não é do algoritmo, mas de quem alimentou os dados. Esse argumento é forte tecnicamente: o modelo é um espelho dos dados históricos. Se a empresa tinha uma cultura discriminatória antes, o modelo só vai perpetuar isso, não criar. A culpa, nesse caso, não é da ferramenta, mas do processo que a alimenta.
Por outro lado, esse argumento é fraco no campo da responsabilidade jurídica. As leis trabalhistas americanas (e as brasileiras) responsabilizam o empregador pelo resultado, não pela ferramenta. Se o resultado é discriminatório, não importa se ele foi gerado por um humano ou por um algoritmo. A Meta será julgada pelo padrão observado, não pela intenção. Mas, e aqui está o nó, provar o padrão discriminatório depende de dados que apenas a Meta possui.
Outro ponto pouco discutido: a possibilidade de viés de confirmação dos próprios funcionários. Uma mulher demitida pode achar que foi vítima de discriminação de gênero quando, na verdade, foi cortada por um motivo legítimo (baixa performance) que afetou igualmente homens e mulheres. A estatística pode mentir, especialmente em amostras pequenas. O caso Meta será o primeiro grande teste para entender se o judiciário tem condições técnicas de separar um viés algorítmico real de um ruído estatístico.
Minha visão: o caminho é a auditoria de modelo como commodity
Particularmente, acredito que o desfecho ideal para esse tipo de conflito não é a proibição do uso de IA em RH — isso seria um retrocesso inútil —, mas a criação de um padrão de auditoria técnica que seja acessível a ambas as partes. Imagine um “laudo pericial de modelo” emitido por empresas certificadas, com metodologias abertas, que pudesse ser usado por qualquer trabalhador que desconfie de uma decisão automatizada. Algo como um teste de direcionalidade, que mede se uma feature protegida (raça, gênero, idade) teve peso desproporcional na decisão final.
Isso existe em versões acadêmicas, mas não como commodity de mercado. As empresas de tecnologia têm recursos para desenvolver esses laudos internamente, mas os funcionários, não. Enquanto não houver uma indústria de auditoria algorítmica independente e acessível, os trabalhadores estarão em desvantagem técnica. É um gap de mercado que alguém precisa preencher — e que talvez preparemos, como engenheiros, para construir.
O caso da Meta, portanto, não é apenas sobre demissões injustas. É sobre quem detém o poder de explicar o que aconteceu dentro de um modelo. Enquanto apenas uma parte tiver acesso aos dados e ao código, não haverá justiça — haverá apenas algoritmos opacos decidindo destinos. E isso, como profissionais de tecnologia, deveria nos incomodar profundamente.