Le problème
Un candidat a postulé à plus de 100 offres d'emploi via la plateforme de Workday. Il a été rejeté de presque toutes — souvent en quelques minutes, en dehors des heures ouvrées. Aucun être humain n'a jamais examiné son CV. Derek Mobley, un homme afro-américain de plus de 40 ans en situation de handicap, a intenté une action en justice qui a désormais redéfini le droit du travail aux États-Unis. En mai 2025, un tribunal fédéral a certifié un recours collectif d'envergure nationale couvrant potentiellement des millions de candidats âgés de plus de 40 ans à qui toute recommandation d'embauche a été refusée par les outils de filtrage par IA de Workday.
Les chiffres sont vertigineux. Durant la période concernée, les propres documents judiciaires déposés par Workday ont révélé que son logiciel avait traité environ 1,1 milliard de rejets de candidatures. Il ne s'agit pas d'une faute de frappe. Des milliards de décisions automatisées, dont un grand nombre prises sans contrôle humain significatif.
Voici ce qui change pour votre entreprise : en juillet 2024, la juge Rita Lin du tribunal fédéral du district nord de Californie a statué que les fournisseurs d'IA tels que Workday ne sont pas de simples éditeurs de logiciels neutres. Ils sont des « agents » des employeurs qui les utilisent. Cela signifie qu'ils encourent une responsabilité directe au titre du Title VII, de l'ADA et de l'ADEA — les mêmes lois fédérales antidiscrimination qui s'appliquent à vous. Si votre outil de recrutement par IA opère une discrimination, votre entreprise et votre fournisseur peuvent tous deux être tenus pour responsables. Le tribunal a tracé une frontière nette : un système d'IA qui note, classe et recommande activement des candidats exerce une fonction essentielle de recrutement, et ne se contente pas de trier une feuille de calcul.
Pourquoi cela concerne directement votre entreprise
Cette décision modifie votre profil de risque de trois manières concrètes.
L'exposition financière est massive et croissante. Le recours collectif contre Workday couvre chaque candidat de plus de 40 ans privé de recommandation depuis septembre 2020. En juillet 2025, le tribunal a élargi sa portée aux candidats évalués par HiredScore AI, une technologie acquise par Workday. Votre responsabilité potentielle augmente avec chaque candidature rejetée par vos outils d'IA.
Les sanctions réglementaires sont déjà là. La Local Law 144 de la ville de New York impose des audits de biais annuels et indépendants pour les outils automatisés de prise de décision en matière d'emploi. Les pénalités débutent à 500 $ pour la première infraction et atteignent 1 500 $ par infraction et par jour en cas de récidive. De nombreuses villes et plusieurs États suivent désormais l'exemple de New York.
Le préjudice de réputation constitue le coût caché. Le tribunal peut ordonner aux entreprises de notifier des millions de candidats concernés. Imaginez le nom de votre entreprise figurant sur une liste ordonnée par la justice et envoyée à chaque personne rejetée par votre IA. Les directives de l'EEOC de mai 2023 explicitent vos obligations : vous êtes responsable des résultats des outils algorithmiques, même si un tiers les a conçus ou exécutés.
Voici le bilan concret pour votre budget :
- 500 $ à 1 500 $ par jour de pénalités à New York en cas d'absence d'audit des biais
- 1,1 milliard de rejets traités sur une seule plateforme durant la période du litige
- Plus de 100 rejets pour un seul candidat, souvent en quelques minutes — le schéma qui a tout déclenché
- Chaque candidat de plus de 40 ans depuis septembre 2020 est un plaignant potentiel dans cette affaire
Si votre fournisseur ne peut pas expliquer pourquoi un candidat a été rejeté — ou s'il décline toute responsabilité en matière de biais —, votre entreprise assume 100 % du risque.
Ce qui se passe réellement sous le capot
La plupart des outils de recrutement par IA reposent sur des grands modèles de langage (LLM) — des systèmes conçus pour prédire le mot suivant le plus probable, et non pour prendre des décisions équitables. Considérez-les comme des moteurs d'auto-complétion fonctionnant à très grande échelle. Ils sont conçus pour la vraisemblance, pas pour l'exactitude. Lorsque vous enveloppez l'un de ces modèles d'une mince couche applicative et que vous qualifiez le tout de « solution de recrutement », vous vous exposez à trois modes de défaillance dangereux.
Premièrement, ils perdent de l'information au milieu. La recherche démontre que les modèles d'IA standards portent une attention soutenue au début et à la fin des documents, mais développent ce que les chercheurs appellent un « creux d'attention » au milieu. Dans un CV de 10 pages, les certifications cruciales ou les réalisations récentes situées dans les pages centrales sont statistiquement plus susceptibles d'être ignorées.
Deuxièmement, ils inventent des faits. Lorsqu'un LLM ne trouve pas une qualification spécifique, il génère souvent une hypothèse plausible fondée sur le texte environnant. Votre système pourrait ainsi rejeter un candidat qualifié sur la base d'un « fait » qui ne figure nulle part dans son dossier réel.
Troisièmement, ils discriminent par variables substitutives (proxies). Un modèle d'IA n'a pas besoin de voir votre âge pour le déduire. Il apprend qu'une adresse e-mail @aol.com, plus de 15 ans d'expérience, des références à des technologies anciennes comme Lotus Notes ou des intitulés de poste du début de carrière datant des années 1990 sont tous corrélés au fait d'avoir plus de 40 ans. Lorsque le modèle est entraîné sur les « collaborateurs les plus performants » d'une entreprise, qui se trouvent être majoritairement plus jeunes, il interprète ces signaux indirects comme des indicateurs négatifs. Cela crée une boucle de rétroaction : le système reproduit et amplifie précisément les biais qu'il était censé éliminer.
L'EEOC applique la « règle des quatre cinquièmes » pour tester la discrimination. Si le taux de sélection d'un groupe protégé est inférieur à 80 % de celui du groupe ayant le taux le plus élevé, il y a impact disparate (adverse impact). Dans l'affaire Workday, les profils de rejet selon les tranches d'âge ont précisément déclenché ces signaux d'alerte.
Ce qui fonctionne (et ce qui échoue)
Commençons par trois approches courantes qui échouent dans les environnements de recrutement réglementés.
« Nous avons ajouté une invite système demandant à l'IA d'être équitable. » Les invites système sont des suggestions, pas des règles. Elles sont facilement contournées et n'offrent aucune défense juridique. Un juge n'acceptera jamais l'argument « nous avons dit à l'IA d'être bienveillante » comme stratégie de conformité.
« Nous faisons un audit une fois par an. » Les audits annuels ne détectent les problèmes qu'une fois le préjudice commis. Si votre modèle dérive entre deux audits — et les modèles dérivent bel et bien —, vous accumulez des risques de responsabilité chaque jour où vous n'exercez aucune surveillance.
« Notre fournisseur s'occupe de la conformité. » Dans l'affaire Mobley c. Workday, le tribunal a jugé que déléguer des fonctions d'embauche à un système automatisé prolonge la chaîne de responsabilité au lieu d'y mettre fin. La conformité de votre fournisseur est votre propre conformité.
Ce qui fonctionne en revanche, c'est une architecture qui sépare le traitement du langage de la prise de décision. Voici comment cela fonctionne en trois étapes :
Entrée et traduction. Une IA spécialisée lit un CV ou une transcription et en extrait des faits précis : « Le candidat a 5 ans d'expérience en Python. » À cette étape, des garde-fous d'entrée (guardrails) vérifient les anomalies de qualité des données, les fuites d'informations personnelles identifiables et les tentatives de manipulation contradictoire. L'IA joue le rôle de traducteur, et non de décideur.
Raisonnement structuré. Ces faits extraits sont projetés sur un graphe de connaissances — une cartographie structurée définissant les relations entre compétences, postes et exigences. Un moteur de règles applique ensuite votre logique métier de façon déterministe : SI expérience est supérieure ou égale à 5 ans ET compétence est égale à Python, ALORS éligible est égal à vrai. L'IA ne peut pas « halluciner » une politique, car les règles sont rédigées dans le code et non issues d'une prédiction.
Sortie auditable. Chaque recommandation génère une piste logique claire indiquant précisément quelle règle a été déclenchée, par quelle donnée, dans quel document. Des garde-fous de sortie analysent les biais, erreurs et infractions aux politiques avant que le moindre résultat ne parvienne à un recruteur. Des techniques comme SHAP — qui attribue une valeur contributive précise à chaque facteur d'une décision — vous permettent de prouver à un régulateur ou à un juge que « la compétence X a contribué pour +15 au score de ce candidat » et qu'aucun autre élément n'a dicté le résultat.
C'est cette différence fondamentale qui compte pour votre équipe de conformité. Lorsqu'un régulateur demande « pourquoi cette personne a-t-elle été rejetée ? », vous pouvez pointer une règle précise appliquée à un fait précis. Vous ne demandez pas à une IA d'émettre des hypothèses a posteriori sur son propre raisonnement.
Votre organisation devrait également mettre en œuvre un débiaisement contradictoire (adversarial debiasing) lors de l'entraînement des modèles. Cette technique entraîne un modèle secondaire à détecter si les sorties du modèle principal révèlent des caractéristiques protégées comme la race ou l'âge. Si le modèle secondaire y parvient, le modèle principal est pénalisé et réentraîné. Le résultat est un système qui élimine activement les schémas discriminatoires au lieu d'espérer qu'ils n'apparaissent pas.
Enfin, mettez en place un modèle des trois lignes de défense pour la gestion des risques liés à l'IA. Vos entités opérationnelles assument le risque quotidien lié à l'IA, notamment la sélection des données d'entraînement et l'anonymisation des candidats. Une fonction risque et conformité tient à jour les registres des modèles et surveille en continu les taux de sélection. Une fonction d'audit indépendant vérifie l'ensemble — y compris les audits annuels obligatoires des biais imposés par des législations telles que la Local Law 144 de la ville de New York.
La transition vers un déploiement d'IA souveraine — en exécutant les modèles au sein de votre propre infrastructure plutôt qu'à travers des API tierces — vous confère la maîtrise de la provenance et la traçabilité des données. Vos données de recrutement propriétaires vous restent exclusives. Vos modèles ne subissent pas de modifications imprévisibles suite à la mise à jour déployée par un fournisseur.
Le secteur des technologies RH et de gestion des talents passe de l'automatisation à la vérification. Les entreprises qui intègrent les audits d'équité et l'atténuation des biais au cœur de leur architecture fondamentale — et non comme une mesure après coup — seront celles qui subsisteront lors des prochains jugements. Vous pouvez consulter l'analyse technique complète ou explorer la version interactive pour obtenir plus de détails sur les précédents juridiques et l'architecture technique.
Points clés
- Un tribunal fédéral a statué en 2024 que les fournisseurs d'IA de recrutement sont qualifiés d'« agents » légaux — les rendant directement responsables de discrimination au titre du Title VII, de l'ADA et de l'ADEA.
- La plateforme de Workday a traité environ 1,1 milliard de rejets de candidatures durant la période du litige, et un recours collectif national couvre désormais potentiellement des millions de candidats de plus de 40 ans.
- Les modèles d'IA discriminent par le biais de variables substitutives telles que les domaines d'e-mail, les années d'expérience et les références technologiques obsolètes — sans jamais connaître l'âge réel du candidat.
- Les audits annuels de biais ne suffisent pas à eux seuls ; une surveillance continue, des moteurs de règles déterministes et des pistes logiques auditables sont indispensables pour défendre vos décisions d'embauche devant les tribunaux.
- Les pénalités de la Local Law 144 de la ville de New York s'échelonnent de 500 $ à 1 500 $ par infraction et par jour — mais le coût réel réside dans la citation de votre entreprise dans une notification ordonnée par la justice adressée à des millions de candidats rejetés.
En résumé
Le jugement Mobley c. Workday signifie que la discrimination opérée par votre fournisseur d'IA de recrutement engage désormais votre propre responsabilité. Chaque rejet automatisé que votre entreprise ne peut pas expliquer constitue une vulnérabilité juridique. Demandez à votre fournisseur : pouvez-vous me montrer la règle exacte, appliquée à la donnée précise, ayant provoqué le rejet de chaque candidat — et pouvez-vous produire cette piste logique devant un tribunal ?