Une IA a dit à une femme sourde de « pratiquer l'écoute active ». C'est là que j'ai compris que ce secteur était brisé.

J'étais assis dans mon bureau à domicile, tard un mardi soir, en train de parcourir la plainte déposée par l'ACLU contre Intuit et HireVue, quand je suis tombé sur la phrase qui m'a fait poser mon ordinateur portable et fixer le mur.

Une femme sourde et autochtone — identifiée sous les initiales D.K. dans les documents — avait été obligée de passer un entretien vidéo automatisé pour une promotion. Elle avait déjà obtenu des évaluations positives, des primes annuelles, un parcours qui aurait dû rendre la promotion évidente. Mais le système d'IA qui a traité son entretien a généré un commentaire qui hantera ce secteur pendant des années : il lui a dit de « pratiquer l'écoute active ».

Elle est sourde.

Le système ne le savait pas. Le système s'en moquait. Le système a fait ce que fait tout grand modèle de langage — il a effectué une correspondance de motifs par rapport à un ensemble de données d'entraînement construit très majoritairement à partir d'humains entendants, neurotypiques et parlant l'anglais américain standard, et il a décidé que quiconque ne ressemblait pas à cet ensemble de données était déficient. Pas différent. Déficient.

J'ai passé des années à construire chez Veriprajna des systèmes d'IA conçus pour prendre des décisions à fort enjeu concernant des personnes. Et je peux vous le dire avec une certitude absolue : ce n'était pas un bug. C'était l'architecture fonctionnant exactement comme prévu. C'est là qu'est le problème.

Que s'est-il réellement passé pour D.K. ?

Il vaut la peine de s'arrêter sur ces faits, car ils révèlent quelque chose de plus profond qu'une simple défaillance logicielle.

D.K. avait demandé un aménagement raisonnable — plus précisément, un sous-titreur humain de type CART (Communication Access Realtime Translation) pour l'aider à suivre l'entretien vidéo. À la place, on lui a fourni des sous-titres automatiques. Si vous avez déjà vu des sous-titres automatiques massacrer un interlocuteur ayant un léger accent régional, imaginez ce qui se passe lorsque l'interlocutrice a ce que les linguistes appellent un « accent sourd » — des schémas de parole façonnés par une vie entière passée à communiquer sans retour auditif.

Le système de reconnaissance vocale automatique ne parvenait pas à analyser sa parole. La transcription qu'il a générée était, concrètement, un charabia. Ensuite, une deuxième couche d'IA a analysé cette transcription incompréhensible à la recherche de « qualités de leadership » et de « compétences en communication » et a conclu qu'elle n'était pas prête pour un poste de direction.

C'est ce que j'ai commencé à appeler la défaillance en cascade lors de conversations avec mon équipe — lorsqu'une erreur dans une couche d'IA ne se contente pas de persister, mais s'amplifie en passant par les couches suivantes. Une mauvaise transcription alimente une mauvaise analyse qui alimente une mauvaise recommandation. Au moment où un humain voit le résultat, celui-ci a l'air propre. Un score. Un classement. Un refus. Personne ne voit le taux d'erreur par mot de 78 % qui se cache dessous.

Lorsque la transcription fondamentale présente un taux d'erreur de 78 %, chaque modèle bâti par-dessus n'analyse pas la candidate — il analyse du bruit.

Ce chiffre n'est pas hypothétique. Les recherches sur les systèmes de reconnaissance vocale automatique traitant des locuteurs sourds ayant une intelligibilité de la parole moyenne à faible montrent systématiquement des taux d'erreur par mot compris entre 77 % et 78 %. À titre de comparaison, les locuteurs de l'anglais américain standard atteignent 10 à 18 %. Le système n'allait jamais fonctionner pour D.K. Il était conçu, dès le départ, pour l'exclure.

Pourquoi chaque outil de recrutement par IA a-t-il ce problème ?

C'est ici que je dois être honnête au sujet du secteur dans lequel je travaille.

La grande majorité des « solutions de recrutement par IA » actuellement sur le marché sont ce que nous appelons des produits d'enrobage. Ce sont de fines interfaces bâties par-dessus des grands modèles de langage à usage général — GPT-4, Claude, Gemini. L'entreprise ajoute une jolie interface, quelques instructions propres aux RH, peut-être un tableau de bord avec des graphiques, et vend cela comme de « l'intelligence des talents propulsée par l'IA ».

Je me suis retrouvé face à des acheteurs d'entreprise qui étaient réellement incapables de faire la différence entre un produit d'enrobage et un système conçu sur mesure. Et pourquoi le pourraient-ils ? Le marketing est identique. Les démonstrations sont soignées. L'entreprise d'enrobage dit « nous utilisons une IA avancée » et l'entreprise d'IA de fond dit « nous utilisons une IA avancée », et l'équipe des achats choisit celle qui affiche le prix le plus bas.

La différence n'apparaît que lorsque quelqu'un comme D.K. franchit la porte.

Les grands modèles de langage à usage général héritent de chaque biais ancré dans les ensembles de données à l'échelle d'Internet sur lesquels ils ont été entraînés. Si des décennies de données de recrutement reflètent une préférence pour des candidats qui parlent d'une certaine manière, ont une certaine apparence, se présentent d'une certaine façon, le modèle ne remet pas ce motif en question — il l'optimise. Ce n'est pas une faille dans le raisonnement du modèle. C'est littéralement ce pour quoi le modèle a été conçu : trouver des motifs et les reproduire.

Je me souviens d'une vive discussion avec l'un de mes ingénieurs — je l'appellerai Ravi — sur la question de savoir si le débiaisage antagoniste valait le surcoût de calcul. Sa position était pragmatique : « La plupart des candidats ne déclencheront pas les cas limites. Nous ajoutons de la latence pour un scénario qui touche peut-être 2 % des entretiens. » Ma réponse a été franche : « Si votre système fonctionne parfaitement pour 98 % des gens et discrimine systématiquement les 2 % restants, vous n'avez pas construit un bon produit comportant des cas limites. Vous avez construit une violation des droits civiques avec un taux d'exactitude élevé. »

Ravi a fini par changer d'avis. Mais je repense souvent à cette conversation, car je sais qu'elle se déroule en ce moment même dans chaque entreprise d'IA, et que dans la plupart d'entre elles, ce sont les Ravi qui l'emportent.

Comment construit-on concrètement une IA qui ne discrimine pas ?

La réponse technique compte, mais je veux l'expliquer comme je l'expliquerais à un ami, et non comme je l'écrirais dans un document de spécifications.

L'idée centrale de ce que nous construisons chez Veriprajna s'appelle le débiaisage antagoniste. Imaginez que vous entraînez deux modèles d'IA simultanément. Le premier modèle — celui qui vous intéresse réellement — essaie de prédire si un candidat réussira dans un poste. Le second modèle est un adversaire. Son seul travail consiste à examiner les représentations internes du premier modèle et à essayer de deviner l'origine ethnique, le genre, le statut de handicap du candidat, ou tout autre attribut protégé.

Ensuite, vous punissez le premier modèle chaque fois que l'adversaire réussit.

Au fil de milliers de cycles d'entraînement, le modèle principal apprend à faire des prédictions qui sont réellement aveugles aux caractéristiques protégées — non pas parce que vous avez retiré ces points de données de l'entrée (c'est l'approche naïve, et elle ne fonctionne pas car des variables de substitution subsistent), mais parce que le raisonnement interne du modèle a été forcé de trouver des chemins vers ses conclusions qui ne passent pas par des informations démographiques.

L'équité contrefactuelle signifie prouver que le score d'un candidat resterait identique si ses attributs protégés — origine ethnique, genre, handicap — étaient différents. Ce n'est pas une aspiration. C'est un test mathématique.

C'est fondamentalement différent de ce qu'un produit d'enrobage peut faire. Vous ne pouvez pas greffer le débiaisage antagoniste sur un appel d'API GPT. Vous ne pouvez pas auditer rétroactivement les représentations internes d'un modèle que vous ne contrôlez pas. Vous ne faites qu'envoyer du texte à une boîte noire en espérant que le résultat ne soit pas discriminatoire. L'espoir n'est pas une stratégie de conformité.

J'ai décrit l'architecture technique complète — y compris l'approche de fusion multimodale et les métriques d'équité formelles — dans notre livre blanc interactif si vous souhaitez approfondir.

L'effondrement de modalité qui a coulé D.K.

Il y a une défaillance technique précise dans l'affaire HireVue qui, je crois, a échappé à la plupart des couvertures médiatiques, et c'est une de celles qui m'empêchent de dormir.

Le système souffrait de ce que les chercheurs appellent l'effondrement de modalité. Dans un système d'IA multimodal — un système qui traite simultanément la vidéo, l'audio et le texte — chaque canal (ou « modalité ») contribue à l'évaluation finale. En théorie, c'est plus robuste qu'un système à canal unique. Si l'audio est bruité, la vidéo peut compenser. Si la transcription est brouillée, les indices visuels peuvent combler les lacunes.

En pratique, le système de HireVue semble avoir surpondéré le canal audio. Lorsque la parole de D.K. ne correspondait pas aux motifs que le modèle attendait, le signal audio ne s'est pas contenté d'attribuer un score faible — il a dominé l'évaluation tout entière. Le canal visuel, qui aurait pu capter son engagement, sa confiance, son expressivité, a été étouffé.

Nous résolvons ce problème grâce à ce que nous appelons le débiaisage collaboratif par fusion de modalités. Lorsque notre système détecte qu'une modalité produit des résultats à faible niveau de confiance — disons que la reconnaissance vocale automatique peine avec un accent non standard — il ne se contente pas de signaler le problème. Il augmente automatiquement le poids des autres modalités. Les réponses écrites gagnent en influence. Les indices comportementaux visuels gagnent en influence. Le canal audio dégradé en perd.

Mais voici la partie qui, selon moi, compte le plus, et elle n'est pas du tout technique : lorsque le niveau de confiance de notre système tombe en dessous d'un seuil, il oriente vers un humain. Pas comme une réflexion après coup. Pas comme une « voie d'escalade » enfouie dans un menu de paramètres. Comme une décision architecturale fondamentale.

D.K. a demandé un sous-titreur humain. On le lui a refusé. Dans notre système, elle n'aurait pas eu besoin de le demander. Le système aurait reconnu sa propre limite et fait intervenir un humain automatiquement.

L'IA devrait savoir quand elle échoue. Le fait que le système de HireVue ait attribué avec assurance un score à une transcription présentant un taux d'erreur de 78 % vous dit tout sur la manière dont ces outils sont construits — et pour qui ils le sont.

Que se passe-t-il quand la loi rattrape son retard ?

Pendant des années, le secteur du recrutement par IA a opéré dans un vide réglementaire. Les entreprises pouvaient déployer ce qu'elles voulaient, n'auditer rien du tout, et décliner toute responsabilité dans leurs conditions d'utilisation. Cette ère touche à sa fin, rapidement.

La loi du Colorado sur l'intelligence artificielle (SB 24-205), en vigueur début 2026, établit quelque chose d'inédit : un « devoir de diligence raisonnable » juridique pour quiconque développe ou déploie des systèmes d'IA à haut risque. Les décisions de recrutement et de promotion sont explicitement classées comme à haut risque. La loi exige des évaluations d'impact annuelles qui recherchent la discrimination algorithmique. Non pas facultatives. Non pas des « bonnes pratiques ». Obligatoires.

La loi locale 144 de la ville de New York exige déjà des audits de biais indépendants pour les outils automatisés de décision en matière d'emploi. Une législation similaire progresse en Californie et dans l'Illinois. Le règlement européen sur l'IA classe l'IA de recrutement comme à haut risque et impose des exigences de transparence et de supervision humaine assorties d'amendes fondées sur le chiffre d'affaires.

Et puis il y a l'affaire Mobley c. Workday, qui est peut-être l'affaire la plus lourde de conséquences dont la plupart des gens n'ont jamais entendu parler. Un tribunal fédéral a certifié une action collective et a jugé qu'un fournisseur d'IA peut être considéré comme un « agent » ou un « employeur indirect » lorsque son logiciel exécute des fonctions traditionnellement assurées par un responsable du recrutement humain. Cette seule décision a démoli le pare-feu de responsabilité dont dépend chaque entreprise d'enrobage — l'idée selon laquelle le fournisseur fournit l'outil mais l'employeur en assume tout le risque.

Il y a environ un an, un investisseur potentiel m'a dit que l'IA axée sur la conformité était « un marché de niche ». Que le marché voulait de la vitesse et de l'échelle, pas de l'auditabilité. Je lui ai répondu que le marché était sur le point de se faire poursuivre en justice jusqu'à en vouloir, de l'auditabilité. Je pense que la plainte de l'ACLU l'a démontré.

Pour l'analyse réglementaire détaillée et le cadre complet expliquant comment les entreprises devraient se préparer, l'analyse technique approfondie est ici.

« Mais notre système a réussi l'audit de biais »

On me pose sans cesse cette question — si un système réussit un audit de biais annuel, cela ne suffit-il pas ?

Non. Et voici pourquoi.

La plupart des audits de biais recherchent l'impact disparate à l'aide de la règle des quatre cinquièmes : si le taux de sélection d'un groupe protégé tombe en dessous de 80 % du taux du groupe le plus sélectionné, il y a un problème. C'est un plancher utile, mais c'est un plafond épouvantable. Un système peut satisfaire à la règle des quatre cinquièmes dans l'ensemble tout en échouant systématiquement pour des groupes intersectionnels spécifiques — disons les femmes sourdes et autochtones — parce que les échantillons sont trop petits pour déclencher le seuil statistique.

D.K. n'a pas été recalée par un système largement biaisé contre les femmes ou largement biaisé contre les personnes autochtones. Elle a été recalée par un système incapable de traiter sa combinaison spécifique d'identité et de style de communication. Des métriques d'équité agrégées ne l'auraient jamais détecté.

C'est pourquoi nous utilisons l'analyse SHAP (SHapley Additive exPlanations) comme couche de surveillance continue, et non comme une case à cocher une fois par an. SHAP nous permet de décomposer chaque décision individuelle en les caractéristiques qui y ont contribué. Si un candidat obtient un score faible, nous pouvons voir exactement quelles caractéristiques ont déterminé ce score. Et si ces caractéristiques sont corrélées à des attributs protégés plutôt qu'à des compétences pertinentes pour le poste — si la « prosodie » ou le « débit de parole » font le gros du travail au lieu de la « capacité de résolution de problèmes » ou de l'« expertise du domaine » — le système se signale lui-même pour remédiation en temps réel.

La différence entre un audit de biais et une surveillance continue de l'explicabilité est la différence entre un bilan de santé annuel et un moniteur cardiaque. L'un vous dit ce qui a déjà mal tourné. L'autre détecte le problème alors qu'il est encore temps d'agir.

Le véritable coût de l'erreur

Je veux terminer sur quelque chose qui ne concerne ni la technologie ni la réglementation.

Lorsque la promotion de D.K. lui a été refusée, l'entreprise n'a pas seulement violé ses droits. Elle a perdu une employée très performante qui avait obtenu des primes et des évaluations positives — quelqu'un qui, selon toute mesure humaine, était prête pour le poste. L'IA n'a pas protégé l'entreprise d'un mauvais recrutement. Elle a protégé l'entreprise d'un excellent recrutement.

Chaque fois qu'un système biaisé écarte un candidat qualifié — à cause d'un accent, d'un handicap, d'un nom, d'un schéma de parole qui ne correspond pas aux données d'entraînement — l'entreprise ne s'expose pas seulement à un risque juridique. Elle perd la personne. Elle perd la perspective, l'approche de résolution de problèmes, l'expérience vécue qu'aucune optimisation de « compatibilité culturelle » ne pourra reproduire.

J'ai bâti Veriprajna sur une conviction à laquelle je crois plus fermement aujourd'hui qu'à mes débuts : les entreprises qui domineront la prochaine décennie sont celles qui trouveront comment utiliser l'IA comme un pont vers des talents qu'elles rateraient autrement, et non comme un filtre qui les écarte. L'ère de l'enrobage s'effondre sous le poids de ses propres procès. L'ère de la boîte noire est en train d'être bannie par la loi.

Ce qui la remplacera doit être différent par nature, et non par degré. Pas un meilleur enrobage. Pas un appel GPT plus soigneusement formulé. Une architecture fondamentalement différente — une architecture qui sait quand elle a tort, explique pourquoi elle a raison, et fait intervenir un humain lorsque ni l'un ni l'autre n'est certain.

L'IA devrait être un pont vers les talents, et non un obstacle à ceux-ci. Tout système incapable de faire la différence entre un handicap et une déficience n'a rien à faire dans la prise de décisions concernant la carrière des gens.

L'ère du « déployer et se dédouaner » est révolue. Ce qui vient ensuite est plus difficile, plus lent, plus coûteux à construire — et la seule chose qui fonctionnera réellement.