Votre IA d'approvisionnement a moins bien noté un meilleur fournisseur — voici les mathématiques responsables

J'ai passé une longue soirée le trimestre dernier à fixer une seule fiche d'évaluation d'approvisionnement, et cela a fait voler en éclats une hypothèse que je traînais depuis des années de travail dans les achats.

C'était un événement de routine — des fixations industrielles, cinq fournisseurs, le genre de catégorie qui n'empêche personne de dormir. L'IA de la plateforme les avait classés sur la livraison, la qualité, la stabilité financière et le prix. Le fournisseur A, un titulaire présent depuis douze ans avec des milliers de transactions à son actif, arrivait à 92. Une entreprise certifiée appartenant à une minorité, avec trois ans d'historique, obtenait 71. En apparence, c'est un résultat net. Le titulaire l'a emporté au mérite. On passe à autre chose.

Sauf que je ne suis pas passé à autre chose. J'ai décomposé les sous-scores de livraison, ligne par ligne, et ce que j'ai découvert est la raison pour laquelle je consacre désormais mon temps à bâtir des audits d'équité de l'IA d'approvisionnement pour gagner ma vie. Le plus petit fournisseur avait un meilleur taux de livraison à temps — 98,1 % contre 97,2 % pour le titulaire. Et il a quand même obtenu un score plus faible sur la livraison.

Le fournisseur qui a mieux performé a été moins bien classé. Non pas parce que le modèle était biaisé contre lui — mais parce que les mathématiques l'étaient.

Cet écart, entre ce que disaient les données et ce que disait le score, c'est toute l'histoire. Laissez-moi vous expliquer comment cela se produit, pourquoi aucune plateforme d'approvisionnement sur le marché ne le corrigera pour vous, et ce qu'il a réellement fallu pour construire quelque chose qui le pouvait.

Le biais n'est pas dans le modèle. Il est dans l'historique.

Voici la partie qu'il m'a fallu trop de temps pour accepter : il n'y avait rien de malveillant dans cet algorithme. Personne n'a codé de pénalité pour les fournisseurs diversifiés. Le biais était une conséquence structurelle de l'entraînement sur des données historiques de dépenses — et une fois qu'on le voit, on ne peut plus l'ignorer.

La performance de livraison représentait 25 % du score du fournisseur, et l'IA la calculait comme un taux de livraison à temps pondéré par le nombre de transactions. Les 97,2 % du titulaire sur 4 200 transactions ont généré un score de livraison pondéré par la confiance de 24,1 sur 25. Les 98,1 % du fournisseur appartenant à une minorité, sur seulement 180 transactions, ont généré un 16,8. Même mesure. Meilleur chiffre brut. Huit points perdus — par la seule pondération par la confiance.

Puis le même schéma s'est répété partout. La notation de la qualité s'appuyait sur la fréquence des audits, et la fréquence des audits est corrélée au volume des contrats. La notation de la stabilité financière traitait la taille du chiffre d'affaires comme un indicateur indirect de la tolérance au risque. Au moment où le modèle atteignait la compétitivité des prix, l'écart était déjà mathématiquement insurmontable.

L'exclusion s'auto-entretient, et c'est ce qui la rend odieuse. Un fournisseur obtient un score plus faible, alors il remporte moins de contrats, alors il accumule moins de transactions, alors son score de confiance est encore plus bas au cycle suivant. L'algorithme assimile plus de données historiques à plus fiable — et tout fournisseur à qui l'on n'a jamais donné la chance de constituer cet historique le paie à jamais.

Une IA entraînée sur votre historique de dépenses ne prédit pas le meilleur fournisseur. Elle prédit le fournisseur que vous utilisiez déjà.

Pourquoi votre plateforme d'approvisionnement ne corrigera-t-elle pas cela pour vous ?

Mon premier réflexe a été le plus évident : sûrement que SAP, Coupa, GEP ou Ivalua gèrent déjà cela. Ils investissent d'énormes moyens d'ingénierie dans l'IA agentique. L'agent d'analyse d'offres de Joule compare les offres des fournisseurs et recommande les attributions. Navi de Coupa exécute la découverte de fournisseurs en langage naturel et l'entreprise a enregistré quelque 15 milliards de dollars d'économies clients en un seul trimestre. Ivalua livre plus de trente agents d'IA prêts à l'emploi. GEP dispose d'une IA agentique sur l'ensemble de sa suite source-to-pay.

Je suis donc parti à la recherche des métriques d'équité. Des tests d'impact disparate. De la méthodologie publiée sur la façon dont ils auditent leurs propres moteurs de notation pour détecter un impact défavorable.

Il n'y en a aucune. J'ai vérifié les quatre principales plateformes. Aucune d'entre elles ne publie de métriques d'équité de la notation des fournisseurs. Coupa reconnaît dans des billets de blog que les fournisseurs d'IA devraient « démontrer une atténuation des biais » — mais il n'y a aucun processus d'audit documenté derrière la phrase. C'est un argument de communication, pas une fonctionnalité.

Et honnêtement, une fois qu'on comprend l'économie des plateformes, on cesse de s'y attendre. Ces éditeurs construisent une notation généraliste optimisée pour la réduction des coûts et l'atténuation des risques sur l'ensemble de leur base de clients. Ajouter des contraintes d'équité ajustées à vos objectifs de sous-traitance, vos catégories de fournisseurs, votre juridiction réglementaire signifierait maintenir une configuration de modèle différente pour chaque client qu'ils ont. Ce n'est pas une feuille de route produit. C'est un cauchemar de support.

Il y a un enjeu plus tranchant que la simple commodité. Les contrats sont de plus en plus rédigés de sorte que la responsabilité retombe sur vous, pas sur l'éditeur — les tribunaux fédéraux ont élargi la responsabilité en matière d'IA, et les accords de plateforme transfèrent discrètement le risque au client. Ainsi, quand un fournisseur écarté finit par demander pourquoi son score était de 71, c'est votre nom qui figure sur le constat d'audit, pas celui de SAP. Et cela empire à mesure que les agents deviennent plus autonomes : quand un robot déclenche de lui-même une attribution ou un paiement — ou hallucine un accord fantôme qui n'a jamais existé — le contrat a déjà fait en sorte que la responsabilité soit la vôtre, pas celle de l'éditeur d'IA. La plateforme vous donne la vitesse. La couche d'équité — et la responsabilité qui l'accompagne — allait toujours vous revenir.

La solution dont j'étais sûr qu'elle fonctionnerait — et qui a échoué

Je vais vous parler de la version que j'ai ratée, parce que c'est la version vers laquelle la plupart des équipes se tournent en premier.

Si le modèle sous-note les fournisseurs plus petits et diversifiés, la solution intuitive consiste à peser sur la balance dans l'autre sens. Ajouter un ajustement de diversité. Rehausser les fournisseurs certifiés de quelques points pour compenser la pénalité de confiance. Nous avons esquissé exactement cela. Ça semblait juste. Ça semblait correctif.

C'était un piège, et ce qui l'a révélé n'était pas un problème d'ingénierie — c'était un problème juridique.

Pendant que nous construisions le rehaussement, je parcourais aussi l'environnement réglementaire dans lequel vivent réellement nos clients titulaires de marchés fédéraux, et il venait de se transformer en champ de mines. D'un côté, la partie 19 du FAR exige des titulaires qu'ils atteignent des objectifs distincts en pourcentage pour les sous-traitants qui sont des petites entreprises, des entreprises détenues par des anciens combattants, par des anciens combattants handicapés en service, situées en HUBZone, et détenues par des femmes — et l'application venait de se durcir. De l'autre côté, le décret présidentiel 14319, signé en juillet 2025, interdit l'achat fédéral d'IA véhiculant des « biais idéologiques ou des agendas sociaux », en nommant explicitement la DEI.

Prenez un instant pour y réfléchir. Un titulaire de marché fédéral est désormais légalement tenu de faire avancer des fournisseurs diversifiés au titre d'une règle, et légalement interdit d'intégrer un agenda social dans son IA d'approvisionnement au titre d'une autre. Notre rehaussement de diversité — un poids codé en dur sur la balance en faveur d'une catégorie protégée — était précisément le genre de chose que le décret 14319 a été écrit pour éliminer. Nous aurions livré une responsabilité de conformité déguisée en solution. Elle n'aurait pas survécu au premier audit.

Au moment où vous corrigez un biais en ajoutant un biais différent, vous avez construit quelque chose que vous ne pouvez pas défendre dans une salle d'audience.

Cet échec est ce qui a recadré tout le problème pour moi. L'objectif n'a jamais été de faire en sorte que l'IA favorise qui que ce soit. L'objectif était de faire en sorte qu'elle ne favorise personne de manière démontrable — et d'en produire la preuve.

La règle de recrutement qui a tout débloqué

Le tournant est venu d'une règle sur la discrimination à l'embauche que, pour autant que je sache, presque personne dans les achats n'appliquait.

La règle des quatre cinquièmes de l'EEOC — 29 CFR 1607.4 — stipule que le taux de sélection de tout groupe doit être d'au moins 80 % du taux du groupe le plus sélectionné. Elle a été écrite pour la discrimination à l'embauche. Mais la sélection de fournisseurs est structurellement identique à la sélection de candidats : vous avez des catégories, des taux d'avancement et un seuil. Le même test statistique s'y applique directement.

Nous l'avons donc exécuté sur de vraies sorties de notation. Si une IA fait avancer 60 % des fournisseurs non diversifiés au-delà du seuil de notation, la règle des quatre cinquièmes dit qu'elle doit faire avancer au moins 48 % des fournisseurs certifiés appartenant à des minorités et à des femmes. Dans une notation pondérée par le volume, le taux réel que nous observions sans cesse était plus proche de 22 %. C'est un ratio de disparité de 0,37 — moins de la moitié du plancher légal.

Ce chiffre n'est pas un signal faible. Un ratio de disparité de 0,37 constitue une preuve prima facie d'impact défavorable — la même norme qu'un tribunal appliquerait à une plainte pour discrimination à l'embauche. C'est le genre de constat qui se transforme en pertes de contrats et en conclusions d'audit, pas en une note fermement rédigée.

Et c'est pourquoi cela comptait plus que n'importe quel rehaussement d'équité ne l'aurait jamais pu : le test des quatre cinquièmes ne favorise personne. Il se contente de mesurer. Il nous a donné un moyen de satisfaire les deux maîtres à la fois — de montrer à un auditeur de la partie 19 du FAR que les fournisseurs diversifiés avaient une chance équitable, et de montrer à un examinateur du décret 14319 que nous n'avions ajouté aucun poids idéologique sur la balance. Rien que des mathématiques, appliquées de manière symétrique, avec un chiffre au bout.

Et ce n'est pas seulement un problème fédéral. La plupart des États intègrent déjà la notation de la diversité dans leurs évaluations d'approvisionnement — l'Illinois à lui seul attribue jusqu'à 20 % des points techniques d'un appel d'offres à la diversité des fournisseurs — de sorte que le même ratio de disparité qui coule un audit fédéral fait discrètement perdre à un titulaire de marché d'État des points qu'on lui avait explicitement demandé de récupérer. Le test des quatre cinquièmes voyage partout où va la notation.

Comment prouvez-vous qu'une IA d'approvisionnement est équitable ?

Nous avons donc cessé d'essayer de corriger le modèle de qui que ce soit et construit une couche d'audit qui se pose par-dessus. C'est le cœur de ce qui se trouve désormais à veriprajna.com/solutions/procurement-ai-fairness : un auditeur d'équité agnostique quant à l'éditeur qui se connecte à SAP Ariba, Coupa, GEP ou Ivalua, lit la sortie de notation des fournisseurs que la plateforme produit déjà, et la teste pour détecter un impact disparate.

L'agnosticisme vis-à-vis de l'éditeur était un choix délibéré, pas une commodité. Nous ne touchons pas au modèle de la plateforme — nous n'en avons pas besoin, et franchement nous ne voulons pas assumer la responsabilité de réentraîner le moteur de notation de quelqu'un d'autre. Nous traitons la sortie de l'IA comme l'objet de l'examen : extraire les taux de sélection par catégorie de fournisseur, calculer les ratios de disparité des quatre cinquièmes, décomposer à quel endroit de la pile de notation l'écart prend sa source (presque toujours la pondération par la confiance, presque jamais le prix), et remettre au responsable des achats quelque chose qu'il peut apporter dans une salle.

Cette dernière partie est le livrable qui compte. Pas un tableau de bord qui dit « tout va bien ». Une preuve mathématique que l'IA traite chaque catégorie de fournisseur de manière équitable — ou un constat précis et sourcé qu'elle ne le fait pas, avec le ratio de disparité et le facteur de notation fautif nommé. Quelque chose qu'un directeur des achats peut présenter à la direction, qu'un responsable de la conformité peut classer, et qu'un auditeur ne peut pas balayer d'un revers de main.

« N'est-ce pas juste un programme DEI avec une calculatrice ? »

C'est l'objection que j'entends le plus, généralement de la part de quelqu'un qui a été échaudé par le coup de fouet réglementaire et se méfie de tout ce qui sent l'agenda social. C'est une question légitime, et la réponse est non — et la distinction est tout l'intérêt.

Un programme DEI décide à l'avance qu'un résultat est souhaitable et oriente vers lui. Un audit d'impact disparate ne décide rien. Il mesure si les taux de sélection franchissent un seuil statistique bien établi que les tribunaux appliquent aux plaintes pour discrimination. Si votre IA passe le test des quatre cinquièmes, l'audit le dit et vous avez votre preuve de neutralité. S'il échoue, l'audit vous indique quel facteur de notation en est la cause — et le correctif consiste presque toujours à rendre les mathématiques plus exactes, pas moins, car pondérer par la confiance un taux de livraison de 98,1 % pour le ramener à 16,8 n'est ni équitable ni correct.

Les gens me demandent aussi pourquoi c'est urgent maintenant, alors que l'IA d'approvisionnement semble encore à ses débuts. Et c'est bien le début — c'est précisément la fenêtre. Dans l'ensemble du secteur, 49 % des équipes d'achats mènent des pilotes d'IA, mais seulement 4 % ont atteint un déploiement significatif. Le goulot d'étranglement n'est pas la technologie. C'est la confiance. La direction ne donnera pas son feu vert à une notation autonome des fournisseurs qu'elle ne peut justifier auprès d'une partie prenante ou d'un régulateur. La preuve d'équité n'est pas un simple bonus greffé après le déploiement. Pour beaucoup d'organisations, c'est ce qui débloque le déploiement.

La troisième question porte toujours sur les outils de découverte de la diversité — Supplier.io avec sa base de données de 20 millions de fournisseurs, Tealbook, Fairmarkit. Ne résolvent-ils pas déjà cela ? Non. Ils vous aident à trouver des fournisseurs diversifiés. Aucun d'eux n'audite si votre algorithme de notation donne à ces fournisseurs une chance équitable une fois qu'ils sont dans l'entonnoir. Trouver un fournisseur qualifié appartenant à une minorité pour ensuite laisser la pondération par la confiance l'enterrer à 71 n'est pas un progrès. C'est un chemin plus efficace vers la même exclusion.

Le mur que personne n'a voulu construire

Je reviens sans cesse à cette fiche d'évaluation des fixations. Cinq fournisseurs, un événement de routine, et un morceau de mathématiques qui a discrètement décidé qu'un fournisseur plus performant méritait de perdre — non pas parce que quelqu'un le voulait, mais parce que l'algorithme a pris le familier pour le bon.

Voilà ce qu'il en est du biais dans l'IA d'approvisionnement. Il n'arrive pas sous forme de préjugé. Il arrive sous forme d'un intervalle de confiance, d'un nombre de transactions, d'une pondération de 25 % qui paraît parfaitement raisonnable. Chaque étape est défendable. Le mur qu'il construit ne l'est pas.

Vous ne pouvez pas vous en sortir par la persuasion avec des intentions, et vous ne pouvez pas le corriger en faisant pencher la balance dans l'autre sens — j'ai essayé, et la loi avait raison de l'interdire. Vous ne pouvez faire qu'une seule chose : le mesurer, le prouver, et faire de cette preuve quelque chose que vous remettriez à un auditeur sans broncher. Cette posture de mesure-et-non-correction est tout ce que nous construisons chez Veriprajna. Votre IA d'approvisionnement est rapide. La seule question qui va compter, la première fois qu'un fournisseur écarté demandera pourquoi, est de savoir si vous pouvez prouver qu'elle était équitable. Si vous pouvez montrer le ratio de disparité et l'audit qui l'a produit, vous avez une réponse. Si vous ne le pouvez pas, vous n'avez pas un problème d'équité — vous avez un problème de communication de pièces en attente d'une assignation à comparaître.