あなたの調達AIは、より優秀なサプライヤーを低く採点した——その裏にある数式
前四半期、私は長い夜を、たった一枚のソーシングスコアカードを見つめて過ごした。そしてそれは、調達の仕事で何年も抱え続けてきたある前提を打ち砕いた。
それはありふれた案件だった——工業用ファスナー、5社のサプライヤー、誰も夜も眠れなくなるようなカテゴリーではない。プラットフォームのAIは、配送、品質、財務の安定性、価格でそれらをランク付けしていた。サプライヤーA——数千件の取引実績を背負う12年目の現職——は92点だった。3年の実績を持つ認証済みマイノリティ所有企業は71点だった。表面上は、きれいな結果だ。現職が実力で勝った。次へ進め、というわけだ。
ところが、私は次へ進まなかった。配送のサブスコアを一行ずつ分解していき、そこで見つけたものこそ、私が今、生業として調達AIの公平性監査に時間を費やしている理由だ。その小規模なサプライヤーの方が、より優れた定時配送率だった——現職の97.2%に対して98.1%。それでも配送スコアは低く付けられた。
より良い成績を上げたサプライヤーの方が、より低くランク付けされた。モデルが彼らに対して偏見を持っていたからではない——数式が偏っていたからだ。
データが語ることとスコアが語ることの、その隔たりこそが物語のすべてだ。それがどう起きるのか、市場のどの調達プラットフォームもなぜあなたのためにそれを直してくれないのか、そしてそれを直せるものを構築するのに実際何が必要だったのかを、順を追って説明しよう。
偏見はモデルの中にあるのではない。歴史の中にある。
受け入れるのに時間がかかりすぎた部分がここだ：あのアルゴリズムに悪意は一切なかった。多様なサプライヤーへのペナルティを誰かがコーディングしたわけではない。偏見は、過去の支出データで学習したことの構造的な帰結だった——そして一度それが見えてしまうと、もう見なかったことにはできない。
配送パフォーマンスはサプライヤースコアの25%を占めており、AIはそれを定時率として計算していた——それも取引件数で重み付けして。現職の4,200件の取引にわたる97.2%は、信頼度で重み付けされた配送スコア24.1/25点を生み出した。マイノリティ所有サプライヤーのわずか180件の取引にわたる98.1%は、16.8点を生み出した。同じ指標。より優れた生の数値。8点の損失——信頼度の重み付けだけによって。
そして、同じパターンがあらゆるところで繰り返された。品質のスコアリングは監査頻度に依存し、監査頻度は契約量と相関する。財務安定性のスコアリングは、収益規模をリスク許容度の代理指標として扱った。モデルが価格競争力に到達する頃には、その差はすでに数学的に埋めがたいものになっていた。
この排除は自己強化的であり、そこが厄介なところだ。サプライヤーのスコアが低い、だから獲得する契約が減る、だから積み上がる取引が減る、だから次のサイクルで信頼度スコアはさらに低くなる。アルゴリズムは、より多くの過去データをより高い信頼性と同一視している——そして、そもそもその実績を築く機会を一度も与えられなかったサプライヤーは、そのツケを永遠に払い続ける。
あなたの支出履歴で学習したAIは、最良のサプライヤーを予測しているのではない。あなたがすでに使ったサプライヤーを予測しているのだ。
なぜあなたの調達プラットフォームは、これを直してくれないのか？
私の最初の直感はごく当たり前のものだった：SAP、Coupa、GEP、Ivaluaならとっくにこれに対処しているはずだ、と。彼らはエージェント型AIに莫大なエンジニアリングを注ぎ込んでいる。JouleのBid Analysis Agentはサプライヤーの入札を比較し、発注を推奨する。CoupaのNaviは自然言語でサプライヤー探索を実行し、同社はある四半期だけで約150億ドルの顧客コスト削減を計上した。Ivaluaは30を超える既製のAIエージェントを提供している。GEPはソース・トゥ・ペイのスイート全体にわたってエージェント型AIを備えている。
そこで私は、公平性の指標を探しに行った。差別的影響のテスト。自社のスコアリングエンジンを不利益な影響について監査する方法についての、公表された方法論を。
そんなものは一つもない。主要な4つのプラットフォームすべてを確認した。そのどれ一つとして、サプライヤースコアリングの公平性指標を公表していない。Coupaはブログ記事の中で、AIプロバイダーは「バイアス緩和を実証する」べきだと認めている——だが、その一文の背後に文書化された監査プロセスはない。それは機能ではなく、話のネタにすぎない。
そして正直なところ、プラットフォームの経済学を理解すれば、それを期待しなくなる。これらのベンダーは、顧客基盤全体にわたるコスト削減とリスク緩和のために最適化された汎用スコアリングを構築している。次のものに合わせて調整された公平性の制約を加えること——あなたの下請け目標、あなたのサプライヤーカテゴリー、あなたの規制管轄——それは、彼らが抱えるすべての顧客ごとに異なるモデル構成を維持することを意味する。それは製品ロードマップではない。サポートの悪夢だ。
それには利便性よりも鋭い刃がある。契約はますます、責任がベンダーではなくあなたに降りかかるように書かれている——連邦裁判所はAIの説明責任を拡大し続けており、プラットフォームの契約は静かにリスクを顧客へと移している。だから、選から漏れたサプライヤーがいずれ「なぜ自分のスコアは71点だったのか」と尋ねるとき、監査の指摘に載るのはSAPではなく、あなたの名前だ。しかもエージェントがより自律的になるにつれて、事態は悪化する：ボットが自ら発注や支払いを引き起こすとき——あるいは存在しなかった架空の契約を幻覚するとき——契約はすでに、責任がAIベンダーではなくあなたにあることを確実にしている。プラットフォームはあなたにスピードを与える。公平性のレイヤー——そしてそれに伴う責任——は、最初から常にあなたのものになる運命だった。
うまくいくと確信していた解決策——だが、うまくいかなかった
私が間違えたバージョンについて話そう。なぜなら、それはほとんどのチームが真っ先に手を伸ばすバージョンだからだ。
モデルが小規模で多様なサプライヤーを過小評価するなら、直感的な解決策は、逆方向に指で天秤を押すことだ。多様性調整を加える。信頼度ペナルティを補うために、認証済みサプライヤーを数点引き上げる。私たちはまさにそれを構想した。それは公平に感じられた。是正的に感じられた。
それは罠だった。そして、それを暴いたのはエンジニアリングの問題ではなかった——法律の問題だった。
そのブーストを構築している間、私は、連邦請負業者である私たちの顧客が実際に置かれている規制環境も読み込んでいた。そしてそれは、まさに地雷原と化したばかりだった。一方では、FAR第19部が、請負業者に小規模事業、退役軍人所有、サービス関連障害を持つ退役軍人所有、HUBZone、女性所有の下請け業者について、それぞれ別個の比率目標を達成することを求めている——しかも、その執行は最近厳格化されたばかりだった。他方では、2025年7月に署名された大統領令14319が、「イデオロギー的バイアスや社会的アジェンダ」を伴うAIの連邦調達を禁止し、DEIを明示的に名指ししている。
少し考えてみてほしい。連邦請負業者は今や、一方のルールの下で多様なサプライヤーを法的に推進することを義務づけられ、他方のルールの下では、法的に社会的アジェンダを調達AIに組み込むことを禁じられている。私たちの多様性ブースト——保護対象カテゴリーを優遇する、ハードコードされた恣意的な重み付け——は、まさに大統領令14319が葬り去るために書かれたたぐいのものだった。私たちは、解決策を装ったコンプライアンス上の責任を出荷するところだった。それは最初の監査を生き延びられなかっただろう。
偏見を、別の偏見を加えることで是正しようとした瞬間、あなたは、審問の場で弁護できないものを作り上げてしまっている。
その失敗こそが、問題全体を私の中で捉え直させた。目標は、AIに誰かを優遇させることでは決してなかった。目標は、AIが誰一人として優遇しないことを実証可能にすること——そして、その証明を生み出すことだった。
突破口を開いた採用ルール
転機は、私の知る限り、調達の分野ではほとんど誰も適用していなかった、ある雇用差別のルールから訪れた。
EEOCの5分の4ルール——29 CFR 1607.4——は、どのグループの選択率も、最も高く選択されたグループの率の少なくとも80%でなければならないと定めている。それは採用差別のために書かれたものだ。しかし、サプライヤーの選定は、候補者の選定と構造的に同一だ：カテゴリー、通過率、そしてしきい値がある。同じ統計的検定がそのまま当てはまる。
そこで私たちは、それを実際のスコアリング出力に対して実行した。もしAIが非多様サプライヤーの60%をスコアリングのしきい値を超えて通過させるなら、5分の4ルールは、認証済みのマイノリティ所有および女性所有サプライヤーの少なくとも48%を通過させなければならないと定める。件数で重み付けされたスコアリングでは、私たちが何度も目にした実際の率は22%に近かった。それは0.37の格差比率——法的な下限の半分にも満たない。
その数字は、生ぬるいシグナルではない。0.37という格差比率は、不利益な影響の一応の証拠だ——採用差別の申し立てに対して裁判所が適用するのと同じ基準だ。それは、強い言葉で書かれた社内メモではなく、契約の喪失や監査の指摘へと変わるたぐいの認定だ。
そしてだからこそ、それはどんな公平性ブーストよりも重要だった：5分の4テストは誰も優遇しない。ただ測定するだけだ。それは、二人の主人を同時に満足させる方法を私たちに与えてくれた——FAR第19部の監査人には、多様なサプライヤーが公平な機会を得ていることを示し、かつ大統領令14319の審査官には、私たちが天秤にイデオロギー的な指を一切加えていないことを示す。ただ数学を、対称的に適用し、最後に一つの数字を添えるだけだ。
そして、これは連邦だけの問題ではない。ほとんどの州は、すでに多様性スコアリングを調達評価に組み込んでいる——イリノイ州だけでも、RFPの技術点の最大20%をサプライヤーの多様性に割り当てている——だから、連邦監査を沈める同じ格差比率が、州の請負業者からも、明示的に獲得せよと言われた点数を静かに奪っていく。5分の4テストは、スコアリングが行くところどこへでもついて回る。
調達AIが公平であることを、どう証明するのか？
そこで私たちは、誰のモデルも直そうとするのをやめ、その上に乗る監査レイヤーを構築した。それが、今やveriprajna.com/solutions/procurement-ai-fairnessにあるものの核心だ。すなわち、SAP Ariba、Coupa、GEP、Ivaluaに接続し、プラットフォームがすでに生成しているサプライヤースコアリングの出力を読み取り、それを差別的影響についてテストする、ベンダー非依存の公平性監査ツールだ。
ベンダー非依存であることは、利便性ではなく意図的な選択だった。私たちはプラットフォームのモデルには触れない——その必要はないし、率直に言って、他社のスコアリングエンジンを再学習させる責任を負いたくない。私たちはAIの出力を検査対象として扱う：サプライヤーカテゴリー別に選択率を引き出し、5分の4の格差比率を計算し、スコアリングのスタックのどこで差が生じているのか（ほぼ常に信頼度の重み付けであり、価格であることはほぼない）を分解し、調達担当者が会議室に持ち込めるものを手渡す。
その最後の部分こそが、重要な成果物だ。「問題なさそうに見える」と言うダッシュボードではない。AIがすべてのサプライヤーカテゴリーを公平に扱っているという数学的な証明——あるいは、そうしていないという、格差比率と問題のあるスコアリング要因を名指しした、具体的で出典のある認定だ。CPOがリーダーシップの前に提示でき、コンプライアンス責任者が提出でき、監査人が一蹴できないものだ。
「これは電卓を持ったDEIプログラムにすぎないのでは？」
これは私が最もよく受ける反論で、たいていは規制の急変に痛い目を見て、社会的アジェンダの匂いがするものすべてを警戒している人からだ。もっともな質問だが、答えはノーだ——そして、その区別こそがすべての要点だ。
DEIプログラムはあらかじめある結果が望ましいと決めつけ、それに向かって舵を切る。差別的影響監査は何も決めない。それは、選択率が、差別の申し立てに対して裁判所が適用する、長年確立された統計的しきい値をクリアしているかどうかを測定する。あなたのAIが5分の4テストに合格すれば、監査はそう告げ、あなたは中立性の証明を手にする。不合格なら、監査はあなたに、どのスコアリング要因がそれを引き起こしたのかを告げる——そして修正はほとんどの場合、計算をより正確にすることであって、より不正確にすることではない。なぜなら、98.1%の配送率を信頼度の重み付けで16.8点まで引き下げることは、公平でも正確でもないからだ。
人々はまた、調達AIがまだ黎明期に感じられる今、なぜこれが急を要するのかと私に尋ねる。そして確かに黎明期だ——だからこそ、まさにその好機なのだ。業界全体で、調達チームの49%がAIのパイロットを実施しているが、意味のある本格展開に到達しているのはわずか4%だ。ボトルネックはテクノロジーではない。信頼だ。リーダーシップは、利害関係者や規制当局に正当化できない自律的なサプライヤースコアリングにゴーサインを出さない。公平性の証明は、展開後に後付けされる「あれば嬉しい」ものではない。多くの組織にとって、それは展開を解き放つものなのだ。
3つ目の質問は、常に多様性発掘ツールについてだ——2,000万社のサプライヤーデータベースを持つSupplier.io、Tealbook、Fairmarkit。それらはすでにこれを解決しているのではないか？いや、しない。それらが助けてくれるのは、あなたが見つける手助けだ——多様なサプライヤーを。そのどれ一つとして、いったんファネルに入ったサプライヤーに対して、あなたのスコアリングアルゴリズムが公平な機会を与えているかどうかを監査しない。適格なマイノリティ所有サプライヤーを見つけておきながら、そのあと信頼度の重み付けで71点に埋もれさせるのは、進歩ではない。同じ排除に至る、より効率的な道筋にすぎない。
誰も作るつもりのなかった壁
私はあのファスナーのスコアカードに何度も立ち返る。5社のサプライヤー、1件のありふれた案件、そして、より優れた成績のベンダーが負けるに値すると静かに決めてしまった一片の数式——誰かがそれを望んだからではなく、アルゴリズムが「馴染み」を「優れている」と取り違えたからだ。
それが、調達AIにおける偏見というものの本質だ。それは偏見として現れるのではない。信頼区間として、取引件数として、一見まったく妥当に見える25%の重み付けとして現れる。あらゆるステップが弁護可能だ。だが、それが築く壁は弁護できない。
意図によってそこから言い逃れることはできないし、天秤を逆方向に傾けることで直すこともできない——私は試したし、法がそれを禁じたのは正しかった。できることはただ一つ：それを測定し、証明し、その証明を、ひるむことなく監査人に手渡せるものにすることだ。その「是正ではなく測定」という姿勢こそが、私たちがVeriprajnaで構築するものすべてだ。あなたの調達AIは高速だ。選から漏れたサプライヤーが初めて「なぜだ」と尋ねるとき、唯一重要になる問いは、それが公平だったと証明できるかどうかだ。格差比率と、それを生み出した監査を示せるなら、あなたには答えがある。示せないなら、あなたが抱えているのは公平性の問題ではない——召喚状を待つ、ディスカバリーの問題だ。
