Ihre Beschaffungs-KI bewertete einen besseren Lieferanten schlechter — hier ist die Mathematik dahinter

Ich habe im letzten Quartal einen langen Abend damit verbracht, auf eine einzige Sourcing-Scorecard zu starren, und das hat eine Annahme zerschlagen, die ich über Jahre in der Beschaffung mit mir herumgetragen hatte.

Es war ein Routinevorgang — Industriebefestigungen, fünf Lieferanten, die Art von Kategorie, die niemandem den Schlaf raubt. Die KI der Plattform hatte sie nach Lieferung, Qualität, finanzieller Stabilität und Preis eingestuft. Lieferant A, ein seit zwölf Jahren etablierter Anbieter mit Tausenden von Transaktionen im Rücken, kam auf 92. Ein zertifiziertes Unternehmen in Minderheitenbesitz mit dreijähriger Historie erreichte 71. Oberflächlich betrachtet ist das ein sauberes Ergebnis. Der etablierte Anbieter hat auf Basis seiner Leistung gewonnen. Weitermachen.

Nur bin ich nicht weitergegangen. Ich habe die Teilbewertungen für die Lieferung Zeile für Zeile auseinandergenommen, und was ich fand, ist der Grund, warum ich meine Zeit heute damit verbringe, Audits für die Fairness von Beschaffungs-KI zu meinem Beruf zu machen. Der kleinere Lieferant hatte eine bessere pünktliche Lieferquote — 98.1% gegenüber den 97.2% des etablierten Anbieters. Und trotzdem wurde er bei der Lieferung schlechter bewertet.

Der Lieferant, der besser abschnitt, wurde schlechter eingestuft. Nicht weil das Modell gegen ihn voreingenommen war — sondern weil es die Mathematik war.

Diese Lücke zwischen dem, was die Daten sagten, und dem, was die Bewertung sagte, ist die ganze Geschichte. Lassen Sie mich Ihnen zeigen, wie es dazu kommt, warum keine Beschaffungsplattform auf dem Markt es für Sie beheben wird und was es tatsächlich brauchte, um etwas zu bauen, das es könnte.

Der Bias steckt nicht im Modell. Er steckt in der Historie.

Hier ist der Teil, den ich viel zu lange nicht akzeptieren wollte: An diesem Algorithmus war nichts Böswilliges. Niemand hat einen Malus für diverse Lieferanten programmiert. Der Bias war eine strukturelle Folge des Trainings auf historischen Ausgabendaten — und wenn man es einmal sieht, kann man es nicht mehr übersehen.

Die Lieferleistung machte 25% der Lieferantenbewertung aus, und die KI berechnete sie als pünktliche Quote, gewichtet nach Transaktionszahl. Die 97.2% des etablierten Anbieters über 4,200 Transaktionen ergaben einen konfidenzgewichteten Lieferwert von 24.1 von 25. Die 98.1% des Lieferanten in Minderheitenbesitz über gerade einmal 180 Transaktionen ergaben 16.8. Dieselbe Kennzahl. Bessere Rohzahl. Acht Punkte verloren — allein durch die Konfidenzgewichtung.

Dann wiederholte sich dasselbe Muster überall. Die Qualitätsbewertung stützte sich auf die Audithäufigkeit, und die Audithäufigkeit korreliert mit dem Vertragsvolumen. Die Bewertung der finanziellen Stabilität behandelte die Umsatzgröße als Näherungswert für die Risikotoleranz. Als das Modell die Preiswettbewerbsfähigkeit erreichte, war die Lücke bereits mathematisch unüberwindbar.

Die Ausgrenzung verstärkt sich selbst, und das macht sie so hässlich. Ein Lieferant wird schlechter bewertet, gewinnt also weniger Aufträge, sammelt also weniger Transaktionen an, sodass sein Konfidenzwert im nächsten Zyklus noch niedriger ist. Der Algorithmus setzt mehr historische Daten mit größerer Zuverlässigkeit gleich — und jeder Lieferant, dem nie die Chance gegeben wurde, diese Historie aufzubauen, zahlt für immer dafür.

Eine KI, die auf Ihrer Ausgabenhistorie trainiert wurde, sagt nicht den besten Lieferanten voraus. Sie sagt den Lieferanten voraus, den Sie ohnehin schon genutzt haben.

Warum wird Ihre Beschaffungsplattform das nicht für Sie beheben?

Mein erster Instinkt war der naheliegende: Sicher haben SAP, Coupa, GEP oder Ivalua das bereits im Griff. Sie stecken enorme Entwicklungsarbeit in agentic AI. Der Bid Analysis Agent von Joule vergleicht Lieferantenangebote und empfiehlt Zuschläge. Coupas Navi führt die Lieferantensuche in natürlicher Sprache durch, und das Unternehmen verbuchte in einem einzigen Quartal Kundeneinsparungen in Höhe von rund 15 Milliarden US-Dollar. Ivalua liefert mehr als dreißig einsatzbereite KI-Agenten. GEP setzt in seiner gesamten Source-to-Pay-Suite auf agentic AI.

Also suchte ich nach den Fairness-Kennzahlen. Nach den Tests auf unverhältnismäßige Benachteiligung. Nach der veröffentlichten Methodik dafür, wie sie ihre eigenen Bewertungs-Engines auf nachteilige Auswirkungen prüfen.

Es gibt keine. Ich habe alle vier großen Plattformen überprüft. Keine einzige von ihnen veröffentlicht Fairness-Kennzahlen für die Lieferantenbewertung. Coupa räumt in Blogbeiträgen ein, dass KI-Anbieter „Bias-Minderung nachweisen“ sollten — aber hinter dem Satz steht kein dokumentierter Audit-Prozess. Es ist ein Gesprächspunkt, kein Feature.

Und ehrlich gesagt: Sobald man die Ökonomie der Plattformen versteht, erwartet man es nicht mehr. Diese Anbieter bauen universelle Bewertungssysteme, die auf Kostensenkung und Risikominderung über ihren gesamten Kundenstamm hinweg optimiert sind. Fairness-Vorgaben hinzuzufügen, die auf Ihre Unterauftragsziele, Ihre Lieferantenkategorien, Ihre Regulierungsjurisdiktion abgestimmt sind, würde bedeuten, für jeden ihrer Kunden eine andere Modellkonfiguration zu pflegen. Das ist keine Produkt-Roadmap. Das ist ein Support-Albtraum.

Das hat eine schärfere Kante als bloße Bequemlichkeit. Die Verträge werden zunehmend so formuliert, dass die Haftung bei Ihnen landet, nicht beim Anbieter — Bundesgerichte haben die Verantwortlichkeit für KI ausgeweitet, und die Plattformvereinbarungen verschieben das Risiko stillschweigend auf den Kunden. Wenn also ein übergangener Lieferant irgendwann fragt, warum seine Bewertung 71 lautete, steht Ihr Name unter dem Prüfbefund, nicht der von SAP. Und es wird schlimmer, je autonomer die Agenten werden: Wenn ein Bot von sich aus einen Zuschlag oder eine Zahlung auslöst — oder eine Phantomvereinbarung halluziniert, die es nie gab —, hat der Vertrag längst dafür gesorgt, dass die Haftung bei Ihnen liegt, nicht beim KI-Anbieter. Die Plattform gibt Ihnen Geschwindigkeit. Die Fairness-Schicht — und die damit verbundene Haftung — war immer Ihre Sache.

Die Lösung, von der ich sicher war, dass sie funktionieren würde — und die es nicht tat

Ich erzähle Ihnen von der Variante, die ich falsch gemacht habe, denn es ist die Variante, zu der die meisten Teams zuerst greifen.

Wenn das Modell kleinere und diverse Lieferanten zu niedrig bewertet, ist die intuitive Lösung, den Daumen in die andere Richtung auf die Waage zu legen. Eine Diversitäts-Anpassung hinzufügen. Die zertifizierten Lieferanten um ein paar Punkte anheben, um den Konfidenz-Malus auszugleichen. Genau das haben wir skizziert. Es fühlte sich fair an. Es fühlte sich korrigierend an.

Es war eine Falle, und was sie entlarvte, war kein technisches Problem — es war ein rechtliches.

Während wir den Boost bauten, arbeitete ich mich auch durch das regulatorische Umfeld, in dem unsere Kunden als Bundesauftragnehmer tatsächlich leben, und es war gerade zu einem Minenfeld geworden. Auf der einen Seite verlangt FAR Part 19 von Auftragnehmern, separate Prozentziele für Unterauftragnehmer aus Kleinunternehmen, in Veteranenbesitz, in Besitz dienstunfähiger Veteranen, aus HUBZones und in Frauenbesitz zu erreichen — und die Durchsetzung hatte sich zuletzt verschärft. Auf der anderen Seite verbietet die Executive Order 14319, unterzeichnet im Juli 2025, die föderale Beschaffung von KI, die „ideologische Voreingenommenheiten oder soziale Agenden“ trägt, und benennt DEI ausdrücklich.

Lassen Sie das einen Moment wirken. Ein Bundesauftragnehmer ist nun gesetzlich verpflichtet, zu fördern — diverse Lieferanten unter der einen Regel —, und es ist ihm gesetzlich verboten, eine soziale Agenda unter der anderen in die Beschaffungs-KI einzubacken. Unser Diversitäts-Boost — ein fest codierter Daumen auf der Waage zugunsten einer geschützten Kategorie — war genau die Art von Sache, die EO 14319 beseitigen sollte. Wir hätten ein Compliance-Risiko ausgeliefert, das als Lösung verkleidet war. Es hätte das erste Audit nicht überstanden.

In dem Moment, in dem Sie Bias korrigieren, indem Sie einen anderen Bias hinzufügen, haben Sie etwas gebaut, das Sie in einem Anhörungssaal nicht verteidigen können.

Dieses Scheitern hat das gesamte Problem für mich neu gerahmt. Das Ziel war nie, die KI dazu zu bringen, irgendjemanden zu bevorzugen. Das Ziel war, sie dazu zu bringen, nachweislich niemanden zu bevorzugen — und den Beweis zu erbringen.

Die Einstellungsregel, die den Durchbruch brachte

Der Wendepunkt kam von einer Regel zur Beschäftigungsdiskriminierung, die, soweit ich das beurteilen kann, fast niemand in der Beschaffung anwandte.

Die Vier-Fünftel-Regel der EEOC — 29 CFR 1607.4 — besagt, dass die Auswahlquote jeder Gruppe mindestens 80% der Quote der am häufigsten ausgewählten Gruppe betragen muss. Sie wurde für Einstellungsdiskriminierung geschrieben. Aber die Lieferantenauswahl ist strukturell identisch mit der Kandidatenauswahl: Es gibt Kategorien, Förderquoten und einen Schwellenwert. Derselbe statistische Test lässt sich direkt anwenden.

Also ließen wir sie gegen echte Bewertungsergebnisse laufen. Wenn eine KI 60% der nicht-diversen Lieferanten über den Bewertungsschwellenwert bringt, besagt die Vier-Fünftel-Regel, dass sie mindestens 48% der zertifizierten Lieferanten in Minderheiten- und Frauenbesitz fördern muss. In der volumengewichteten Bewertung lag die tatsächliche Quote, die wir immer wieder sahen, näher bei 22%. Das ist ein Disparitätsverhältnis von 0.37 — weniger als die Hälfte der gesetzlichen Untergrenze.

Diese Zahl ist kein weiches Signal. Ein Disparitätsverhältnis von 0.37 ist ein Prima-facie-Beweis für nachteilige Auswirkungen — derselbe Maßstab, den ein Gericht bei einer Klage wegen Einstellungsdiskriminierung anlegen würde. Es ist die Art von Befund, die zu Vertragsverlusten und Prüfbefunden führt, nicht zu einem scharf formulierten Memo.

Und deshalb war er wichtiger, als es jeder Fairness-Boost je sein könnte: Der Vier-Fünftel-Test bevorzugt niemanden. Er misst nur. Er gab uns einen Weg, beiden Herren zugleich gerecht zu werden — einem Prüfer nach FAR Part 19 zu zeigen, dass diverse Lieferanten eine faire Chance bekamen, und einem Prüfer der EO 14319 zu zeigen, dass wir null ideologischen Daumen auf die Waage gelegt hatten. Nur Mathematik, symmetrisch angewandt, mit einer Zahl am Ende.

Und das ist nicht nur ein föderales Problem. Die meisten Bundesstaaten backen die Diversitätsbewertung bereits in ihre Beschaffungsevaluierungen ein — allein Illinois lenkt bis zu 20% der technischen Punkte einer Ausschreibung auf die Lieferantendiversität — sodass dasselbe Disparitätsverhältnis, das ein Bundesaudit versenkt, einem bundesstaatlichen Auftragnehmer stillschweigend Punkte entzieht, die er ausdrücklich einsammeln sollte. Der Vier-Fünftel-Test reist überall dorthin, wohin auch die Bewertung reist.

Wie beweisen Sie, dass eine Beschaffungs-KI fair ist?

Also hörten wir auf, das Modell von irgendjemandem reparieren zu wollen, und bauten eine Audit-Schicht, die darüber liegt. Das ist der Kern dessen, was jetzt unter veriprajna.com/solutions/procurement-ai-fairness zu finden ist: ein anbieterunabhängiger Fairness-Auditor, der sich mit SAP Ariba, Coupa, GEP oder Ivalua verbindet, die von der Plattform bereits erzeugte Lieferantenbewertung ausliest und sie auf unverhältnismäßige Benachteiligung prüft.

Anbieterunabhängigkeit war eine bewusste Entscheidung, keine Bequemlichkeit. Wir rühren das Modell der Plattform nicht an — wir müssen es nicht, und ehrlich gesagt wollen wir nicht die Haftung dafür übernehmen, die Bewertungs-Engine eines anderen neu zu trainieren. Wir behandeln die Ausgabe der KI als das zu untersuchende Objekt: Wir ziehen die Auswahlquoten nach Lieferantenkategorie heraus, berechnen die Vier-Fünftel-Disparitätsverhältnisse, zerlegen, wo im Bewertungsstapel die Lücke entsteht (fast immer die Konfidenzgewichtung, fast nie der Preis), und geben dem Beschaffungsverantwortlichen etwas an die Hand, das er mit in einen Raum nehmen kann.

Dieser letzte Teil ist das Ergebnis, auf das es ankommt. Kein Dashboard, das sagt „sieht gut aus“. Ein mathematischer Beweis, dass die KI jede Lieferantenkategorie gerecht behandelt — oder ein konkreter, belegter Befund, dass sie es nicht tut, mit benanntem Disparitätsverhältnis und dem verantwortlichen Bewertungsfaktor. Etwas, das ein CPO der Führungsebene vorlegen, ein Compliance-Verantwortlicher zu den Akten nehmen und ein Prüfer nicht wegwischen kann.

„Ist das nicht einfach ein DEI-Programm mit einem Taschenrechner?“

Das ist der Einwand, den ich am häufigsten höre, meist von jemandem, der sich am regulatorischen Schleudertrauma die Finger verbrannt hat und misstrauisch gegenüber allem ist, was nach einer sozialen Agenda riecht. Es ist eine berechtigte Frage, und die Antwort lautet nein — und genau dieser Unterschied ist der springende Punkt.

Ein DEI-Programm entscheidet im Voraus, dass ein Ergebnis wünschenswert ist, und steuert darauf zu. Ein Audit auf unverhältnismäßige Benachteiligung entscheidet nichts. Es misst, ob die Auswahlquoten einen seit langem etablierten statistischen Schwellenwert überschreiten, den die Gerichte auf Diskriminierungsklagen anwenden. Wenn Ihre KI den Vier-Fünftel-Test besteht, sagt das Audit dies, und Sie haben Ihren Beweis der Neutralität. Wenn sie durchfällt, sagt Ihnen das Audit, welcher Bewertungsfaktor ihn verursacht hat — und die Lösung besteht fast immer darin, die Mathematik genauer zu machen, nicht ungenauer, denn eine Lieferquote von 98.1% durch Konfidenzgewichtung auf 16.8 herunterzurechnen, ist nicht fair oder korrekt.

Man fragt mich auch, warum das jetzt dringend ist, wo sich Beschaffungs-KI noch früh anfühlt. Und sie ist früh dran — genau das ist das Zeitfenster. Branchenweit führen 49% der Beschaffungsteams KI-Pilotprojekte durch, aber nur 4% haben eine nennenswerte Einführung erreicht. Der Engpass ist nicht die Technologie. Es ist das Vertrauen. Die Führung wird keine autonome Lieferantenbewertung freigeben, die sie gegenüber einem Stakeholder oder einer Regulierungsbehörde nicht rechtfertigen kann. Der Fairness-Beweis ist kein nettes Extra, das nach der Einführung angeschraubt wird. Für viele Organisationen ist er genau das, was den Weg frei macht für die Einführung.

Die dritte Frage betrifft immer die Tools zum Auffinden diverser Lieferanten — Supplier.io mit seiner Datenbank von 20 Millionen Lieferanten, Tealbook, Fairmarkit. Lösen die das nicht bereits? Nein. Sie helfen Ihnen beim Finden diverser Lieferanten. Keines von ihnen prüft, ob Ihr Bewertungsalgorithmus diesen Lieferanten eine faire Chance gibt, sobald sie im Trichter sind. Einen qualifizierten Lieferanten in Minderheitenbesitz zu finden und ihn dann durch Konfidenzgewichtung bei 71 zu begraben, ist kein Fortschritt. Es ist ein effizienterer Weg zur selben Ausgrenzung.

Die Mauer, die niemand bauen wollte

Ich komme immer wieder auf diese Befestigungs-Scorecard zurück. Fünf Lieferanten, ein Routinevorgang und ein Stück Mathematik, das stillschweigend entschied, dass ein besser abschneidender Anbieter verlieren sollte — nicht weil das irgendjemand wollte, sondern weil der Algorithmus verwechselte Vertrautes mit Gutem.

Das ist das Wesen des Bias in der Beschaffungs-KI. Er tritt nicht als Vorurteil auf. Er tritt als Konfidenzintervall auf, als Transaktionszahl, als eine völlig vernünftig aussehende 25%-Gewichtung. Jeder Schritt ist vertretbar. Die Mauer, die er baut, ist es nicht.

Da können Sie sich mit guten Absichten nicht herausreden, und Sie können es nicht beheben, indem Sie die Waage in die andere Richtung neigen — ich habe es versucht, und das Gesetz hatte recht, es zu verbieten. Sie können nur eine Sache tun: es messen, es beweisen und den Beweis zu etwas machen, das Sie einem Prüfer ohne mit der Wimper zu zucken vorlegen würden. Diese Haltung des Messens statt des Korrigierens ist das Ganze dessen, was wir bei Veriprajna bauen. Ihre Beschaffungs-KI ist schnell. Die einzige Frage, die zählen wird, wenn zum ersten Mal ein übergangener Lieferant nach dem Warum fragt, ist, ob Sie beweisen können, dass sie fair war. Wenn Sie das Disparitätsverhältnis und das Audit vorlegen können, das es hervorgebracht hat, haben Sie eine Antwort. Wenn nicht, haben Sie kein Fairness-Problem — Sie haben ein Discovery-Problem, das auf eine Vorladung wartet.