Het probleem
Eén sollicitant solliciteerde naar meer dan 100 banen via het platform van Workday. Hij werd voor vrijwel al die banen afgewezen — vaak binnen enkele minuten, buiten kantooruren. Geen enkel mens heeft ooit zijn cv bekeken. Derek Mobley, een Afro-Amerikaanse man van boven de 40 met een arbeidsbeperking, spande een rechtszaak aan die het arbeidsrecht in de Verenigde Staten inmiddels heeft hervormd. In mei 2025 verklaarde een federale rechtbank een landelijke collectieve actie ontvankelijk voor potentieel miljoenen sollicitanten ouder dan 40 jaar die geen aanbeveling voor werk kregen via de AI-screeningtools van Workday.
De cijfers zijn duizelingwekkend. Uit Workdays eigen processtukken bleek dat de software tijdens de relevante periode ongeveer 1,1 miljard afwijzingen van sollicitaties heeft verwerkt. Dat is geen typefout. Miljarden geautomatiseerde beslissingen, waarvan vele zonder betekenisvol menselijk toezicht zijn genomen.
Dit is wat er voor uw bedrijf is veranderd: In juli 2024 oordeelde rechter Rita Lin van de Northern District of California dat AI-leveranciers zoals Workday geen neutrale softwareleveranciers zijn. Ze zijn "agents" van de werkgevers die hen gebruiken. Dat betekent dat zij rechtstreeks aansprakelijk zijn onder Title VII, de ADA en de ADEA — dezelfde federale antidiscriminatiewetten die voor u gelden. Als uw AI-wervingstool discrimineert, kunnen zowel u als uw leverancier aansprakelijk worden gesteld. De rechtbank trok een duidelijke grens: een AI-systeem dat kandidaten actief scoort, rangschikt en aanbeveelt, voert een kernfunctie van werving uit en sorteert niet slechts een spreadsheet.
Waarom dit belangrijk is voor uw bedrijf
Deze uitspraak verandert uw risicoprofiel op drie concrete manieren.
De financiële blootstelling is enorm en groeit. De collectieve actie tegen Workday omvat elke sollicitant ouder dan 40 die sinds september 2020 een aanbeveling werd geweigerd. De rechtbank breidde de reikwijdte in juli 2025 uit naar sollicitanten die zijn verwerkt door HiredScore AI, een technologie die Workday heeft overgenomen. Uw potentiële aansprakelijkheid schaalt mee met elke sollicitatie die uw AI-tools afwijzen.
Boetes van toezichthouders zijn er al. Local Law 144 van New York City vereist jaarlijkse onafhankelijke bias-audits voor geautomatiseerde instrumenten voor arbeidsbeslissingen. Boetes beginnen bij $500 voor de eerste overtreding en lopen op tot $1.500 per overtreding per dag bij herhaalde overtredingen. Meerdere steden en staten volgen het voorbeeld van New York.
Reputatieschade is de verborgen kostenpost. De rechtbank kan bedrijven bevelen miljoenen getroffen sollicitanten op de hoogte te stellen. Stel u de naam van uw bedrijf voor op een gerechtelijk bevolen lijst die wordt gestuurd naar iedereen die door uw AI is afgewezen. De richtlijnen van de EEOC van mei 2023 maken uw verplichtingen expliciet: u bent verantwoordelijk voor de resultaten van algoritmische tools, zelfs als een derde partij deze heeft ontworpen of beheerd.
Dit is de slotsom voor uw budget:
- $500–$1.500 per dag aan boetes in NYC voor ontbrekende bias-audits
- 1,1 miljard afwijzingen verwerkt via één enkel platform tijdens de procesperiode
- 100+ afwijzingen voor één sollicitant, vaak binnen enkele minuten — het patroon waarmee het allemaal begon
- Elke sollicitant ouder dan 40 sinds september 2020 is een potentiële eiser in deze zaak
Als uw leverancier niet kan uitleggen waarom een kandidaat is afgewezen — of als deze elke aansprakelijkheid voor bias afwijst — draagt uw bedrijf 100% van het risico.
Wat er werkelijk onder de motorkap gebeurt
De meeste AI-wervingstools draaien op grote taalmodellen (LLM's) — systemen die zijn ontworpen om het meest waarschijnlijke volgende woord te voorspellen, niet om eerlijke beslissingen te nemen. Zie ze als engines voor automatisch aanvullen op enorme schaal. Ze zijn gebouwd voor aannemelijkheid, niet voor nauwkeurigheid. Wanneer u een dunne applicatielaag om een van deze modellen wikkelt en het een "wervingsoplossing" noemt, krijgt u te maken met drie gevaarlijke faalmodi.
Ten eerste verliezen ze informatie in het midden. Onderzoek toont aan dat standaard AI-modellen veel aandacht besteden aan het begin en het einde van documenten, maar in het midden een zogeheten "aandachtsdal" vertonen. In een cv van 10 pagina's worden cruciale certificeringen of recente prestaties op de middelste pagina's statistisch gezien vaker over het hoofd gezien.
Ten tweede verzinnen ze feiten. Wanneer een LLM een specifieke kwalificatie niet kan vinden, genereert het vaak een aannemelijke veronderstelling op basis van de omringende tekst. Uw systeem wijst mogelijk een gekwalificeerde kandidaat af op basis van een "feit" dat nergens in diens daadwerkelijke dossier voorkomt.
Ten derde discrimineren ze via proxy's. Een AI-model hoeft uw leeftijd niet te zien om deze te raden. Het leert dat een @aol.com-e-mailadres, meer dan 15 jaar ervaring, verwijzingen naar oudere technologieën zoals Lotus Notes of functietitels uit het begin van een loopbaan in de jaren 90 allemaal correleren met ouder zijn dan 40. Wanneer het model wordt getraind op "high performers" van een bedrijf die toevallig jonger zijn, behandelt het deze proxy-signalen als negatieve indicatoren. Dit creëert een feedbackloop: het systeem reproduceert en versterkt exact dezelfde vooroordelen die het juist geacht werd weg te nemen.
De EEOC hanteert de "vier-vijfde-regel" om te testen op discriminatie. Als het selectiepercentage voor een beschermde groep onder de 80% van het percentage van de hoogste groep daalt, is er sprake van nadelige impact (adverse impact). In de Workday-zaak riepen de afwijzingspatronen over de verschillende leeftijdsgroepen precies deze rode vlaggen op.
Wat werkt (en wat niet)
Laten we beginnen met drie veelvoorkomende benaderingen die falen in gereguleerde wervingsomgevingen.
"We hebben een systeemprompt toegevoegd waarin we de AI opdragen eerlijk te zijn." Systeemprompts zijn suggesties, geen regels. Ze kunnen eenvoudig worden omzeild en bieden juridisch gezien geen enkele verdediging. Een rechter zal "we hebben de AI gevraagd aardig te zijn" niet accepteren als compliancestrategie.
"We auditen eenmaal per jaar." Jaarlijkse audits signaleren problemen pas nadat de schade al is aangericht. Als uw model tussen de audits door verloopt — en modellen vertonen drift — bouwt u elke dag dat u niet monitort aansprakelijkheid op.
"Onze leverancier regelt de compliance." De rechtbank in Mobley v. Workday oordeelde dat het delegeren van wervingsfuncties aan een geautomatiseerd systeem de aansprakelijkheidsketen verlengt — en niet beëindigt. De compliance van uw leverancier is uw compliance.
Wat wél werkt, is een architectuur die taalverwerking scheidt van besluitvorming. Dit werkt als volgt in drie stappen:
Invoer en vertaling. Een gespecialiseerde AI leest een cv of transcript en extraheert specifieke feiten: "Kandidaat heeft 5 jaar Python-ervaring." In deze fase controleren input guardrails op problemen met datakwaliteit, lekken van persoonsgegevens en pogingen tot adversariële manipulatie. De AI fungeert als vertaler, niet als beslisser.
Gestructureerd redeneren. Die geëxtraheerde feiten worden gemapt naar een knowledge graph — een gestructureerde kaart die definieert hoe vaardigheden, rollen en functie-eisen zich tot elkaar verhouden. Een regel-engine past vervolgens uw bedrijfslogica deterministisch toe: ALS ervaring ten minste 5 jaar is EN vaardigheid gelijk is aan Python, DAN is in_aanmerking_komend gelijk aan waar. De AI kan geen beleid "hallucineren", omdat de regels zijn vastgelegd in code en niet worden gegenereerd door voorspelling.
Auditeerbare uitvoer. Elke aanbeveling genereert een duidelijk logisch spoor dat exact aantoont welke regel is getriggerd, door welk datapunt, in welk document. Output guardrails scannen op bias, fouten en beleidsschendingen voordat enig resultaat een recruiter bereikt. Technieken zoals SHAP — waarmee een specifieke bijdragewaarde wordt toegekend aan elke factor in een beslissing — stellen u in staat een toezichthouder of rechter te tonen dat "Vaardigheid X met +15 heeft bijgedragen aan de score van deze kandidaat" en niets anders de uitkomst heeft bepaald.
Dit is het verschil dat ertoe doet voor uw complianceteam. Wanneer een toezichthouder vraagt "waarom is deze persoon afgewezen", kunt u wijzen op een specifieke regel die is toegepast op een specifiek feit. U vraagt een AI niet om achteraf naar zijn eigen redenering te gissen.
Uw organisatie moet tijdens de modeltraining ook adversariële ontbiasing implementeren. Deze techniek traint een secundair model om te detecteren of de uitvoer van het primaire model beschermde kenmerken zoals ras of leeftijd onthult. Als het secundaire model daarin slaagt, wordt het primaire model bestraft en opnieuw getraind. Het resultaat is een systeem dat discriminerende patronen actief verwijdert in plaats van te hopen dat ze niet ontstaan.
Bouw tot slot een three lines of defense-model voor AI-risicobeheer. Uw bedrijfsonderdelen dragen het dagelijkse AI-risico, waaronder de selectie van trainingsdata en de anonimisering van kandidaten. Een risico- en compliancefunctie beheert modelregisters en monitort de selectieratio's continu. Een onafhankelijke auditfunctie verifieert alles — inclusief de verplichte jaarlijkse bias-audits die vereist zijn onder wetgeving zoals NYC Local Law 144.
De verschuiving naar soevereine AI-implementatie — waarbij modellen binnen uw eigen infrastructuur draaien in plaats van via API's van derden — geeft u controle over dataherkomst en traceerbaarheid. Uw bedrijfseigen wervingsdata blijft van u. Uw modellen veranderen niet onvoorspelbaar doordat een leverancier een update heeft doorgevoerd.
De HR- en talenttechnologiesector beweegt van automatisering naar verificatie. De bedrijven die fairness-audits en bias-mitigatie inbouwen in hun kernarchitectuur — niet als bijgedachte — zullen overeind blijven wanneer de volgende uitspraak valt. U kunt de volledige technische analyse lezen of de interactieve versie verkennen voor meer details over de juridische precedenten en de technische architectuur.
Belangrijkste inzichten
- Een federale rechtbank oordeelde in 2024 dat leveranciers van AI-wervingssoftware kwalificeren als juridische "agents" — waardoor zij rechtstreeks aansprakelijk zijn voor discriminatie onder Title VII, de ADA en de ADEA.
- Het platform van Workday verwerkte circa 1,1 miljard afwijzingen van sollicitaties tijdens de procesperiode, en een landelijke collectieve actie dekt nu potentieel miljoenen sollicitanten ouder dan 40 jaar.
- AI-modellen discrimineren via proxy-variabelen zoals e-maildomeinen, jaren werkervaring en verwijzingen naar verouderde technologieën — zonder ooit de leeftijd van een kandidaat te zien.
- Jaarlijkse bias-audits alleen zijn niet voldoende; continue monitoring, deterministische regel-engines en auditeerbare logische sporen zijn vereist om uw wervingsbeslissingen voor de rechtbank te verdedigen.
- De boetes onder NYC Local Law 144 variëren van $500 tot $1.500 per overtreding per dag — maar de werkelijke kosten zijn de naamsvermelding van uw bedrijf in een gerechtelijk bevel aan miljoenen afgewezen sollicitanten.
Kort samengevat
De uitspraak in Mobley v. Workday betekent dat de discriminatie van uw AI-wervingsleverancier nu úw discriminatie is. Elke geautomatiseerde afwijzing die uw bedrijf niet kan verklaren, vormt een aansprakelijkheidsrisico. Vraag uw leverancier: kunt u mij de exacte regel tonen, toegepast op het exacte datapunt, die tot elke afwijzing van een kandidaat heeft geleid — en kunt u dat logische spoor voor de rechtbank overleggen?