Een AI zei tegen een dove vrouw dat ze "actief luisteren" moest oefenen. Dat was het moment waarop ik wist dat deze sector kapot was.

Ik zat in mijn thuiskantoor, laat op een dinsdagavond, door de klacht van de ACLU tegen Intuit en HireVue te scrollen, toen ik bij de zin kwam die me mijn laptop deed neerleggen om gewoon naar de muur te staren.

Een dove inheemse vrouw — in de stukken aangeduid als D.K. — was verplicht om een geautomatiseerd videosollicitatiegesprek te voltooien voor een promotie. Ze had al positieve beoordelingen behaald, jaarlijkse bonussen, een staat van dienst die de promotie vanzelfsprekend had moeten maken. Maar het AI-systeem dat haar gesprek verwerkte, genereerde een stuk feedback dat deze sector nog jaren zal achtervolgen: het vertelde haar om "actief luisteren te oefenen."

Ze is doof.

Het systeem wist het niet. Het systeem gaf er niet om. Het systeem deed wat elk groot taalmodel doet — het zocht naar patronen tegen een trainingsset die overweldigend was opgebouwd uit horende, neurotypische, standaard-Amerikaans-Engels-sprekende mensen, en het besloot dat iedereen die niet als die dataset klonk, gebrekkig was. Niet anders. Gebrekkig.

Ik heb jaren besteed aan het bouwen van AI-systemen bij Veriprajna die zijn ontworpen om belangrijke beslissingen over mensen te nemen. En ik kan je met absolute zekerheid vertellen: dit was geen bug. Dit was de architectuur die precies werkte zoals ontworpen. Dat is het probleem.

Wat is er eigenlijk met D.K. gebeurd?

Het is de moeite waard om bij de feiten stil te staan, omdat ze iets diepers blootleggen dan één enkele softwarefout.

D.K. had een redelijke aanpassing gevraagd — specifiek een door een mens gegenereerde Communication Access Realtime Translation (CART) ondertitelaar om haar te helpen bij het navigeren door het videosollicitatiegesprek. In plaats daarvan kreeg ze geautomatiseerde ondertiteling. Als je ooit hebt gezien hoe automatische ondertiteling een spreker met een licht regionaal accent verminkt, stel je dan voor wat er gebeurt wanneer de spreker heeft wat taalkundigen een "doof accent" noemen — spraakpatronen gevormd door een leven lang communiceren zonder auditieve feedback.

Het systeem voor automatische spraakherkenning kon haar spraak niet ontleden. Het transcript dat het genereerde was, functioneel gezien, rommel. En vervolgens analyseerde een tweede laag AI dat waardeloze transcript op "leiderschapskwaliteiten" en "communicatievaardigheden" en concludeerde dat ze niet klaar was voor een managementfunctie.

Dit is wat ik cascaderende fout ben gaan noemen in gesprekken met mijn team — wanneer een fout in de ene AI-laag niet alleen blijft bestaan maar zich versterkt terwijl hij door de volgende lagen gaat. Een slecht transcript voedt een slechte analyse voedt een slechte aanbeveling. Tegen de tijd dat een mens de uitvoer ziet, ziet die er schoon uit. Een score. Een rangschikking. Een afwijzing. Niemand ziet het 78%-woordfoutpercentage eronder.

Wanneer het fundamentele transcript een foutpercentage van 78% heeft, analyseert elk model dat erbovenop is gebouwd niet de kandidaat — het analyseert ruis.

Dat getal is niet hypothetisch. Onderzoek naar ASR-systemen die dove sprekers met een gemiddelde tot lage spraakverstaanbaarheid verwerken, toont consequent woordfoutpercentages tussen 77% en 78%. Ter vergelijking: standaard-Amerikaans-Engelse sprekers halen 10–18%. Het systeem zou nooit hebben gewerkt voor D.K. Het was, van de grond af, ontworpen om haar uit te sluiten.

Waarom heeft elke AI-wervingstool dit probleem?

Hier moet ik eerlijk zijn over de sector waarin ik werk.

De overgrote meerderheid van de "AI-wervingsoplossingen" die momenteel op de markt zijn, zijn wat we wrapper-producten noemen. Het zijn dunne interfaces gebouwd bovenop grote taalmodellen voor algemeen gebruik — GPT-4, Claude, Gemini. Het bedrijf voegt een mooie UI toe, wat HR-specifieke prompts, misschien een dashboard met grafieken, en verkoopt het als "AI-aangedreven talentintelligentie."

Ik heb tegenover zakelijke kopers gezeten die echt het verschil niet konden zien tussen een wrapper en een speciaal gebouwd systeem. En waarom zouden ze ook? De marketing ziet er identiek uit. De demo's zijn gepolijst. Het wrapper-bedrijf zegt "we gebruiken geavanceerde AI" en het diepe-AI-bedrijf zegt "we gebruiken geavanceerde AI" en het inkoopteam kiest degene met het lagere prijskaartje.

Het verschil komt pas naar voren wanneer iemand als D.K. binnenloopt.

LLM's voor algemeen gebruik erven elke vooringenomenheid die is ingebakken in de datasets op internetschaal waarop ze zijn getraind. Als decennia aan wervingsgegevens een voorkeur weerspiegelen voor kandidaten die op een bepaalde manier praten, er op een bepaalde manier uitzien, zich op een bepaalde manier presenteren, dan stelt het model dat patroon niet ter discussie — het optimaliseert ervoor. Dat is geen fout in de redenering van het model. Dat is letterlijk waarvoor het model is gebouwd: patronen vinden en repliceren.

Ik herinner me een verhitte discussie met een van mijn engineers — ik noem hem Ravi — over de vraag of adversariële debiasing de rekenkundige overhead waard was. Zijn standpunt was pragmatisch: "De meeste kandidaten zullen de randgevallen niet activeren. We voegen latentie toe voor een scenario dat misschien 2% van de gesprekken betreft." Mijn antwoord was botweg: "Als je systeem perfect werkt voor 98% van de mensen en de andere 2% systematisch discrimineert, heb je geen goed product met randgevallen gebouwd. Je hebt een burgerrechtenschending met een hoog nauwkeurigheidspercentage gebouwd."

Ravi kwam bij. Maar ik denk veel na over dat gesprek, want ik weet dat het op dit moment bij elk AI-bedrijf gebeurt, en bij de meeste ervan winnen de Ravi's.

Hoe bouw je eigenlijk AI die niet discrimineert?

Het technische antwoord is belangrijk, maar ik wil het uitleggen zoals ik het aan een vriend zou uitleggen, niet zoals ik het in een specificatiedocument zou schrijven.

Het kernidee achter wat we bij Veriprajna bouwen, is iets dat adversariële debiasing heet. Stel je voor dat je twee AI-modellen tegelijkertijd traint. Het eerste model — degene waar je echt om geeft — probeert te voorspellen of een kandidaat succesvol zal zijn in een rol. Het tweede model is een tegenstander. Zijn enige taak is om te kijken naar de interne representaties van het eerste model en te proberen het ras, geslacht, de handicapstatus of enig ander beschermd kenmerk van de kandidaat te raden.

Vervolgens straf je het eerste model elke keer dat de tegenstander slaagt.

Gedurende duizenden trainingscycli leert het primaire model voorspellingen te doen die werkelijk blind zijn voor beschermde kenmerken — niet omdat je die datapunten uit de invoer hebt verwijderd (dat is de naïeve benadering, en die werkt niet omdat proxy's blijven bestaan), maar omdat de interne redenering van het model is gedwongen om paden naar zijn conclusies te vinden die niet door demografische informatie gaan.

Contrafeitelijke eerlijkheid betekent bewijzen dat de score van een kandidaat identiek zou blijven als hun beschermde kenmerken — ras, geslacht, handicap — anders waren. Dat is geen aspiratie. Het is een wiskundige test.

Dit verschilt fundamenteel van wat een wrapper kan doen. Je kunt adversariële debiasing niet vastschroeven aan een GPT-API-aanroep. Je kunt de interne representaties van een model dat je niet beheert niet met terugwerkende kracht auditen. Je stuurt gewoon tekst naar een black box en hoopt dat de uitvoer niet discriminerend is. Hoop is geen nalevingsstrategie.

Ik heb geschreven over de volledige technische architectuur — inclusief de multimodale fusiebenadering en de formele eerlijkheidsmetrieken — in onze interactieve whitepaper als je dieper wilt gaan.

De modaliteitsineenstorting die D.K. deed zinken

Er is een specifieke technische fout in de HireVue-zaak waarvan ik denk dat de meeste berichtgeving deze heeft gemist, en het is er een die me 's nachts wakker houdt.

Het systeem leed aan wat onderzoekers modaliteitsineenstorting noemen. In een multimodaal AI-systeem — een dat video, audio en tekst tegelijkertijd verwerkt — draagt elk kanaal (of "modaliteit") bij aan de uiteindelijke beoordeling. In theorie is dit robuuster dan een systeem met één kanaal. Als de audio ruisrijk is, kan de video compenseren. Als het transcript verminkt is, kunnen de visuele aanwijzingen het aanvullen.

In de praktijk lijkt het systeem van HireVue te veel te hebben gesteund op het audiokanaal. Toen D.K.'s spraak niet overeenkwam met de patronen die het model verwachtte, droeg het audiosignaal niet zomaar een lage score bij — het domineerde de hele beoordeling. Het visuele kanaal, dat mogelijk haar betrokkenheid, haar zelfvertrouwen, haar expressiviteit had vastgelegd, werd overstemd.

We lossen dit op met iets dat we Modality Fusion Collaborative Debiasing noemen. Wanneer ons systeem detecteert dat één modaliteit uitvoer met een lage betrouwbaarheid produceert — bijvoorbeeld wanneer de ASR moeite heeft met een niet-standaard accent — meldt het niet alleen het probleem. Het verhoogt automatisch het gewicht van de andere modaliteiten. De schriftelijke antwoorden krijgen meer invloed. De visuele gedragsaanwijzingen krijgen meer invloed. Het verslechterde audiokanaal krijgt minder.

Maar hier is het deel dat volgens mij het meest telt, en het is helemaal niet technisch: wanneer het vertrouwen van ons systeem onder een drempel zakt, verwijst het naar een mens. Niet als bijzaak. Niet als een "escalatiepad" begraven in een instellingenmenu. Als een kernbeslissing in de architectuur.

D.K. vroeg om een menselijke ondertitelaar. Ze werd geweigerd. In ons systeem had ze er niet om hoeven vragen. Het systeem zou zijn eigen beperking hebben herkend en automatisch een mens hebben ingeschakeld.

AI zou moeten weten wanneer die faalt. Het feit dat het systeem van HireVue vol vertrouwen een transcript met een foutpercentage van 78% scoorde, vertelt je alles over hoe deze tools zijn gebouwd — en voor wie ze zijn gebouwd.

Wat gebeurt er wanneer de wet bijtrekt?

Jarenlang opereerde de AI-wervingssector in een regelgevingsvacuüm. Bedrijven konden inzetten wat ze wilden, niets auditen en aansprakelijkheid afwijzen in hun servicevoorwaarden. Dat tijdperk loopt ten einde, snel.

De Colorado Artificial Intelligence Act (SB 24–205), van kracht begin 2026, stelt iets ongekends in: een wettelijke "zorgvuldigheidsplicht" voor iedereen die risicovolle AI-systemen ontwikkelt of inzet. Wervings- en promotiebeslissingen worden expliciet geclassificeerd als risicovol. De wet vereist jaarlijkse impactbeoordelingen die screenen op algoritmische discriminatie. Niet vrijwillig. Geen "best practice." Verplicht.

Local Law 144 van New York City vereist al onafhankelijke vooringenomenheidsaudits voor geautomatiseerde tools voor werkgelegenheidsbeslissingen. Vergelijkbare wetgeving is in opmars in Californië en Illinois. De EU AI Act classificeert wervings-AI als risicovol en legt vereisten voor transparantie en menselijk toezicht op, ondersteund door op omzet gebaseerde boetes.

En dan is er Mobley v. Workday, wat misschien wel de meest ingrijpende zaak is waar de meeste mensen nog nooit van hebben gehoord. Een federale rechtbank certificeerde een collectieve actie en oordeelde dat een AI-leverancier kan worden behandeld als een "agent" of "indirecte werkgever" wanneer zijn software functies uitvoert die traditioneel door een menselijke wervingsmanager werden afgehandeld. Die ene uitspraak sloopte de aansprakelijkheidsfirewall waar elk wrapper-bedrijf van afhankelijk is — het idee dat de leverancier de tool levert maar de werkgever al het risico draagt.

Een potentiële investeerder vertelde me, ongeveer een jaar geleden, dat compliance-first AI "een nichespel" was. Dat de markt snelheid en schaal wilde, geen auditbaarheid. Ik vertelde hem dat de markt op het punt stond in rechtszaken te belanden totdat ze auditbaarheid zou willen. Ik denk dat de klacht van de ACLU het punt heeft bewezen.

Voor de gedetailleerde analyse van de regelgeving en het volledige raamwerk voor hoe ondernemingen zich zouden moeten voorbereiden, vind je hier de technische verdieping.

"Maar ons systeem is geslaagd voor de vooringenomenheidsaudit"

Mensen vragen me dit voortdurend — als een systeem slaagt voor een jaarlijkse vooringenomenheidsaudit, is dat dan niet genoeg?

Nee. En hier is waarom.

De meeste vooringenomenheidsaudits testen op ongelijke impact met behulp van de Vier-Vijfde-Regel: als het selectiepercentage voor een beschermde groep onder de 80% van het percentage voor de groep met de hoogste selectie zakt, is er een probleem. Dit is een nuttige ondergrens, maar een vreselijke bovengrens. Een systeem kan in totaal slagen voor de Vier-Vijfde-Regel terwijl het systematisch faalt voor specifieke intersectionele groepen — bijvoorbeeld dove inheemse vrouwen — omdat de steekproefomvang te klein is om de statistische drempel te activeren.

D.K. werd niet in de steek gelaten door een systeem dat breed vooringenomen was tegen vrouwen of breed vooringenomen tegen inheemse mensen. Ze werd in de steek gelaten door een systeem dat haar specifieke combinatie van identiteit en communicatiestijl niet kon verwerken. Geaggregeerde eerlijkheidsmetrieken zouden het nooit hebben opgevangen.

Dit is waarom we SHAP-analyse (SHapley Additive exPlanations) gebruiken als een laag voor continue monitoring, niet als een vinkje één keer per jaar. SHAP stelt ons in staat om elke afzonderlijke beslissing te ontleden in de bijdragende kenmerken. Als een kandidaat laag wordt gescoord, kunnen we precies zien welke kenmerken die score hebben veroorzaakt. En als die kenmerken correleren met beschermde eigenschappen in plaats van met functierelevante competenties — als "prosodie" of "spraakcadans" het zware werk doet in plaats van "probleemoplossend vermogen" of "domeinexpertise" — dan markeert het systeem zichzelf in realtime voor herstel.

Het verschil tussen een vooringenomenheidsaudit en continue verklaarbaarheidsmonitoring is het verschil tussen een jaarlijkse keuring en een hartmonitor. De ene vertelt je wat er al mis is gegaan. De andere vangt het probleem op terwijl er nog tijd is om te handelen.

De echte prijs van het verkeerd aanpakken

Ik wil eindigen met iets dat niet over technologie of regelgeving gaat.

Toen D.K. haar promotie werd geweigerd, schond het bedrijf niet alleen haar rechten. Het verloor een goed presterende werknemer die bonussen en positieve beoordelingen had verdiend — iemand die, naar elke menselijke maatstaf, klaar was voor de rol. De AI beschermde het bedrijf niet tegen een slechte aanwerving. Het beschermde het bedrijf tegen een geweldige.

Elke keer dat een vooringenomen systeem een gekwalificeerde kandidaat uitsluit — vanwege een accent, een handicap, een naam, een spraakpatroon dat niet overeenkomt met de trainingsgegevens — loopt het bedrijf niet alleen juridisch risico. Het verliest de persoon. Het verliest het perspectief, de probleemoplossende benadering, de geleefde ervaring die geen enkele hoeveelheid "culture fit"-optimalisatie kan repliceren.

Ik heb Veriprajna gebouwd op een overtuiging die ik nu sterker koester dan toen ik begon: de bedrijven die het volgende decennium zullen domineren, zijn degene die uitvinden hoe ze AI kunnen gebruiken als een brug naar talent dat ze anders zouden missen, niet als een filter dat het uitsluit. Het wrapper-tijdperk stort in onder het gewicht van zijn eigen rechtszaken. Het black-box-tijdperk wordt door wetgeving uit het bestaan verdreven.

Wat het vervangt, moet in aard verschillen, niet in gradatie. Geen betere wrapper. Geen zorgvuldiger geprompte GPT-aanroep. Een fundamenteel andere architectuur — een die weet wanneer die het mis heeft, uitlegt waarom die gelijk heeft, en een mens inschakelt wanneer geen van beide zeker is.

AI zou een brug naar talent moeten zijn, geen barrière ervoor. Elk systeem dat het verschil niet kan zien tussen een handicap en een gebrek, heeft niets te zoeken bij het nemen van beslissingen over de loopbaan van mensen.

Het tijdperk van "inzetten en afwijzen" is voorbij. Wat hierna komt, is moeilijker, langzamer, duurder om te bouwen, en het enige dat daadwerkelijk zal werken.