Het aanwervingsalgoritme dat per ongeluk een medische keuring werd

Een vriend van mij — briljante software engineer, een van de beste patroondenkers die ik ooit heb ontmoet — vertelde me dat hij door elf bedrijven op rij was afgewezen. Niet na technische rondes. Ervóór. Hij kwam nooit voorbij de eerste "persoonlijkheidsbeoordeling."

Hij is autistisch. En elk van die bedrijven gebruikte een of andere versie van dezelfde AI-gestuurde screeningtool.

Ik bleef aan dat gesprek denken toen de ACLU in mei 2024 een formele klacht indiende bij de Federal Trade Commission tegen Aon Consulting. De aantijging was verbluffend in haar specificiteit: Aons pakket van AI-aanwervingstools — op de markt gebracht als "bias-vrij" en diversiteitsbevorderend — functioneerde waarschijnlijk als een verkapte handicaptest. De tools maten eigenschappen als "levendigheid," "positiviteit" en "emotioneel bewustzijn." Eigenschappen die niet zomaar vage persoonlijkheidsdimensies zijn. Het zijn bijna perfecte spiegels van de klinische criteria die worden gebruikt om autisme te diagnosticeren.

Toen ik de volledige klacht las, aan mijn bureau om elf uur 's avonds met een koude kop chai, viel er iets op zijn plaats dat me al jaren dwarszat. De AI-aanwervingsindustrie heeft geen bias-probleem. Ze heeft een architectuurprobleem. En geen enkele hoeveelheid "Responsible AI"-branding gaat dat oplossen.

De belofte die brak

Bijna tien jaar lang is de pitch van AI-aanwervingsleveranciers verleidelijk en eenvoudig geweest: mensen zijn bevooroordeeld, algoritmen niet. Laat de machine beslissen en je krijgt eerlijkere uitkomsten.

Ik geloofde er in het begin ook in een versie van. Toen ik Veriprajna oprichtte, geloofde ik oprecht dat je, als je besluitvorming kon formaliseren — het buikgevoel eruit halen, de "culture fit"-onderbuikgevoelens, de onbewuste voorkeur voor mensen die je aan jezelf doen denken — iets zou krijgen dat dichter bij meritocratie ligt. De wiskunde zou ons bevrijden.

De AI-aanwervingsindustrie heeft geen bias-probleem. Ze heeft een architectuurprobleem.

Toen begon ik te kijken naar wat deze tools daadwerkelijk meten. En ik besefte dat de wiskunde precies de vooroordelen codeerde die ze beweerde te elimineren — ze vertaalde ze alleen in een taal die objectief leek.

Aons vlaggenschip-persoonlijkheidstool, ADEPT-15, beoordeelt kandidaten op vijftien dimensies. Dingen als "Levendigheid" (ben je extravert of gereserveerd?), "Bewustzijn" (kun je tussen de regels door lezen?), "Kalmte" (ben je rustig onder druk of gepassioneerd?) en "Flexibiliteit" (geef je de voorkeur aan routine of verandering?). De tool gebruikt een forced-choice-format — je kiest tussen twee stellingen — en past zich in realtime aan op basis van je eerdere antwoorden.

Op papier klinkt het geavanceerd. In de praktijk vraagt het: hoe neurotypisch ben je?

Wat gebeurt er als een aanwervingstool een klinische diagnose weerspiegelt?

Dit is het deel dat me die nacht wakker hield. Ik haalde het Autism Spectrum Quotient erbij — een standaard klinisch screeninginstrument — en legde het naast Aons ADEPT-15-constructdefinities. De overlap was niet subtiel. Ze was structureel.

De AQ meet sociale vaardigheden, aandachtsverschuiving, oog voor detail, communicatie en verbeelding. ADEPT-15 meet "Levendigheid," "Flexibiliteit," "Structuur," "Bewustzijn" en "Assertiviteit." Dit zijn geen verre neven. Het zijn dezelfde constructen in andere kleren.

Wanneer een algoritme iemand bestraft omdat die "gereserveerd" is in plaats van "extravert," meet het geen geschiktheid voor de baan. Het meet sociale prestatie. En voor iemand wiens brein sociale informatie anders verwerkt — iemand met autisme, iemand met ADHD, iemand met sociale angst — is die meting een val vermomd als test.

De klacht van de ACLU stelt het botweg: deze beoordelingen "volgen autisme-/geestelijke-gezondheidsdiagnostiek nauwgezet." Onder de Americans with Disabilities Act mogen werkgevers geen medische onderzoeken afnemen als onderdeel van het aanwervingsproces, tenzij die rechtstreeks werkgerelateerd zijn. Als een persoonlijkheidstest functioneel niet te onderscheiden is van een klinisch screeninginstrument, wat is het dan precies?

Ik herinner me dat ik dit aankaartte bij een collega die jaren in de arbeids- en organisatiepsychologie had doorgebracht. Zijn eerste reactie was defensief — "Dit zijn gevalideerde psychometrische instrumenten." Mijn antwoord: gevalideerd tegen wat? Tegen een normatieve steekproef die overwegend neurotypisch was? Dat is geen validatie. Dat is cirkelredenering in een labjas.

Het probleem met video-sollicitatiegesprekken is erger dan je denkt

Aons tweede tool, vidAssess-AI, legt het persoonlijkheidsmodel bovenop asynchrone video-interviews. Kandidaten nemen zichzelf op terwijl ze vragen beantwoorden. Een NLP-engine transcribeert hun spraak, analyseert de inhoud en scoort deze aan de hand van het ADEPT-15-persoonlijkheidsraamwerk.

Hier wordt het echt alarmerend. Natural-language-processing-modellen worden getraind op enorme tekstdatasets die overweldigend neurotypische communicatiepatronen weerspiegelen. Het ritme van typische spraak. De verwachte cadans van zelfvertrouwen. De "normale" manier om een verhaal op te bouwen.

Mijn team besteedde weken aan het testen van hoe verschillende spraakpatronen samenwerken met commerciële NLP-systemen. Vlakke intonatie — gebruikelijk bij autistische sprekers — wordt gemarkeerd als "gebrek aan enthousiasme." Atypische pauzes worden geïnterpreteerd als "onzekerheid." Niet-lineair vertellen — de manier waarop veel mensen met ADHD van nature hun gedachten ordenen, springend tussen verbonden ideeën voordat ze terugkeren — registreert als "ongeordend denken."

Wanneer een algoritme iemand bestraft omdat die "gereserveerd" is in plaats van "extravert," meet het geen geschiktheid voor de baan. Het meet sociale prestatie.

Niets hiervan heeft iets te maken met de vraag of iemand het werk kan doen. Alles ervan heeft alles te maken met de vraag of iemand neurotypiciteit overtuigend voor de camera opvoert.

Onderzoek van Duke University heeft aangetoond dat grote taalmodellen neurodivergente termen systematisch met negatieve connotaties associëren. In sommige modellen scoort "ik heb autisme" negatiever dan "ik ben een bankrover." Wanneer diezelfde modellen via API-integraties aanwervingstools aandrijven, dragen ze die associaties rechtstreeks het screeningproces in. Geen enkele ontwikkelaar heeft het bedoeld. De architectuur garandeerde het.

Ik schreef uitgebreider over de technische werking hiervan in de interactieve versie van ons onderzoek, maar de korte versie is deze: je kunt opkomend validisme niet oplossen met een wrapper rond een bevooroordeeld model. De bias is geen bug. Het is een eigenschap van hoe het systeem is gebouwd.

Waarom ik stopte met geloven in "bias-vrij"

Er was een moment — en ik kan het precies plaatsen — waarop mijn denken hierover verschoof van "we hebben betere bias-tests nodig" naar "het hele paradigma klopt niet."

We voerden een interne audit uit op de aanwervingspijplijn van een klant. Standaardwerk: controles op demografische pariteit, adverse-impact-ratio's, de statistieken die iedereen gebruikt. De cijfers zagen er schoon uit. De aanwervingspercentages over de demografische groepen heen lagen binnen aanvaardbare marges. De klant was tevreden. Hun juridische team was tevreden.

Toen stelde een van mijn engineers, Priya, een vraag die de zaal deed verstommen: "Wat als de mensen die eruit gescreend zouden zijn, überhaupt nooit hebben gesolliciteerd?"

Ze had gelijk. We maten eerlijkheid onder de mensen die door de persoonlijkheidsscreening waren gekomen. Maar de screening zelf had de kandidatenpool al gefilterd. We auditeerden de overlevenden en noemden het gelijkwaardigheid.

Toen begreep ik de fundamentele tekortkoming in de "wrapper"-benadering van AI-eerlijkheid. Een wrapper neemt een bestaand foundation-model — GPT-4, wat dan ook — stuurt er data doorheen en presenteert de output. Je kunt er bias-controles bovenop leggen. Je kunt de resultaten naderhand bewerken. Maar de interne representaties van het model hebben de vooroordelen van zijn trainingsdata al gecodeerd. Je plakt een eerlijkheidssticker op een fundamenteel oneerlijke machine.

De aanwervingsdata waarop deze modellen trainen, weerspiegelen decennia van neurotypische voorkeur. Wanneer het model in gebruik wordt genomen, voeden zijn beslissingen toekomstige trainingssets. Gereserveerde kandidaten worden afgewezen, dus leert het model dat "gereserveerd" afwijzing voorspelt, dus wijst het meer gereserveerde kandidaten af. De lus wordt strakker. De bias stapelt zich op. En het dashboard zegt dat alles in orde is.

Hoe bouw je daadwerkelijk aanwervings-AI die niet discrimineert?

Dit is de vraag die ik de afgelopen jaren heb geprobeerd te beantwoorden. Niet "hoe maak je AI minder bevooroordeeld" — die framing accepteert de huidige architectuur en probeert haar te lappen. De echte vraag is: hoe bouw je systemen waarin de bias zich niet kan verbergen?

De aanpak die we bij Veriprajna hebben ontwikkeld, berust op één kerninzicht: correlatie is waar discriminatie zich verbergt. Traditionele machine learning vindt patronen in data. Als een neurotypische communicatiestijl correleert met aangenomen worden, zal het model communicatiestijl gebruiken als proxy voor aanwervingswaardigheid. Het weet niet dat het discrimineert. Het optimaliseert gewoon.

Om dit te doorbreken heb je causaal redeneren nodig, niet alleen statistische patroonherkenning.

We gebruiken iets dat Causal Representation Learning heet. In plaats van te vragen "welke kenmerken voorspellen aanwervingssucces?", vragen we "welke kenmerken voorspellen aanwervingssucces die niet causaal stroomafwaarts van een beschermd kenmerk liggen?" Het is een fundamenteel andere vraag, en ze vereist een fundamenteel andere architectuur.

Zie het zo. Stel je het profiel van een kandidaat voor als een web van verbonden attributen. Sommige verbindingen zijn legitiem — jaren ervaring hangt samen met vaardigheidsniveau. Maar sommige verbindingen lopen door beschermd terrein — communicatiestijl hangt samen met neurotype, wat samenhangt met hoe een persoonlijkheidstest je scoort, wat samenhangt met of je een sollicitatiegesprek krijgt. Causal Representation Learning brengt deze verbindingswegen in kaart en verbreekt de onrechtmatige wiskundig.

We combineren dit met adversarial training — een techniek waarbij we twee modellen tegen elkaar uitspelen. Eén model probeert werkprestatie te voorspellen. Het andere probeert de handicapstatus van de kandidaat te raden uit de interne representaties van het eerste model. Als de tegenstander slaagt, betekent dit dat de voorspeller beschermde informatie lekt, en het systeem bestraft dat. Over trainingscycli heen leert de voorspeller beslissingen te nemen die echt niet kunnen worden gereverse-engineerd om iemands neurotype te onthullen.

Je kunt opkomend validisme niet oplossen met een wrapper rond een bevooroordeeld model. De bias is geen bug. Het is een eigenschap van hoe het systeem is gebouwd.

En dan is er counterfactual testing — het onderdeel dat ik intellectueel het eerlijkst vind. We nemen de data van een echte kandidaat, genereren een synthetische tweeling waarbij alleen het beschermde kenmerk verandert, en controleren of de aanbeveling van het model hetzelfde blijft. Niet "zijn de statistieken op groepsniveau in evenwicht?" maar "zou deze specifieke persoon een andere uitkomst krijgen als die niet autistisch was?" Dat is de vraag die de ADA daadwerkelijk stelt. Dat is de vraag die de meeste aanwervings-AI niet kan beantwoorden.

Voor de volledige technische uiteenzetting van deze methoden — de wiskunde achter interventionele invariantie, de adversariële verliesfuncties, de structurele causale modellen — zie ons technische onderzoekspaper.

De toezichthouders wachten niet langer

Eén ding maakte de Aon-klacht onmiskenbaar duidelijk: het tijdperk van "beweeg snel en audit later" is voorbij.

Het initiatief "Operation AI Comply" van de FTC heeft al geleid tot handhavingsacties tegen bedrijven die ongefundeerde AI-claims maken. DoNotPay kreeg een boete van $193.000 wegens het te veel beloven van wat zijn juridische AI-tool kon doen. Rytr werd geviseerd wegens het genereren van nepreviews. De FTC is expliciet geweest: als je beweert dat je tool "bias-vrij" is, kun je maar beter het empirische bewijs hebben om dat te bewijzen. "We hebben het op big data getraind" is geen bewijs. Het is een bekentenis.

De EEOC heeft ondertussen algoritmische discriminatie tot een topprioriteit voor handhaving gemaakt. Hun standpunt is helder: werkgevers zijn juridisch verantwoordelijk voor discriminatie veroorzaakt door de AI-tools die ze aanschaffen, zelfs als de leverancier hun een rad voor ogen heeft gedraaid over eerlijkheid. Je kunt je burgerrechtenverplichtingen niet uitbesteden aan een softwarecontract.

Mensen vragen me soms of deze regelgevingsdruk de invoering van AI bij aanwerving zal vertragen. Ik denk dat het de verkeerde vraag is. De druk zal de invoering vertragen van slechte AI. Ze zal de markt versnellen voor tools die daadwerkelijk eerlijkheid kunnen aantonen — niet met marketingteksten, maar met controleerbaar bewijs. Bedrijven die in rigoureuze architectuur hebben geïnvesteerd, zullen een enorm voordeel hebben. Bedrijven die wrappers kochten, zullen een enorme juridische rekening hebben.

Ontwerpen voor breinen die anders werken

Onder de technische en juridische argumenten ligt een dieper vraagstuk, en dat is het vraagstuk dat me het meest aan het hart gaat.

De meeste aanwervings-AI is gebouwd op wat handicapwetenschappers het "medisch-deficit"-model noemen — de aanname dat neurodivergente eigenschappen afwijkingen zijn van een norm die opgespoord en eruit gescreend moeten worden. De hele architectuur veronderstelt dat er een "correcte" manier is waarop een brein werkt, en de taak van het algoritme is om kandidaten te vinden wier breinen zo werken.

Dit is niet alleen ethisch bankroet. Het is strategisch idioot.

Neurodivergente individuen blinken vaak uit in precies de vaardigheden waar bedrijven zeggen wanhopig naar op zoek te zijn: diepe patroonherkenning, aanhoudend oog voor detail, creatief probleemoplossen dat buiten conventionele kaders breekt. Een aanwervingssysteem dat screent op "levendigheid" en "sociale durf" filtert systematisch de mensen eruit die het meest waarschijnlijk zien wat iedereen anders mist.

Bij Veriprajna zijn we begonnen met het bouwen van wat ik zie als temporeel elastische beoordelingssystemen. In plaats van elke kandidaat te vergelijken met een neurotypische basislijn — gemiddelde reactietijd, typische spraakcadans, verwachte emotionele expressie — stelt het systeem een individuele basislijn vast tijdens de vroege fasen van de interactie. Het leert hoe "normaal" eruitziet voor deze persoon, niet voor een of ander abstract gemiddelde.

We pleiten ook hard voor wat vanzelfsprekend zou moeten zijn: elke geautomatiseerde beoordeling moet een duidelijke, strafloze optie bevatten om een menselijk alternatief aan te vragen. De ADA vereist redelijke aanpassing. Maar los van juridische naleving is het gewoon goede engineering. Elk systeem dat kapotgaat wanneer een gebruiker om een andere interface vraagt, is een fragiel systeem.

De vraag die niemand wil beantwoorden

Wanneer ik dit werk presenteer, is er altijd een moment van ongemakkelijke stilte. Meestal komt het nadat ik erop wijs dat dezelfde AI-tools die Fortune 500-bedrijven gebruiken om "diversiteit te verbeteren" mogelijk systematisch kandidaten met een handicap uitsluiten. Iemand in de zaal — meestal iemand die het contract met de leverancier heeft getekend — schuift ongemakkelijk in zijn stoel.

De ongemakkelijke waarheid is dat de meeste ondernemingen hun aanwervings-AI nooit hebben geauditeerd op bias tegen handicaps. Ze hebben gecontroleerd op raciale en genderverschillen omdat dat de statistieken zijn waar toezichthouders zich historisch op hebben gericht. Maar neurodivergentie? Dat staat niet eens in het dashboard.

De Aon-klacht verandert dit. Niet omdat Aon uniek slecht is — ze zijn representatief voor een sectorbrede aanpak. Ze verandert dingen omdat ze het mechanisme benoemt. Ze laat precies zien hoe een "persoonlijkheidsbeoordeling" een handicaptest wordt. En zodra je het hebt gezien, kun je het niet meer ontzien.

Elk bedrijf dat persoonlijkheidsproxy-algoritmen gebruikt om kandidaten te screenen, filtert systematisch juist het talent eruit dat innovatie aandrijft.

Ik denk aan mijn vriend — de briljante engineer die niet voorbij de persoonlijkheidsscreening kwam. Hij werd uiteindelijk aangenomen door een bedrijf dat in plaats daarvan een live technische beoordeling deed. Binnen zes maanden had hij hun hele datapijplijn opnieuw ontworpen. De elf bedrijven die hem afwezen, misten niet alleen een goede aanwerving. Ze kregen van een algoritme te horen dat hij het niet waard was om mee te praten.

Dat is geen bias-probleem. Dat is een kapot systeem dat zichzelf wijsmaakt dat het werkt.

Waar dit naartoe gaat

De Aon-ACLU-klacht is niet het einde van iets. Het is het begin van een afrekening die zal hervormen hoe elke onderneming denkt over AI in beslissingen over menselijk kapitaal.

Tegen de tijd dat deze golf van handhaving en rechtszaken haar hoogtepunt bereikt, zijn de bedrijven die nog overeind staan degene die AI-governance behandelden als een engineeringdiscipline, niet als een PR-oefening. Degene die causale logica eisten in plaats van correlatie. Degene die auditeerden op individuele eerlijkheid, niet alleen op demografische pariteit. Degene die ontwierpen voor het volledige spectrum van menselijke cognitie, niet alleen voor het stukje dat toevallig overeenkomt met de trainingsdata.

Ik ben Veriprajna niet begonnen om compliance-tools te bouwen. Ik ben ermee begonnen omdat ik geloof dat AI de krachtigste gelijkmaker in de geschiedenis van aanwerving kan zijn — maar alleen als we het goed bouwen. Geen wrappers op bevooroordeelde modellen. Geen persoonlijkheidsproxy's opgetuigd als psychometrie. Diepe systemen die het verschil begrijpen tussen wat een persoon kan doen en hoe zijn brein toevallig bedraad is.

Het algoritme dat mijn vriend elf keer afwees, was niet kwaadaardig. Het was gewoon oppervlakkig. En bij aanwerving is oppervlakkig hetzelfde als discriminerend.

We kunnen dieper bouwen. Dat moeten we.