Het Glass-Box-paradigma: engineering van fairness, uitlegbaarheid en precisie in enterprise-recruitment met Knowledge Graphs

Whitepaper opgesteld voor Veriprajna

Managementsamenvatting

Het snijvlak van Artificial Intelligence (AI) en Human Capital Management (HCM) heeft een kritisch kantelpunt bereikt. Het afgelopen decennium werd het verhaal van de sector gedomineerd door de belofte van efficiëntie—machine learning inzetten om cv’s te verwerken met snelheden en volumes die voor menselijke recruiters onhaalbaar zijn. Deze jacht op snelheid heeft echter een enorme ethische en reputatieprijs geëist. De wijdverbreide inzet van „Black Box”-AI—specifiek deep-learningmodellen en onbegrensde Large Language Models (LLM’s)—heeft historische discriminatie geïndustrialiseerd en de vooroordelen van het verleden tot de geautomatiseerde poortwachters van de toekomst gemaakt.

De ineenstorting van Amazons interne AI-recruitingengine, die leerde om systematisch cv’s te bestraffen die het woord „women’s” bevatten, is geen anomalie; het is een wiskundige onvermijdelijkheid van statistische correlatie-engines die zijn getraind op bevooroordeelde historische data. ¹ Terwijl overheden ingrijpen met stringente regelgeving zoals NYC Local Law 144 en de EU AI Act, is het tijdperk van „move fast and break things” in HR-technologie officieel voorbij. Het nieuwe mandaat is duidelijk: geautomatiseerde beslissingen moeten auditbaar, uitlegbaar en aantoonbaar fair zijn. ³

Veriprajna stelt dat de oplossing voor de „Black Box”-paradox niet beter deep learning is, maar een fundamentele architectuurverschuiving naar Explainable Knowledge Graphs (EKG’s) . Door over te stappen van probabilistische voorspelling (raden wie goed is op basis van verborgen patronen) naar deterministische meting (het berekenen van de precieze semantische afstand tussen skills en vereisten) kunnen we talentbeoordeling loskoppelen van demografische bias. Dit whitepaper dient als technische en strategische blauwdruk voor de moderne onderneming en beschrijft hoe Knowledge Graph-architecturen, ontologische mapping en vectorgebaseerde skill distance algoritmen een robuust, compliant en ethisch alternatief bieden voor de ondoorzichtige algoritmen van het verleden. We gaan voorbij de hype van „AI Wrappers” en leveren diepe, structurele intelligentie die talent meet, niet privilege.

Deel I: De anatomie van algoritmisch falen

Om de noodzaak van de Explainable Knowledge Graph te begrijpen, moeten we eerst een forensische analyse uitvoeren van waarom traditionele statistische AI faalt in het recruitmentdomein. Het falen is doorgaans geen kwestie van code, maar van concept.

1.1 De Amazon-casestudy: een forensische analyse

Het geval van Amazons buiten gebruik gestelde recruitingengine is het best gedocumenteerde voorbeeld van algoritmische bias in recruitment en dient als waarschuwing voor de hele sector. In 2014 gingen Amazons machine-learningspecialisten in Edinburgh aan de slag om de zoektocht naar top- engineeringtalent te automatiseren. Hun doel was een mechanisme waarbij een recruiter 100 cv’s invoert en het systeem de top vijf aanbevelingen uitvoert, gerangschikt van één tot vijf sterren, vergelijkbaar met productbeoordelingen. ⁵

1.1.1 De trainingsdata-val

De fundamentele fout lag in de trainingsdata. Het model werd getraind op cv’s die over een periode van 10 jaar bij het bedrijf waren ingediend. Omdat de technologiesector historisch mannengedomineerd is, bestond de overgrote meerderheid van de „succesvolle” hires in de trainingsset uit mannen. ¹ Statistische machine-learningmodellen werken door de fout tussen hun voorspellingen en de trainingslabels te minimaliseren. In dit geval identificeerde het model terecht dat, statistisch gezien, „man zijn” een sterke voorspeller was van „aangenomen worden” binnen de historische dataset.

Bijgevolg leerde de AI zichzelf cv’s te bestraffen die het woord „women’s” bevatten, zoals „Women’s Chess Club Captain”, en afgestudeerden van twee uitsluitend vrouwelijke colleges lager te waarderen. ² Het deed dit niet uit kwaadwilligheid; het deed dit uit wiskundige optimalisatie. Het vond een patroon—mannelijke dominantie—en optimaliseerde daarop.

1.1.2 Biasamplificatie en proxyvariabelen

Dit fenomeen staat bekend als biasamplificatie . AI-modellen repliceren de biases in hun trainingsdata niet alleen; ze versterken ze vaak. Als mannen 60% van het personeelsbestand vormen, kan een model ertoe neigen 80% of 90% mannen aan te nemen om zijn accuracyscore tegen historische trends te maximaliseren.

Amazons engineers probeerden het model te „repareren” door het genderneutraal te maken en expliciet te programmeren om specifieke termen te negeren. Deep-learningmodellen zijn echter berucht bedreven in het vinden van proxyvariabelen . Zelfs als het woord „woman” wordt verwijderd, kan het model zich vastklampen aan linguïstische patronen—zoals het gebruik van specifieke werkwoorden, zinsstructuren of buitenschoolse activiteiten—die sterk correleren met gender. ⁶ Studies hebben bijvoorbeeld aangetoond dat mannelijke cv’s vaker agressieve werkwoorden gebruiken zoals „executed” of „captured”, terwijl vrouwelijke cv’s vaker gemeenschapsgericht taalgebruik hanteren. Het Black Box-model, dat een correlatie zag tussen „executed” en „hired”, reconstrueerde de genderbias effectief via linguïstische proxies. ²

Uiteindelijk schrapte Amazon de tool omdat ze niet konden garanderen dat die geen nieuwe manieren om te discrimineren zou leren. De „Black Box”-aard van het neurale netwerk betekende dat engineers de bias niet eenvoudig konden isoleren of chirurgisch verwijderen zonder het voorspellende vermogen van het model te vernietigen. ⁶

1.2 Het „Black Box”-probleem in deep learning

De Amazon-casus belicht het inherente gevaar van „Black Box”-modellen voor high-stakes beslissingen. In een diep neuraal netwerk is de beslissingslogica verdeeld over miljoenen (of miljarden) parameters. Invoerdata (het cv) wordt in het netwerk gevoerd, doorgegeven via verborgen lagen van niet-lineaire transformaties, en er wordt een outputscore gegenereerd.

1.2.1 Gebrek aan causaal redeneren

Cruciaal is dat deze modellen werken op correlatie, niet op causaliteit . Het model begrijpt niet waarom een kandidaat gekwalificeerd is. Het weet niet dat „Python” een programmeertaal is die nuttig is voor „Data Science.” Het weet alleen dat de string „Python” voorkwam in de cv’s van succesvolle kandidaten. Als „Lacrosse” ook frequent voorkwam in succesvolle cv’s (mogelijk door socio-economische correlaties), zou het model „Lacrosse” even zwaar kunnen wegen als „Python.” Dit gebrek aan causaal redeneren leidt tot schijncorrelaties en oneerlijke uitkomsten. ⁷

1.2.2 De transparantieparadox

Deze ondoorzichtigheid creëert een „transparantieparadox.” Om het model accurater te maken, maken engineers het vaak complexer (lagen toevoegen, parameters verhogen), waardoor het minder interpreteerbaar wordt. Toch eisen regelgevingen zoals de AVG (GDPR) en de EU AI Act uitlegbaarheid. Een recruiter kan een afwijzing niet uitleggen aan een kandidaat door te verwijzen naar „Neuron 4.502 vuurde met intensiteit 0,8.” Deze kloof tussen technische complexiteit en de wettelijke eis tot eenvoudige uitleg is de centrale crisis van moderne HR Tech. ⁸

1.3 De LLM-wrapper-val

In het kielzog van Generatieve AI zijn veel vendors overgestapt op Large Language Models (LLM’s) zoals GPT-4, Claude of Gemini als engine voor recruitment. Hoewel deze modellen linguïstisch superieur zijn aan oudere systemen, introduceren ze nieuwe risico’s wanneer ze als „Black Boxes” worden gebruikt.

●​ Hallucinatie : LLM’s zijn geneigd tot het „hallucineren” van feiten. Een LLM kan afleiden dat een kandidaat een specifieke certificering heeft puur omdat de toon van het cv professioneel klinkt, of het kan een skill-match verzinnen die niet bestaat. ⁷

●​ Stochasticiteit : LLM’s zijn niet-deterministisch. Als u hetzelfde cv twee keer in een LLM invoert, kunt u twee verschillende scores krijgen. In een auditscenario is deze inconsistentie fataal. Als een bedrijf de beslissingslogica die tot een hire of reject leidde niet kan reproduceren, zakt het voor de audit. ⁷

●​ Knowledge cutoffs : LLM’s zijn bevroren in de tijd op basis van hun trainingsdata. Ze herkennen mogelijk niet de nieuwste frameworks of technologieën die sinds hun laatste trainingsrun zijn verschenen, terwijl een live Knowledge Graph onmiddellijk kan worden bijgewerkt. ⁷

Het oordeel : Statistische AI (deep learning en LLM’s) is een uitstekend hulpmiddel voor het lezen en parsen van taal, maar een gevaarlijk hulpmiddel voor het beoordelen van menselijk potentieel. Voor beoordeling hebben we een deterministische, transparante en auditbare architectuur nodig. We hebben de Knowledge Graph nodig.

Deel II: De regulatorische belegering — waarom transparantie niet onderhandelbaar is

De overgang naar Explainable AI is niet langer alleen een ethische voorkeur; het is een wettelijke eis. Overheden wereldwijd richten barrières op tegen ondoorzichtige algoritmische besluitvorming.

2.1 NYC Local Law 144: de auditimperatief

New York City is pionier in de regulering van Automated Employment Decision Tools (AEDT’s). Sinds juli 2023 verplicht Local Law 144 dat elke werkgever die een AEDT gebruikt om kandidaten te screenen voor indiensttreding of promotie in NYC, dat hulpmiddel moet onderwerpen aan een jaarlijkse onafhankelijke bias-audit. ³

2.1.1 Specifieke vereiste metrics

De wet is zeer specifiek. Zij vereist de berekening van selectiepercentages en impactratio’s voor elke categorie van ras, etniciteit en geslacht. ⁹

●​ Selectiepercentage : Het aandeel kandidaten in een categorie (bijv. Hispanic Women) dat wordt geselecteerd om door te gaan naar de volgende fase.

●​ Impactratio : Het selectiepercentage van een beschermde groep gedeeld door het selectiepercentage van de meest geselecteerde groep. Als deze ratio onder 0,8 ligt (de „vier-vijfde-regel”), dient dat als een prima facie-indicator van disparate impact (bias). ¹⁰

2.1.2 De eis tot uitlegbaarheid

Hoewel LL 144 zich richt op uitkomsten, is de enige manier om een systeem dat een audit faalt te repareren is uitlegbaarheid. Als een Black Box-model een impactratio van 0,4 toont voor Black men, zit de werkgever vast. Zij kunnen niet zien waarom het model hen afwijst. Zijn het de universiteitsnamen? De zip codes? Het dialect? Zonder uitlegbaarheid wordt compliance een spel van blind gokken. De aanpak van Veriprajna zorgt ervoor dat, als een dispariteit wordt gevonden, de specifieke graafknopen die de dispariteit veroorzaken (bijv. een vereiste voor een specifieke, dure certificering) kunnen worden geïdentificeerd en aangepast. ¹¹

2.2 De EU AI Act: High-Risk-classificatie

De AI-verordening van de Europese Unie is ’s werelds eerste omvattende AI-wet. Zij categoriseert expliciet AI-systemen die worden gebruikt voor recruitment (specifiek gerichte vacatureadvertenties, het filteren van sollicitaties en het evalueren van kandidaten) als High-Risk-systemen. ⁴

2.2.1 Artikel 13: transparantie en interpreteerbaarheid

Hoog-risicosystemen moeten zo zijn ontworpen dat ze voldoende transparant zijn om gebruikers in staat te stellen de output van het systeem te interpreteren en passend te gebruiken. Het systeem moet „gebruiksaanwijzingen” bieden die de mogelijkheden en beperkingen van het systeem omvatten. ¹³ Een „Black Box”-score zonder rationale schendt dit beginsel. De gebruiker (recruiter) moet de logica van de aanbeveling begrijpen.

2.2.2 Artikel 14: menselijk toezicht

De verordening verplicht dat hoog-risicosystemen effectief menselijk toezicht toelaten. De mens moet in staat zijn „te besluiten het high-risk AI-systeem niet te gebruiken of anderszins de output te negeren, te overrulen of om te keren”. ¹⁴ Om een AI-beslissing intelligent te overrulen, moet de mens de beslissing begrijpen. De EKG van Veriprajna faciliteert dit door de recruiter precies te tonen welke skills ontbraken. De recruiter kan dan zeggen: „De AI wees deze kandidaat af wegens ontbrekende Skill X, maar ik zie dat ze ervaring Y hebben, wat een geldig substituut is,” en zo geïnformeerd toezicht uitoefenen. ¹⁵

2.3 AVG: het recht op uitleg

Onder de Algemene Verordening Gegevensbescherming (AVG/GDPR) is geautomatiseerde besluitvorming zwaar gereguleerd.

●​ Artikel 22 : Verleent individuen het recht om niet te worden onderworpen aan een beslissing die uitsluitend is gebaseerd op geautomatiseerde verwerking.

●​ Artikel 15(1)(h) : Verleent betrokkenen het recht op toegang tot „zinvolle informatie over de betrokken logica” bij geautomatiseerde beslissingen. ⁸

●​ Overweging 71 : Vermeldt expliciet het recht om „een uitleg van de genomen beslissing te verkrijgen.”

Een kandidaat een generieke afwijzingsmail sturen is juridisch riskant. Hen voorzien van een specifieke, datagedreven uitleg („De rol vereiste Python-vaardigheid; uw cv benadrukte Java en C++”) voldoet niet alleen aan de regelgeving, maar bouwt ook vertrouwen op en verlaagt het litigatierisico. ¹⁵

Deel III: De Veriprajna-oplossing — Explainable Knowledge Graphs (EKG)

Om aan deze regulatorische eisen te voldoen en het biasprobleem op te lossen, hanteert Veriprajna een „Glass Box”-architectuur, gecentreerd op de Enterprise Knowledge Graph (EKG) .

3.1 Wat is een Knowledge Graph?

Een Knowledge Graph is een gestructureerde representatie van feiten uit de echte wereld, gemodelleerd als een netwerk van nodes (entiteiten) en edges (relaties). ¹⁶ In tegenstelling tot een relationele database, die data opslaat in starre rijen en kolommen, slaat een graaf data op in een flexibel, onderling verbonden web dat het menselijk associatieve geheugen weerspiegelt.

3.1.1 De ontologie: het DNA van het systeem

In de kern van onze EKG zit een robuuste ontologie (of schema). Dit is de blauwdruk die definieert welke typen dingen in ons universum bestaan en hoe ze zich tot elkaar verhouden. ¹⁷

●​ Entiteiten (Nodes) : Person, Skill, Job Role, Company, University, Certification, Project.

●​ Relaties (Edges) : (:Person)-->(:Skill), (:Job Role)-->(:Skill), (:Skill A)-->(:Skill B), (:Skill X)-->(:Skill Y). ¹⁸

Deze ontologie stelt het systeem in staat semantisch te redeneren. Het weet dat „PyTorch” een library is voor „Deep Learning,” wat een subset is van „Artificial Intelligence.” Als een vacature dus „AI” vereist en een kandidaat „PyTorch” vermeldt, ziet de graaf een match, zelfs als het keyword „AI” ontbreekt. ¹⁹

3.2 De architectuur: scheiding van verantwoordelijkheden

Onze architectuur scheidt strikt perceptie (lezen) van redenering (denken).

3.2.1 Perceptielaag: LLM als de „lezer”

We gebruiken Large Language Models (LLM’s) uitsluitend voor informatie-extractie (IE) en Named Entity Recognition (NER). ²⁰ De LLM leest de ongestructureerde tekst van een cv of vacaturetekst en extraheert de entiteiten.

●​ Input : "I orchestrated a team of 5 developers to build a React native app."

●​ Extractie: Skill: React Native, Skill: Team Leadership, Context: Mobile Development. ​

De LLM neemt geen wervingsbeslissingen. Hij structureerde de data slechts tot nodes die in onze ontologie passen.21

3.2.2 Redeneerlaag: de graaf als de „rechter”

Zodra de entiteiten zijn geëxtraheerd, worden ze ingenomen in de Knowledge Graph. Alle matching-, scoring- en rankinglogica wordt uitgevoerd door de graaf te traversen. Deze logica is deterministisch: gegeven dezelfde graaf en dezelfde query is het resultaat elke keer identiek. ²² Dit lost het „stochasticiteit”-probleem van pure LLM’s op.

3.3 Demografische maskering: privacy by design

Een van de krachtigste kenmerken van graafarchitectuur is subgraph-filtering . Wanneer het matchingalgoritme draait, opereert het op een beperkte „view” of subgraph van de data. ²³

●​ De inference-graaf : Deze subgraph bevat Skills, Roles, ervaringsniveaus en Certifications. Hij sluit expliciet nodes uit die gerelateerd zijn aan naam, gender, etniciteit, adres en afstudeerdata (leeftijdsproxies).

●​ Het mechanisme : Omdat de nodes voor „Gender” niet bestaan in de inference-graaf, kunnen de padzoekalgoritmen ze eenvoudigweg niet gebruiken. Er is geen pad van „Candidate” naar „Gender” naar „Role.” De bias is structureel doorgesneden. ²⁴

Daarentegen neemt een deep-learningmodel de volledige ruwe tekst als input. Zelfs als u het veld „Gender” verwijdert, leest het model de tekst „Women's Chess Club” en leidt gender af. In onze graaf wordt „Women's Chess Club” door de LLM (tijdens de extractiefase) gemapt naar een geneutraliseerde node zoals (:Activity {type: "Strategy Club", role: "Leadership"}). De gendergerelateerde modificator wordt vóór binnenkomst in de redeneerengine gestript. ²⁴

Deel IV: De wiskunde van fairness — het berekenen van Skill Distance

De Veriprajna-engine „voorspelt” geen succes. Hij meet Skill Distance . Dit verplaatst recruitment van het rijk van subjectieve waarschijnlijkheid naar objectieve meetkunde.

4.1 Van Booleaans matching naar vectorruimte

Traditionele Applicant Tracking Systems (ATS) gebruiken Booleaanse logica: bevat het cv het keyword „Java”? (Ja/Nee). Dit is bros en mist talent. Wij gebruiken Graph Embeddings om een continue vectorruimte van skills te creëren. ²⁵

We zetten algoritmen zoals Node2Vec of GraphSAGE in om een vectorrepresentatie te leren voor elke node in onze ontologie.

●​ Twee skills die frequent in de graaf zijn verbonden (bijv. „Python” en „Pandas”) zullen vectoren hebben die in de multidimensionale ruimte zeer dicht bij elkaar liggen.

●​ Twee skills die ongerelateerd zijn (bijv. „Python” en „Phlebotomy”) zullen ver uit elkaar liggen.

4.2 Cosinusgelijkenis en gewogen scoring

Om een kandidaat te scoren tegen een vacaturetekst berekenen we de cosinusgelijkenis tussen de skill-vectorset van de kandidaat en de vereiste-vectorset van de vacature. ²⁷

Formule voor cosinusgelijkenis:

$$\text{Similarity}(\mathbf{A}, \mathbf{B}) = \frac{\mathbf{A} \cdot \mathbf{B}}{\|\mathbf{A}\| \|\mathbf{B}\|} = \frac{\sum_{i=1}^{n} A_i B_i}{\sqrt{\sum_{i=1}^{n} A_i^2} \sqrt{\sum_{i=1}^{n} B_i^2}}$$ Waarbij:

●​ $\mathbf{A}$ de vectorrepresentatie is van de skills van de kandidaat.

●​ $\mathbf{B}$ de vectorrepresentatie is van de vereisten van de vacature.

Deze aanpak maakt gedeeltelijke credit mogelijk. Een kandidaat die „Tableau” mist maar „PowerBI” bezit, krijgt een hoge gelijkenisscore omdat de twee nodes semantische buren zijn in het „Business Intelligence”-cluster van de graaf. ²⁸ Een keyword search zou hen een nul geven.

4.3 Jaccard-gelijkenis voor overlap

We gebruiken ook de Jaccard Similarity Coefficient als baselinemetric voor de ruwe overlap van expliciete skills. ²⁸

$$J(A, B) = \frac{|A \cap B|}{|A \cup B|}$$

Dit meet de grootte van de doorsnede gedeeld door de grootte van de unie. Hoewel minder genuanceerd dan vectorgelijkenis, levert het een transparante „dekkings”-score op (bijv. „Kandidaat dekt 70% van de verplichte vereisten”).

4.4 Geodetische afstand (kortste pad)

Voor „Gap Analysis” berekenen we het kortste pad (geodetische afstand) binnen de graaf- topologie. ²⁹

●​ Scenario : Vacature vereist Skill X . Kandidaat heeft Skill Y .

●​ Graph Query : Vind het kortste pad tussen Node Y en Node X.

●​ Resultaat : (Skill Y) -> (Parent Class) -> (Skill X). Distance = 2 hops.

●​ Interpretatie : Als de afstand klein is (bijv. < 3 hops), wordt de skill als „trainbaar” of

„overdraagbaar” beschouwd. Als de afstand groot is (bijv. > 6 hops), is het een „hard gat.”

De uiteindelijke Skill Distance Score is een samengestelde metric afgeleid van deze algoritmen. Hij vertegenwoordigt de „inspanning” die de kandidaat nodig heeft om aan de behoeften van de rol te voldoen. Dit is een puur competentiegerichte metric, volledig blind voor demografie.

Deel V: De „Glass Box” implementeren in de enterprise

Het adopteren van een EKG-architectuur transformeert de recruitmentworkflow. Hier is hoe Veriprajna dit systeem implementeert voor enterpriseklanten.

5.1 De hybride architectuur: feit versus dimensie

We gebruiken een mentaal model waarin de Knowledge Graph de feitentabel is en de LLM de dimensietabel . ³¹

Component	Rol	Functie	Betrouwbaarheid
Knowledge Graph	FEIT	Slaat expliciete relaties, hiërarchieën en regels op. (bijv. „Python is een taal”).	Hoog (gecurateerd, deterministisch)
LLM	INTERFACE	Verwerkt natuurlijke taalinvoer en synthetiseert outputs. (bijv., „Vat dit gat samen”).	Variabel (gegrond door graaf)
Graafalgoritmen	LOGICA	Voert de daadwerkelijke matching- en scoring- berekeningen uit.	Hoog (auditklaar)

5.2 De workflow: van cv naar beredeneerde beslissing

1.​ Inname & parsing :

○​ Kandidaat uploadt cv.

○​ LLM parst tekst en identificeert entiteiten (Skills, Roles, Dates).

○​ Normalisatie : „ReactJS” en „React.js” worden gemapt naar de enkele node ID:4921.

○​ Sanitisatie : Demografische termen worden gestript of gegeneraliseerd (bijv. „Women's Chess” $\to$ „Chess Club”).

2.​ Graafconstructie :

○​ Een tijdelijke „Candidate Node” wordt aangemaakt in de inference-graaf, verbonden met de geëxtraheerde Skill- en Role-nodes.

○​ Historische data (eerdere rollen) wordt gekoppeld aan de „Role Hierarchy” van de ontologie om senioriteit af te leiden.

3.​ Afstandsberekening :

○​ Het systeem voert de Skill Distance-algoritmen uit (Cosine + Jaccard + Shortest Path) tegen de Job Requisition-node.

○​ Er wordt een score gegenereerd (bijv. 92/100).

4.​ Generatie van uitlegbaarheid :

○​ Het systeem identificeert het „Waarom”:

■​ Directe matches : Python, SQL.

■​ Afgeleide matches : PyTorch (afgeleid uit Deep Learning-projecten).

■​ Gaten : Ontbrekend „Kubernetes” (Distance: 3 hops).

○​ De LLM genereert een mensleesbare samenvatting uitsluitend op basis van deze graaffeiten. ⁷

5.​ Audit & monitoring :

○​ De score en de geanonimiseerde kandidaat-ID worden naar de Audit Graph gestuurd.

○​ Hier worden ze weer samengevoegd met demografische data (indien verzameld) om realtime

impactratio’s te berekenen voor NYC LL 144-compliance. ⁹ Als een nadelige impact wordt gedetecteerd (bijv. een specifieke vereiste filtert te veel vrouwen eruit), waarschuwt het systeem HR om de vacaturetekst of de ontologiegewichten te herzien.

5.3 Casestudy: het probleem van de „ontbrekende SQL” oplossen

Beschouw een kandidaat die is afgewezen door een Black Box-AI.

●​ Black Box : Afwijzingsmail. Geen reden. (Mogelijke bias: kandidaat bezocht een kleine college).

●​ Veriprajna EKG : Het systeem voert uit: „Kandidaat mist expliciete SQL-ervaring. Echter,

graafanalyse toont uitgebreide ervaring met 'Pandas DataFrames' en 'R Dplyr'. Graafafstand tussen 'DataFrames' en 'SQL' is kort (concept: Data Manipulation). Aanbeveling: Interview (hoge overdraagbaarheid).”

Dit zet een „false negative” om in een „hire,” vergroot de talentpool en vermindert bias tegen niet-traditionele achtergronden.

Deel VI: Waarom dit ertoe doet — de ethische en business- case

De overgang naar Explainable Knowledge Graphs gaat niet alleen over het vermijden van boetes; het gaat over het bouwen van een beter bedrijf.

6.1 Het „Amazon-moment” vermijden

Amazons falen veroorzaakte aanzienlijke reputatieschade en verspilde jaren aan engineering- tijd. Door een architectuur te gebruiken die demografische data fysiek scheidt van beslissings- logica, isoleren Veriprajna-klanten zich van het risico van biasamplificatie . ¹ U kunt niet per ongeluk leren vrouwen te haten als „Woman” geen variabele is in uw redeneerengine.

6.2 De talentpool vergroten

Traditionele keyword matching (ATS) negeert capabele kandidaten die andere terminologie gebruiken. Black Box-AI over-indexeert vaak op „pedigree” (grote scholen, grote bedrijven) als proxies voor kwaliteit. De semantische matching van de EKG identificeert kandidaten die de skills hebben maar misschien niet de keywords of de pedigree . Dit verbetert van nature Diversity, Equity, and

Inclusion (DEI) door te focussen op competentie. ³²

6.3 Vertrouwen en adoptie

Recruiters haten „Black Boxes.” Zij vertrouwen geen machine die zegt „Neem deze persoon aan” zonder te zeggen waarom. Door een transparante, visuele en uitlegbare rationale te bieden (de „Glass Box”) verhoogt Veriprajna de adoptie onder hiring managers. Wanneer mensen de AI begrijpen, werken ze ermee, niet ertegen. ¹⁵

Conclusie: neemt uw AI talent aan, of herhaalt het de geschiedenis?

De les van Amazon is hard: data is een spiegel. Als u een model traint op het verleden, zult u het verleden repliceren. In een wereld die streeft naar equity is het repliceren van het verleden een faalconditie.

De toekomst van Enterprise AI gaat niet over grotere modellen of meer ondoorzichtige neurale netwerken. Het gaat over structuur, semantiek en uitlegbaarheid . Het gaat over het encoderen van onze waarden in de ontologie van onze systemen zelf.

Veriprajna biedt een pad vooruit. Wij bieden geen magische doos die raadt. Wij bieden een precisie-instrument dat meet. Door Explainable Knowledge Graphs in te zetten, stellen we ondernemingen in staat het ware terrein van talent in kaart te brengen—navigerend langs de sterren van skill en potentieel, in plaats van de vervormde kaarten van historisch vooroordeel.

De keuze is aan u: u kunt het verleden blijven voorspellen, of u kunt beginnen met het engineeren van de toekomst.

Technisch addendum: vergelijkende technologiematrix

De volgende tabel vat de structurele verschillen samen tussen de heersende markt- oplossingen en de Veriprajna-aanpak.

Kenmerk	Legacy ATS (Keyword Match)	„Black Box”-AI (Deep Learning)	Generatieve AI Wrapper (LLM)	Veriprajna EKG (Graph AI)
Kernlogica	Booleaanse string- matching	Statistische correlatie	Probabilistische token- generatie	Semantische graaf- traversie

Bias mechanisme	Keyword-bias (vocabulaire)	Bias- amplificatie (proxies)	Trainings- corpusbias	Structurele maskering
Uitlegbaarheid	Hoog (exacte miss)	Nul (Black Box)	Laag (hallucinatie- risico)	Hoog (pad- tracing)
Beslissings- consistentie	Hoog	Hoog	Laag (stochastisch)	Hoog (deterministi sch)
Regulatorische fit	Goed	Slecht (faalt Art. 13)	Slecht (faalt audit)	Uitstekend (native audit)
Omgaan met synoniemen	Faalt („React” $\neq$ „ReactJS”)	Goed	Goed	Perfect (entity- resolutie)
Nieuwe skill- adoptie	Handmatige update vereist	Vereist hertraining model	Beperkt door knowledge cutoff	Direct (node toevoegen)

Opgesteld door het Data Science & Ethics Team van Veriprajna.

Geraadpleegde bronnen

1. Amazon's sexist hiring algorithm could still be better than a human - IMD Business School, geraadpleegd op 11 december 2025, https://www.imd.org/research-knowledge/digital/articles/amazons-sexist-hiring-algorithm-could-still-be-beter-than-a-human/t

2. After three years, Amazon stopped using an AI-based hiring tool that discriminated against women | Privacy International, geraadpleegd op 11 december 2025, https://privacyinternational.org/examples/3085/afer-three-years-amazon-stoppetd-using-ai-based-hiring-tool-discriminated-against

3. Part 2 NYC Law 144 & EU AI Act: The Compliance Trap Catching Thousands of Companies, geraadpleegd op 11 december 2025, https://www.edligo.net/hr-tech-ai/series-ai-law-talent-part-2-nyc-law-144-eu-ai-act-the-compliance-trap-catching-thousands-of-companies/

4. EU AI Act: first regulation on artificial intelligence | Topics - European Parliament, geraadpleegd op 11 december 2025, https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

5. Amazon Scraps Secret AI Recruiting Tool that Showed Bias Against Women | Reuters, geraadpleegd op 11 december 2025, https://mediawell.ssrc.org/news-items/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-reuters/

6. Case Study: How Amazon's AI Recruiting Tool “Learnt” Gender Bias - Cut The SaaS, geraadpleegd op 11 december 2025, https://www.cut-the-saas.com/ai/case-study-how-amazons-ai-recruiting-tool-learnt-gender-bias

7. Why LLMs Fail and How Knowledge Graphs Save Them: The Complete Guide Medium, geraadpleegd op 11 december 2025, https://medium.com/@visrow/why-llms-fail-and-how-knowledge-graphs-save-them-the-complete-guide-6979a564c1b8

8. Black box algorithms and the rights of individuals: no easy solution to the “explainability” problem | Internet Policy Review, geraadpleegd op 11 december 2025, https://policyreview.info/articles/analysis/black-box-algorithms-and-rights-individuals-no-easy-solution-explainability

9. Workday & HiredScore's Focus on Compliance and Bias Mitigation, geraadpleegd op 11 december 2025, https://www.workday.com/en-us/legal/responsible-ai-and-bias-mitigation.html

10. NYC Local Law 144: Choose Your Auditor Wisely - DCI Consulting Blog, geraadpleegd op 11 december 2025, https://blog.dciconsult.com/nyc-ll-144-auditor

11. FairNow: NYC Bias Audit With Synthetic Data (NYC Local Law 144) - GOV.UK, geraadpleegd op 11 december 2025, https://www.gov.uk/ai-assurance-techniques/fairnow-nyc-bias-audit-with-synthetic-data-nyc-local-law-144

12. High-level summary of the AI Act | EU Artificial Intelligence Act, geraadpleegd op 11 december 2025, https://artificialintelligenceact.eu/high-level-summary/

13. The impact of the General Data Protection Regulation (GDPR) on artificial intelligence - European Parliament, geraadpleegd op 11 december 2025, https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641530/EPRS_STU(2020)641530_EN.pdf

14. EU AI Act HR Compliance: How HR Can Prepare - IRIS Software Group, geraadpleegd op 11 december 2025, https://www.irisglobal.com/blog/eu-ai-act-hr-compliance-guide/

15. Addressing Regulatory Requirements on Explanations for Automated Decisions with Provenance – A Case Study - ePrints Soton, geraadpleegd op 11 december 2025, https://eprints.soton.ac.uk/446156/1/dgov_ico_case_study_v3.pdf

16. Ontologies: Blueprints for Knowledge Graph Structures - FalkorDB, geraadpleegd op 11 december 2025, https://www.falkordb.com/blog/understanding-ontologies-knowledge-graph-schemas/

17. What's in a name? - ADP Research, geraadpleegd op 11 december 2025, https://www.adpresearch.com/skills-ontology-whats-in-a-name/

18. Graph data model - Memgraph, geraadpleegd op 11 december 2025, https://memgraph.com/docs/data-modeling/graph-data-model

19. From data to decisions: How Enterprise AI, powered by Knowledge Graphs, is redefining business intelligence - metaphacts Blog, geraadpleegd op 11 december 2025, https://blog.metaphacts.com/from-data-to-decisions-how-enterprise-ai-powered-by-knowledge-graphs-is-redefining-business-intelligence

20. HRGraph: Leveraging LLMs for HR Data Knowledge Graphs with Information Propagation-based Job Recommendation - arXiv, geraadpleegd op 11 december 2025, https://arxiv.org/html/2408.13521v1

21. Construction of a Person–Job Temporal Knowledge Graph Using Large Language Models, geraadpleegd op 11 december 2025, https://www.mdpi.com/2504-2289/9/11/287

22. How to Build a Knowledge Graph for LLMs - XenonStack, geraadpleegd op 11 december 2025, https://www.xenonstack.com/blog/llms-knowledge-graph-agentic-ai

23. (PDF) Graph-Based Privacy-Preserving Data Publication - ResearchGate, geraadpleegd op 11 december 2025, https://www.researchgate.net/publication/304670616_Graph-Based_Privacy-Preserving_Data_Publication

24. Strategies to Mitigate Demographic Biases in AI Prompts, geraadpleegd op 11 december 2025, https://whitebeardstrategies.com/blog/strategies-to-mitigate-demographic-biases-in-ai-prompts/

25. Measuring the distance between skills and occupations (A) Shows a... ResearchGate, geraadpleegd op 11 december 2025, https://www.researchgate.net/figure/Measuring-the-distance-between-skills-and-occupations-A-Shows-a-two-dimensional_fig1_353698286

26. Mitigating social bias in knowledge graph embeddings - Amazon Science, geraadpleegd op 11 december 2025, https://www.amazon.science/blog/mitigating-social-bias-in-knowledge-graph-embeddings

27. Node Similarity - Neo4j Graph Data Science, geraadpleegd op 11 december 2025, https://neo4j.com/docs/graph-data-science/current/algorithms/node-similarity/

28. Similarity functions - Neo4j Graph Data Science, geraadpleegd op 11 december 2025, https://neo4j.com/docs/graph-data-science/current/algorithms/similarity-functions/

29. Algorithms procedures — Neo4j Graph Data Science Python Client documentation, geraadpleegd op 11 december 2025, https://neo4j.com/docs/graph-data-science-client/current/api/algorithms/

30. 1 Using Graph Theory to Optimize Career Transitions - eScholarship, geraadpleegd op 11 december 2025, https://escholarship.org/content/qt4xx343nw/qt4xx343nw_noSplash_e9030d3c998ecb93c2b63dd0929ba9e4.pdf?t=rrk7bk

31. Knowledge Graphs + LLMs: A Potential Mental Model for AI Architecture - Forte Group, geraadpleegd op 11 december 2025, https://fortegrp.com/insights/knowledge-graphs-as-fact-tables-llms-as-dimensions-a-potential-mental-model-for-ai-architecture

32. Full article: Job relatedness, local skill coherence and economic performance: a job postings approach - Taylor & Francis Online, geraadpleegd op 11 december 2025, https://www.tandfonline.com/doi/full/10.1080/21681376.2025.2459148