AI-prijsnaleving en algoritmische rechtvaardigheid
Wanneer de Civil Investigative Demand (CID) arriveert, moet het antwoord een bestand zijn. Equity is een auditlaag voor prijsverdedigbaarheid die bovenop elk prijsalgoritme draait dat een retailer al gebruikt. Het speelt het eigen beslissingslogboek van het algoritme na, toetst elke prijsinput op weglekken van beschermde categorieën inclusief de samengestelde proxy's die controles per kenmerk niet kunnen zien. Het toetst de uitkomst aan de EEOC four-fifths rule (29 CFR 1607.4(D)) in deterministische code, meet wat de rechtvaardigheidsbeperking aan omzet kost, toont aan waarom de voor de hand liggende oplossing gemanipuleerd wordt en bezegelt het dossier in een met SHA-256 gehasht, aan regelgeving gekoppeld bewijspakket dat precies voor dat verzoek is gebouwd.
+26.2%
Hogere prijs voor het cohort met een meerderheid aan minderheden in de postcode en oude apparaten, dezelfde SKU
Cohortgemiddelden over 3,037 en 2,880 gesimuleerde synthetische beslissingen, overeenkomende vraagsignalen
0.43 to 0.82
EEOC four-fifths ratio, Fail naar Pass, na fairness-aware reward shaping
Tegen gemeten 1.3% omzetkosten op dit synthetische algoritme en scenario
0.73
Gezamenlijke wederzijdse informatie van een samengestelde proxy waarvan de twee componenten elk afzonderlijk slagen
Referral × Dwell Time; alleen het weglaten van postcode en apparaat faalt nog steeds bij de gate op 0.59
Elk democijfer op deze pagina is synthetisch en gesimuleerd met een seed. ShopMart Dynamic Pricing is een LinUCB contextuele bandit die we hebben gebouwd als plaatsvervanger voor het algoritme dat een klant zou draaien, de Aura Wireless Earbuds en de 10,000 shoppers zijn gegenereerd, en de proxystructuur is aangebracht zodat de audit iets echts heeft om te detecteren. Er is geen echte retailer geauditeerd en er is geen echte shopper te veel aangerekend.
Een General Counsel of Head of Pricing bij een e-commerceplatform met volumes in New York en California draait een dynamisch prijsalgoritme dat nooit ras of inkomen opneemt en toch kwetsbaar is, omdat het algoritme prijst op postcode, apparaatklasse en sessiegedrag, en elk daarvan een demografisch signaal draagt. Een contextuele bandit die omzet optimaliseert, vindt elke input die de bereidheid tot betalen voorspelt, inclusief de inputs die in werkelijkheid voorspellen wie de shopper is. Postcode voorspelt inkomen; inkomen voorspelt prijsgevoeligheid; een oude Android-telefoon voorspelt minder vergelijkend winkelen. Geen daarvan is ras. Ze bewegen er allemaal mee samen. Tegen de tijd dat de Civil Investigative Demand (CID) op de mat valt, besteedt een team dat niets hiervan heeft vastgelegd maanden aan reactieve forensische data-extractie.
De schikking van $60M van de FTC met Instacart over de Eversight-prijsexperimenten (FTC, December 2025) was een uitkomstgerichte actie. De klacht documenteerde dat aan verschillende shoppers verschillende prijzen werden getoond voor identieke artikelen, met verschillen tot 23%. Het was geen vaststelling van groepsdiscriminatie, en het hing niet af van wat het algoritme was verteld.
De Algorithmic Pricing Disclosure Act van New York, van kracht vanaf November 10, 2025, vereist duidelijke openbaarmaking wanneer persoonsgegevens een prijs beïnvloeden en kent een civielrechtelijke boete van maximaal $1,000 per overtreding. Colorado SB 24-205, van kracht vanaf June 30, 2026, behandelt prijsstelling als een besluit met aanzienlijke gevolgen dat een effectbeoordeling vereist.
De hoog-risicoverplichtingen van de EU AI Act zijn van toepassing vanaf August 2, 2026. EU AI Act (Articles 13 and 14) behandelen transparantie voor hoog risico en documentatie tegen discriminatie, en niet-naleving bij hoog risico brengt sancties met zich mee tot een wettelijk maximum van €15M of 3% van de wereldwijde omzet.
De pijplijn is één doorgang over het eigen beslissingslogboek van het algoritme: 10,000 prijsbeslissingen van het geauditeerde algoritme, een deterministische inputaudit, een four-fifths gate, een synthese van de rechtvaardigheidsbeperking vergeleken met een manipuleerbaar maximum, toelichting door agenten, een met SHA-256 gehasht bewijspakket en een gelabelde benchmark. Agenten adviseren, code beslist, en die scheiding zorgt ervoor dat het pakket juridisch bruikbaar blijft, ongeacht welk model eronder draait.
01 / HET GEAUDITEERDE ALGORITME
Het geauditeerde algoritme is ShopMart Dynamic Pricing, een 7-arm LinUCB contextuele bandit met seed=42, die één SKU prijst, de Aura Wireless Earbuds met een catalogusprijs van $79.00, voor een synthetisch gelabelde populatie van 10,000 shoppers. Het prijst op ZIP income index, device tier, referral, dwell time, cart size, repeat rate, session count, premium membership en hour, plus kruistermen van referral maal dwell time zoals veel echte algoritmen bevatten. Het beschermde cohort is een latent label dat de audit nooit ontvangt. In de demo is deze bandit het geauditeerde algoritme.
02 / DE DETERMINISTISCHE INPUTAUDIT
Run Audit berekent, in zuivere numpy, de absolute Pearson-correlatie van elke prijsinput ten opzichte van het beschermde cohort, de genormaliseerde wederzijdse informatie, een gezamenlijke wederzijdse informatie voor kenmerkparen en een contrafeitelijke prijsverschuiving: overschrijf één input voor het beschermde cohort met de referentiewaarde van het bevoordeelde cohort, houd al het overige constant, voer het eigen beleid van het algoritme opnieuw uit en meet hoever de prijs van het beschermde cohort verschuift. De oordeelsregels zijn code, gecontroleerd op volgorde: een input waarvan de effectieve steekproef onder 400 valt, wordt geretourneerd als Insufficient Evidence in plaats van een proxy-oordeel te krijgen, een regel die geen enkele input in deze run triggert; het loyaliteitssignaal voor tweeërlei gebruik met enige materiële associatie is een ABSTAIN die naar juridische toetsing wordt gestuurd voordat de schendingstest draait; een absolute correlatie van ten minste 0.30 of een wederzijdse informatie van ten minste 0.05 is een VIOLATION; een correlatie van 0.20 tot 0.30 is een ABSTAIN; al het overige is een PASS. Voor elke andere input bevestigt de contrafeitelijke berekening en triggert nooit zelfstandig een oordeel; alleen voor het loyaliteitssignaal telt een materiële contrafeitelijke verschuiving mee voor de ABSTAIN.
03 / DE GATE EN DE BEPERKING
De Disparate-Impact Gate past de EEOC four-fifths rule (29 CFR 1607.4(D)) toe, aangepast aan prijsklassen: het percentage van het beschermde cohort dat de gunstige prijsklasse ontvangt gedeeld door dat van het bevoordeelde cohort, getoetst aan een drempel van 0.80. Remediation synthetiseert vervolgens Fairness-Aware Reward Shaping, dat elke prijs continu naar een proxyvrije referentieprijs trekt van een tweede bandit die is getraind zonder de vier proxy-inputs, en zoekt binair naar het kleinste trekgewicht dat 0.80 haalt. Dit wordt getoond naast een Hard-Cap Baseline op 115% van de eerlijke prijs, de naïeve oplossing, waarbij voor beide de manipulatie-handtekening wordt gemeten.
04 / HET TEAM EN HET PAKKET
Een Feature Auditor verklaart elke gemarkeerde input en een Adversarial Challenger bepleit waarom de onthouden input als een legitiem signaal behandeld moet worden; de rol van Regulatory Mapper is een vaste tabel die elke VIOLATION koppelt aan vijf stelsels en de ABSTAIN aan één enkele juridische controlelijn. Het team is per provider uitwisselbaar, valt terug op deterministische sjablonen wanneer er geen modelprovider is geconfigureerd zodat de app identiek functioneert, en kan geen getal berekenen of oordeel vaststellen. Evidence Pack verzegelt de naam en versie van het algoritme, de geauditeerde populatie, de gate, elke bevinding met de bijbehorende motivering, de regelgevingskoppeling, het herstelresultaat en de samenvatting van de toelichting in JSON plus een afdrukbaar HTML-pakket, met een SHA-256-digest van de body van het pakket als verzegeling tegen manipulatie.
De console bestaat uit twee weergaven plus dialoogvensters. De handmatige weergave bevat de kaart Pricing Outcome Comparison en een activiteitenpaneel dat elke fase streamt; elk resultaat opent als een dialoogvenster met de titel Audit Results, Remediation Results of Evidence Pack Results, en Remediation en Evidence Pack blijven uitgeschakeld totdat Run Audit is voltooid. Run Benchmark schakelt over naar een afzonderlijke weergave Benchmark Results. About Demo vermeldt de grenzen van het scenario op het scherm: een synthetisch algoritme met bekende werkelijkheid, waarvan de resultaten de methode aantonen en geen bewijs zijn van in de praktijk gevalideerde intentie. Elk getal hieronder bevindt zich binnen die grenzen.
De demo auditeert 10,000 gesimuleerde synthetische prijsbeslissingen voor één SKU. Wat volgt is wat de run op het scherm toont, in de volgorde waarin het verschijnt.
De bovenstaande cijfers zijn afkomstig van één gesimuleerde synthetische populatie van 10,000 prijsbeslissingen voor één SKU met een aangebrachte, reproduceerbare proxystructuur. De cijfers tonen aan dat de methode aangebrachte structuren terughaalt met de nauwkeurigheid van een gelabelde set. Het is geen nauwkeurigheidspercentage op basis van echte prijsgegevens, geen benchmark tegen concurrenten en geen bewering over een echte retailer.
| Vraag | Wat Equity doet in deze demo | Wat buiten de demo blijft |
|---|---|---|
| Integratie | Auditeert de LinUCB-bandit die de demo-app bevat als plaatsvervangend algoritme, en is zo ontworpen dat het algoritme van een klant kan worden ingewisseld achter een adapter. | Enige adaptercode of live koppeling met een prijsplatform. Niets daarvan bestaat in deze build, en geen enkele genoemde leverancier is klant of partner. |
| Demografische gegevens | Leest een samengestelde referentietabel van tien postcodes in New York en California en een vastgelegde apparaatverdeling die in de app is ingebouwd. | Een live census-feed of gegevensfeed over apparaatbezit. De tabel is beknopt en handmatig samengesteld, en het beschermde cohort is een aangebracht label. |
| Bevindingen | Detecteert de aangebrachte proxystructuur en registreert het oordeel over elke input met de bijbehorende motivering in het pakket. | Bewijs van daadwerkelijke discriminatie of opzet; het systeem velt geen oordeel over opzet. |
Equity stelt geen prijs vast voor enige klant en vervangt Pricefx, PROS, Zilliant of Competera niet; het algoritme bepaalt de prijzen, Equity auditeert en legt restricties op. Het certificeert geen compliance, garandeert geen goedkeuring en geeft geen juridisch advies; het pakket is bewijsmateriaal voor de raadsman van de klant. De build omvat één SKU en het disparate-impact-traject van audit tot bewijspakket; algoritmische collusie, middleware voor openbaarmaking in meerdere jurisdicties, streaming monitoring en een checkout-oppervlak vallen erbuiten. De profielen van South Bronx en Upper East Side op de kaart Pricing Outcome Comparison zijn representatieve labels voor cohorten met meerdere postcodes en apparaten, geen beweringen over een daadwerkelijke wijk.
Omdat het algoritme ras of inkomen niet hoeft te zien om ernaar te prijzen. In de demo prijst het geauditeerde algoritme op ZIP income index, device tier en sessiegedrag, en die inputs dragen de beschermde categorie: ZIP income index correleert ermee met 0.95 en device tier met 0.32. Het resultaat op de gesimuleerde synthetische populatie is een 26.2% hogere prijs voor het cohort met een meerderheid aan minderheden in de postcode en oude apparaten voor dezelfde oordopjes bij overeenkomende vraagsignalen, en een four-fifths ratio van 0.43 tegenover de drempelwaarde van 0.80. De FTC-zaak tegen Instacart was een uitkomstgerichte actie over verschillende shoppers die verschillende prijzen te zien kregen voor identieke artikelen, geen bevinding over wat het algoritme was verteld.
Bij dit algoritme niet. De Fairness Through Unawareness-baseline in de benchmark traint opnieuw zonder de postcode- en apparaatinputs, en de four-fifths ratio stijgt slechts van 0.43 naar 0.59, nog steeds een onvoldoende. Hoe de shopper binnenkwam en hoe lang deze bleef hangen slagen elk afzonderlijk, maar coderen gezamenlijk het cohort met een wederzijdse informatie van 0.73. Correlatie per afzonderlijk kenmerk is blind voor dat paar; een gezamenlijke wederzijdse-informatiecontrole is dat niet, en daarom scoort de audit zowel interacties als afzonderlijke inputs.
Dat kan, en de demo laat zien wat een omzetmaximalisator daarmee doet. De Hard-Cap Baseline verbiedt elke prijs boven 115% van de eerlijke referentieprijs. Het algoritme levert 0.2% van de omzet in om aan de letter van de regel te voldoen en plaatst 29% van het beschermde cohort binnen 1% van het maximum, waardoor de four-fifths ratio slechts 0.59 bereikt en de gate alsnog faalt. Een limiet is een doelwit. Fairness-Aware Reward Shaping heeft geen grens om op te mikken en slaagt op 0.82 voor 1.3% omzetkosten op dit synthetische algoritme.
Nee. Equity stelt nooit een prijs vast. Het auditeert de beslissingen van het algoritme en stelt een restrictie voor; uw algoritme, of het nu Pricefx, PROS, Zilliant, Competera of een maatwerk-bandit is, blijft de prijsstelling uitvoeren. Het aansluitpunt voor het algoritme van een klant is een gedocumenteerd uitwisselpunt; in de demo is er geen adaptercode en geen live integratie, dus de LinUCB-bandit die we hebben gebouwd is het algoritme en wordt direct geauditeerd.
Niets wat een advocaat zou moeten verdedigen is modeluitvoer: de statistieken, de drempelwaardevergelijking, elk oordeel, de restrictie en de pack-hash zijn allemaal afkomstig van deterministische numpy-code buiten de agentlaag. De Feature Auditor en Adversarial Challenger schrijven proza; ze berekenen nooit een getal en kunnen geen oordeel bepalen of wijzigen, en de regelgevingskoppeling is een vaste tabel in plaats van modeluitvoer. Zonder modelprovider valt het team terug op deterministische sjablonen en produceert de applicatie dezelfde oordelen. De gesproken toelichting in de opgenomen walkthrough is een gevalideerde, gecachete modeluitvoer, en de header van het pakket vermeldt dat expliciet.
Een CID-klaar bewijspakket als JSON en afdrukbare HTML. Het registreert de naam en versie van het algoritme, de 10,000 geauditeerde beslissingen, de four-fifths gate voor en na herstel, het oordeel over elke input inclusief de motivering, de koppeling van elke gemarkeerde input aan de EEOC four-fifths rule (29 CFR 1607.4(D)), de Algorithmic Pricing Disclosure Act van New York, Colorado SB 24-205, EU AI Act (Articles 13 and 14) en FTC Act Section 5, het herstelresultaat en een SHA-256-digest van de body van het pakket. Wij leveren het bewijsmateriaal; uw juridische team neemt de beslissing.
Het is een zelfcontrole op een gelabelde set, en zo moet het ook worden gelezen. De benchmark regenereert de gesimuleerde synthetische populatie van 10,000 beslissingen uit de demo en stelt één vraag: heeft de audit de drie proxy's gevonden die we hebben geplaatst en verder niets? Dat deed het. Alle drie werden gemarkeerd, geen van de vier legitieme vraagsignalen werd gemarkeerd, en bij het ene dual-use-signaal werd een ABSTAIN gegeven in plaats van gemarkeerd of Cleared. Dat toont aan dat de methode geplaatste structuren terughaalt. Echte prijslogboeken bevatten verstorende variabelen, en u kunt niet ethisch verantwoord A/B-testen door verschillende demografische groepen verschillende prijzen te rekenen, dus bij een praktijkopdracht levert dezelfde machinerie bewijsmateriaal voor juridische toetsing, nooit een geautomatiseerd oordeel.
Het onderzoek achter deze demo — de architectuur, het verificatieontwerp en de enterprise-blauwdruk.
Volledige oplossing
Verken de oplossing AI Pricing Compliance & Algorithmic Fairness →Wij zijn een AI-engineeringteam, geen prijsstellingsleverancier en geen compliance-certificeerder. We beginnen bij het eigen beslissingslogboek van uw algoritme en eindigen bij een pakket dat uw bedrijfsjurist kan indienen; het oordeel over wat het aantoont blijft bij hen.
Een nuttig eerste gesprek is concreet: welk algoritme uw catalogus prijst, welke inputs het ziet, of het kruistermen of beslissingsbomen bevat die op een samengestelde proxy zouden kunnen prijzen, en welke regio's van New York, California, Colorado of de EU uw volume raakt. We kunnen de audit, de synthese van restricties en het format van het bewijspakket doorlopen samen met uw prijs-, juridische en datateams.
