We bouwden een nepreview-detector die perfect werkte — tot iemand hem door BypassGPT haalde

Het eerste wat mijn vertrouwen ondermijnde, was geen nepreview. Het was een prijslijst.

Een tussenpersoon op een Telegram-kanaal — een van de openbare, ruim 13.000 leden, geen wachtwoord, geen schijnvertoning — had een menukaart geplaatst. Vijftig cent voor een upvote. Vijf dollar voor een review van een account met een "Verified Purchase"-badge. Volumekortingen. De aangeboden accounts waren geen vers aangemaakte wegwerpprofielen die een spamfilter met gemak zou onderscheppen; ze waren twee, drie, vier jaar oud, met echte aankoopgeschiedenissen en het soort onregelmatige activiteit dat een mens achterlaat. Ik had weken doorgebracht in de veronderstelling dat detectie van nepreviews een lastig machine-learningprobleem was. Terwijl ik naar die menukaart staarde, begreep ik dat het een lastig machine-learningprobleem was dat de andere kant beter financierde dan de meeste merken die het doelwit waren.

Dat was het moment waarop ik nepreviews niet langer als slechte tekst ging zien, maar als een gecoördineerde economie. Alles wat we uiteindelijk bij Veriprajna hebben gebouwd — en alles wat ik eerst verkeerd had — vloeide voort uit die verschuiving.

Fraude hield op een kwaliteitsprobleem te zijn op de dag dat het een geprijsd handelsartikel werd. Je kunt een markt niet wegfilteren.

Een aanval met 47 reviews die door elke tool heen komt die je bezit

Laat me beschrijven hoe een moderne aanval er werkelijk uitziet, want de kloof tussen hoe mensen zich nepreviews voorstellen en hoe ze echt werken, is grotendeels de reden waarom bestaande tools falen.

Een concurrent wil je product begraven. Ze huren een tussenpersoon in via een van die Telegram-groepen. De tussenpersoon beheert een stal oude, gekaapte accounts en zet ze in tegen één enkele listing. In de loop van 72 uur landen er 47 vijfsterrenreviews op het concurrerende product — dat van jou blijft schoon, dat van hen stijgt. De reviewtekst is geschreven door GPT-4 en daarna door een tool als BypassGPT gehaald om de op perplexiteit gebaseerde detectoren te verslaan die op zoek zijn naar "te vloeiende" machinetekst. Elke review noemt een specifieke productfunctie die uit de eigen Q&A-sectie van de listing is geschraapt. De plaatsingstijden zijn gespreid over drie tijdzones, zodat er niets clustert.

Elke afzonderlijke review ziet er legitiem uit. Ze komen door de contentfilters van de grote reviewplatforms. Ze komen door GPTZero. De accounts zijn oud genoeg om elke "nieuw account"-heuristiek te ontwijken. Je merkbeschermingsteam merkt niets — totdat je cijfers verschuiven, en dat doen ze: een extra frauduleuze ster kan de vraag naar een concurrent met 38% verhogen, en nepnegatieve reviews kunnen de omzet van een doelwit met wel een kwart verlagen, terwijl jouw gemiddelde beoordeling de schade stilletjes opvangt.

Dit is geen gedachte-experiment. Amazon diende in juli 2024 samen met de Better Business Bureau zijn eerste gezamenlijke rechtszaak in tegen de reviewtussenpersoon ReviewServiceUSA.com. Trustpilot verwijderde in 2024 4,5 miljoen nepreviews — 7,4% van alles wat werd ingediend, tegenover 6,1% het jaar daarvoor. Tripadvisor onderschepte 2,7 miljoen frauduleuze inzendingen, waarvan sommige door AI gegenereerde accommodatiefoto's waren die "spookhotels" creëerden die reizigers daadwerkelijk boekten om vervolgens voor een leeg terrein te staan. De schaal is niet marginaal. Onderzoekers schatten dat ongeveer 30% van de online reviews nep is, wat Amerikaanse bedrijven volgens het World Economic Forum jaarlijks zo'n $152 miljard kost.

Dat is dus het probleem waarvan ik dacht dat ik het begreep. En hier had ik het mis.

De detector die perfect werkte, tot hij dat niet meer deed

Onze eerste versie was een tekstclassifier. Hij las reviewtekst en gaf een score voor hoe waarschijnlijk het was dat die machinaal was gegenereerd. Dit is het voor de hand liggende ding om te bouwen, en ik wil eerlijk zijn: ik steunde het. Het demonstreerde prachtig. Op onze testset ving hij door AI geschreven reviews met het soort nauwkeurigheid dat je in gedachten alvast de lanceringspost laat opstellen.

Toen lieten we hem los op reviews die door een humanizer waren gehaald.

Er zijn nu meer dan 30 van dit soort tools — BypassGPT, Undetectable.ai, StealthWriter, Humanize AI, en een dozijn andere. Ze nemen machinaal gegenereerde tekst en schuren die net genoeg op om een detector te breken: ze verwijderen de verraderlijke komma's, voegen verbindingswoorden in en vervangen de woordenschat die classifiers leren te associëren met GPT-output. Onze nauwkeurigheid nam niet geleidelijk af. Ze stortte in. De reviews die we met hoge zekerheid vingen, gleden nu moeiteloos door als "lijkt menselijk".

Ik herinner me de discussie die volgde. De helft van het team wilde blijven bijstellen — meer trainingsdata, vijandige voorbeelden, de humanizers achtervolgen. Het is een begrijpelijke reflex en het is een valkuil. Ik had het onderzoek bekeken: van de meer dan 30 humanizer-tools die iemand had getest, produceerden er slechts 13 betrouwbaar tekst die de beste detectoren voor de gek hield. De beste tekstclassifier in zijn klasse, Originality.ai, vangt de meeste ervan nog steeds. Maar "de meeste" is de verkeerde lat wanneer een aanvaller een review door vijf humanizers kan halen en degene indient die het schoonst scoort. Een detector die alleen op tekst werkt, zit in een hardloopwedstrijd die hij structureel al heeft verloren.

Een detector met één signaal is geen zwakke detector. Het is een detector waarvan je de aanvaller precies hebt verteld hoe hij hem kan verslaan.

Het diepere probleem was er een dat ik had moeten zien op de dag dat ik die Telegram-prijslijst las. Een deel van de schadelijkste fraude is helemaal niet door AI geschreven. Wanneer een tussenpersoon een netwerk van echte mensen betaalt om te plaatsen — betaalde mensen, de moderne versie van de oude Mechanical Turk-farm — de tekst is werkelijk menselijk. Er is geen taalkundig kenmerk te vinden, omdat er geen machine in het spel is. Een tekstclassifier die naar een betaalde review van een echt persoon kijkt, ziet niets verkeerds, want op het niveau van taal is er niets verkeerd. En de asymmetrie groeit aan beide kanten — begin 2026 gaf 23% van de reviewschrijvers toe minstens af en toe AI te gebruiken, terwijl slechts 31% van de consumenten er zeker van was dat ze een door AI geschreven review konden herkennen.

Toen gooiden we het tekstmodel eruit als middelpunt. Niet helemaal eruit — het is nog steeds een signaal — maar het was niet langer hét signaal.

Wat vangt een gecoördineerde campagne nu echt?

De herkadering die het project redde: een afzonderlijke nepreview is bijna onmogelijk te vangen, maar een campagne laat vingerafdrukken achter die de afzonderlijke reviews niet achterlaten.

Die 47 reviews hebben iets gemeen, zelfs als elke afzonderlijke schoon is. Ze arriveren in een stortvloed. Ze verwijzen naar dezelfde geschraapte functie. De accounts die ze plaatsten, lichten — wanneer je de relaties tussen verkopers, reviewers en producten in kaart brengt — op als een cluster dat niet op natuurlijke wijze voorkomt: dezelfde set accounts die dezelfde smalle set producten in hetzelfde tijdvenster beoordeelt. Dit is waarom de platforms die fraude serieus nemen, zijn overgestapt op grafiekmethoden: de stack van Amazon draait diepe grafische neurale netwerken over het netwerk van verkoper, reviewer en product, juist omdat de netwerkstructuur coördinatie verraadt die de tekst nooit zal prijsgeven. Wij bouwden in dezelfde richting — door gedragssignalen (hoe een account zich in de loop van de tijd gedraagt), temporele signalen (wanneer reviews ten opzichte van elkaar arriveren) en relationele signalen (wie met wie verbonden is) samen te voegen bovenop de taalkundige laag.

Geen van die signalen is op zichzelf voldoende. Een stortvloed kan een echt viraal moment zijn. Een cluster kan een echte fangemeenschap zijn. Maar de combinatie — een stortvloed van functie-schrapende tekst, afkomstig van een relationeel verdacht cluster, met gespreide timing die zo is ontworpen dat ze ongespreid lijkt — is de signatuur van een betaalde campagne, en die overleeft de humanizer, omdat de humanizer alleen de woorden herschrijft.

Dezelfde logica geldt voor afbeeldingen, wat het grensgebied is dat niemand netjes heeft opgelost. Spookhotels en verzonnen productfoto's verspreiden zich omdat het genereren van AI-afbeeldingen goedkoop is geworden — en voor een horecamerk zijn de belangen niet abstract: McAfee schatte de verliezen door AI-gedreven reisoplichting op zo'n $13 miljard in 2025, ongeveer duizend dollar per slachtoffer, waarvan veel liep via listings die er echt uitzagen tot aan de incheck. Er is een standaard voor contentherkomst, C2PA, die een afbeelding bij de opname cryptografisch ondertekent — Samsungs Galaxy S25 werd de eerste consumententelefoon die foto's van nature ondertekent, en 2026 is werkelijk een keerpunt voor dat ecosysteem. Maar hier is de operationele valkuil waarvoor ik elk merk zou waarschuwen: platforms strippen de metadata tijdens de beeldverwerking. De verklaring die bewijst dat een foto echt is, wordt gewist op het moment dat die wordt geüpload naar de marktplaats waar het er het meest toe doet. Herkomst is een echt hulpmiddel met een echt gat erin voor e-commerce, en doen alsof dat niet zo is, verkoopt een merk valse geruststelling.

Waarom hebben de tools van de platforms dit niet al opgelost?

Dit is de vraag die ik het vaakst krijg, en het is een terechte vraag. Amazon geeft jaarlijks meer dan $500 miljoen uit en heeft 8.000 mensen die aan nepreviews werken. Het blokkeerde er in 2024 meer dan 275 miljoen. Waarom zou iemand nog iets moeten bouwen?

Omdat de platforms hun oorlog voeren, niet die van jou. Amazon beschermt Amazon — en zelfs bij die uitgaven zegt 49% van de Amerikaanse consumenten er zeker van te zijn dat ze daar nepreviews hebben gezien. De reviewbeheerplatforms hebben dezelfde grens, maar dan andersom getrokken. Bazaarvoice draait meer dan 1.000 fraudedetectieregels over 2,3 miljard winkelsessies per maand, en het is er echt goed in — binnen zijn eigen netwerk. Een nepreview over jouw product die op Amazon staat, is voor Bazaarvoice simpelweg onzichtbaar. Erger nog, syndicatie snijdt aan twee kanten: een nepreview die door Bazaarvoice's opname komt, kan zich binnen 48 uur over meer dan 50 retailersites verspreiden, wat betekent dat het herstel bij de bronknoop moet plaatsvinden, en niet als een spelletje mollen-slaan op elke stroomafwaartse listing.

De tekstdetectoren hebben hun eigen plafond — ze zijn één signaal, zoals ik op de harde manier heb geleerd. De auditdiensten zoals The Transparency Company doen dagelijkse controles en dienen geschillen in, maar ze zijn afgestemd op bekende patronen en worstelen met de op maat gemaakte tussenpersoontactieken die zich specifiek aanpassen om ze te ontwijken. En de enige tool die consumenten daadwerkelijk vertrouwden om dit voor hen te controleren, Fakespot, sloot in juli 2025 na negen jaar de deuren — Mozilla kon geen duurzaam model vinden. Het vangnet werd kleiner net toen de aanvallen beter werden.

Geen enkele leverancier bewaakt het hele veld waar jouw merk leeft. Ze bewaken elk hun eigen erf, en de fraude leeft in de straat ertussen.

Die kloof — platformoverschrijdend, aan de merkzijde, met samengevoegde signalen — is wat we wilden innemen. Niet om de platforms te vervangen, maar om een merk één blik te geven over Amazon, Google, Yelp, Trustpilot en Tripadvisor tegelijk, met detectie opgebouwd rond zijn productcategorie in plaats van een generieke regelset. Daarvoor is het systeem voor beoordelingsintegriteit en synthetische-contentdetectie dat we hebben gebouwd bedoeld.

De klant die geen schonere reviewpagina wilde

Ik had detectienauwkeurigheid gepitcht — recall, precisie, hoeveel nepreviews we zouden vangen. Toen had ik een gesprek met een verantwoordelijke voor merkbescherming die het hele product in ongeveer twee minuten voor me herkaderde.

Ze begon niet met nauwkeurigheid. Ze vroeg wat we aan de FTC konden overhandigen.

In oktober 2024 trad de Consumer Reviews and Testimonials Rule van de FTC in werking, en die deed iets subtielers dan "nepreviews zijn verboden". Ze creëerde een "had het moeten weten" standaard. Als er nepreviews op je listings staan en je geen redelijk proces hebt om ze te detecteren en erop te reageren, is de afwezigheid van een detectiesysteem op zich de overtreding. De boete bedraagt $53.088 per overtreding, gecorrigeerd voor inflatie per januari 2025, en elke dag dat een overtreding voortduurt, telt afzonderlijk. Een gecoördineerde campagne van 100 nepreviews die onaangepakt blijft, betekent $5,3 miljoen aan blootstelling. De FTC stuurde in december 2025 haar eerste waarschuwingsbrieven onder de regel naar 10 bedrijven, dus dit hield ongeveer een jaar geleden op theoretisch te zijn.

En het gaat niet alleen om Amerikaanse merken. De Britse Competition and Markets Authority opende in maart 2026 vijf onderzoeken onder de nieuwe Digital Markets, Competition and Consumers Act, met boetes tot 10% van de wereldwijde omzet. Artikel 50 van de EU AI Act, dat machineleesbare openbaarmaking van door AI gegenereerde content vereist, treedt in augustus 2026 in werking. Californiës SB 942 voegde in januari 2026 openbaarmakingsvereisten voor AI-content toe. De regelgevende ondergrens verschoof onder elk merk tegelijk.

Wat die verantwoordelijke me leerde, is dat detectie noodzakelijk maar niet voldoende is. Wat een gereguleerd merk werkelijk nodig heeft als resultaat, is bewijs van gepaste zorgvuldigheid — een auditlogboek dat aantoont dat er een redelijk detectie-en-responsproces bestond en heeft gedraaid, ongeacht welke afzonderlijke nepreview er doorheen is geglipt. Dat kun je vandaag niet kant-en-klaar kopen; de platforms geven je hun detectiegegevens niet, en de puntoplossingen genereren geen records van compliancekwaliteit. Daarom hebben we het systeem gebouwd om dat spoor als een eersteklas output te produceren, niet als bijzaak. Het verdedigbare bewijsstuk onder een "had het moeten weten"-regel is geen vlekkeloze reviewpagina — het is het gedocumenteerde bewijs dat je aan het zoeken was.

Moet een merk dit bouwen, kopen of wachten op de platforms?

Mensen vragen me of ze niet gewoon kunnen wachten tot de platforms de achterstand inhalen. Mijn eerlijke antwoord: de platforms rennen zo hard als ze kunnen aan een probleem dat ze hebben gedefinieerd als het beschermen van zichzelf, en de regelgevingsklok tikt nu voor jou, afzonderlijk. Wachten is een standpunt, en na oktober 2024 is het een standpunt met een dollarbedrag eraan gekoppeld.

De tweede vraag is meestal of ze dit intern kunnen bouwen. Dat kan — maar kijk eens wat serieuze interne programma's kosten. Amazons operatie van een half miljard dollar en 8.000 mensen is de maatstaf voor wat er nodig is om dit op schaal te doen, en de meeste merken zetten dat niet op om hun eigen listings over vijf marktplaatsen te bewaken. De realistische opties zijn een op maat gemaakt systeem afgestemd op jouw categorie, of een stapel gedeeltelijke tools die je aan elkaar naait en waarvan je hoopt dat ze overlappen. De grote adviesbureaus verkopen je dat laatste, verpakt in een raamwerk, zes tot twaalf maanden voordat er daadwerkelijk technologie draait.

Het derde punt dat ze aankaarten, is de wapenwedloop — als humanizers zich blijven verbeteren, is elke detector dan niet tijdelijk? Het is de juiste zorg, en het is precies waarom het antwoord geen tekstclassifier kan zijn. Een systeem met meerdere signalen gaat langzaam achteruit wanneer één signaal wordt aangevallen, omdat de aanvaller gedrag, timing en netwerkstructuur tegelijk moet verslaan, en niet alleen woorden hoeft te herschrijven. Je wint een wapenwedloop niet door een beter geweer te hebben. Je wint hem door de aanval meer te laten kosten dan de opbrengst. Wanneer fraude vijftig cent per upvote kost, is het verhogen van de kosten van een succesvolle campagne het hele spel.

De Telegram-prijslijst leerde me iets voordat welk model dan ook dat deed, en het is datgene waar ik telkens op terugkom. De andere kant behandelt dit als een bedrijf met een winst-en-verliesrekening. Jarenlang behandelden merken het als een ergernis die weggefilterd moest worden. De merken die dit decennium met hun beoordelingen intact doorkomen, zullen degene zijn die hun reviewecosysteem zijn gaan behandelen zoals de aanvallers dat al doen — als betwiste infrastructuur die bewust het verdedigen waard is. Dat is de verschuiving die ik als eerste zou maken, en het is degene die het systeem dat we hebben gebouwd vanaf de eerste regel code aanneemt.

Een nepreview die je nooit vangt, kost je een verkoop. Een detectiesysteem dat je nooit hebt gebouwd, kost je na oktober 2024 $53.088 per dag. Dat zijn niet dezelfde problemen, en het tweede is het probleem dat de meeste merken nog niet hebben ingeprijsd.