Nous avons conçu un détecteur de faux avis parfait — jusqu'à ce qu'on le passe par BypassGPT
La première chose qui a ébranlé ma confiance n'était pas un faux avis. C'était une liste de prix.
Un courtier sur un canal Telegram — l'un des canaux ouverts, plus de 13 000 membres, sans mot de passe, sans faux-semblant — avait publié un menu. Cinquante centimes le vote positif. Cinq dollars pour un avis provenant d'un compte doté d'un badge « Achat vérifié ». Remises sur volume. Les comptes proposés n'étaient pas des profils jetables fraîchement créés qu'un filtre anti-spam pourrait repérer les yeux fermés ; ils avaient deux, trois, quatre ans d'ancienneté, avec de véritables historiques d'achat et le genre d'activité irrégulière qu'un humain laisse derrière lui. J'avais passé des semaines à supposer que la détection des faux avis était un problème d'apprentissage automatique difficile. En fixant ce menu, j'ai compris qu'il s'agissait d'un problème d'apprentissage automatique difficile que le camp adverse finançait mieux que la plupart des marques qu'il visait.
C'est à ce moment-là que j'ai cessé de considérer les faux avis comme du mauvais texte pour commencer à les envisager comme une économie coordonnée. Tout ce que nous avons fini par construire chez Veriprajna — et tout ce que j'ai d'abord mal compris — a découlé de ce changement.
La fraude a cessé d'être un problème de qualité le jour où elle est devenue une marchandise tarifée. On ne peut pas battre un marché à coups de filtres.
Une attaque de 47 avis qui déjoue tous les outils que vous possédez
Laissez-moi décrire à quoi ressemble réellement une attaque moderne, car l'écart entre la façon dont on imagine les faux avis et la façon dont ils fonctionnent réellement explique en grande partie pourquoi les outils existants échouent.
Un concurrent veut enterrer votre produit. Il engage un courtier via l'un de ces groupes Telegram. Le courtier contrôle une écurie de comptes anciens et compromis et les déploie contre une seule fiche produit. En 72 heures, 47 avis cinq étoiles atterrissent sur le produit concurrent — le vôtre reste intact, le sien grimpe. Le texte des avis a été rédigé par GPT-4, puis passé dans un outil comme BypassGPT pour déjouer les détecteurs fondés sur la perplexité qui recherchent une écriture machine « trop lisse ». Chaque avis mentionne au passage une caractéristique précise du produit extraite de la section Questions-réponses de la fiche elle-même. Les horaires de publication sont échelonnés sur trois fuseaux horaires afin que rien ne se regroupe.
Chaque avis pris isolément semble légitime. Ils franchissent les filtres de contenu des grandes plateformes d'avis. Ils passent GPTZero. Les comptes sont assez anciens pour échapper à toute heuristique de « nouveau compte ». Votre équipe de protection de la marque ne remarque rien — jusqu'à ce que vos chiffres bougent, et ils bougent : une étoile frauduleuse supplémentaire peut accroître la demande d'un concurrent de 38 %, et de faux avis négatifs peuvent amputer le chiffre d'affaires d'une cible jusqu'à un quart, pendant que votre note moyenne absorbe discrètement les dégâts.
Ce n'est pas une expérience de pensée. Amazon a déposé sa première action en justice conjointe avec le Better Business Bureau contre le courtier en avis ReviewServiceUSA.com en juillet 2024. Trustpilot a supprimé 4,5 millions de faux avis en 2024 — 7,4 % de l'ensemble des avis soumis, contre 6,1 % l'année précédente. Tripadvisor a intercepté 2,7 millions de soumissions frauduleuses, dont certaines étaient des photos d'établissements générées par IA créant des « hôtels fantômes » que des voyageurs ont réellement réservés, pour découvrir sur place un terrain vague. L'ampleur n'est pas marginale. Les chercheurs estiment qu'environ 30 % des avis en ligne sont faux, ce qui coûte aux entreprises américaines quelque 152 milliards de dollars par an, selon le Forum économique mondial.
Voilà donc le problème que je croyais comprendre. Voici où je me suis trompé.
Le détecteur qui fonctionnait parfaitement, jusqu'à ce qu'il cesse de fonctionner
Notre première version était un classificateur de texte. Il lisait le texte des avis et évaluait la probabilité qu'il ait été généré par une machine. C'est la chose évidente à construire, et je veux être honnête : je l'ai soutenue. La démonstration était magnifique. Sur notre jeu de test, il détectait les avis rédigés par IA avec le genre d'exactitude qui vous fait commencer à rédiger dans votre tête l'annonce de lancement.
Puis nous l'avons testé sur des avis passés par un humaniseur.
Il existe désormais plus de 30 de ces outils — BypassGPT, Undetectable.ai, StealthWriter, Humanize AI, et une douzaine d'autres. Ils prennent du texte généré par machine et le maltraitent juste assez pour tromper un détecteur : ils suppriment les virgules révélatrices, insèrent des mots de liaison, remplacent le vocabulaire que les classificateurs apprennent à associer aux sorties de GPT. Notre exactitude ne s'est pas dégradée en douceur. Elle s'est effondrée d'un coup. Les avis que nous détections avec une grande confiance passaient désormais tranquillement avec la mention « semble humain ».
Je me souviens de la dispute qui a suivi. La moitié de l'équipe voulait continuer à peaufiner — plus de données d'entraînement, des exemples antagonistes, courir après les humaniseurs. C'est un instinct raisonnable et c'est un piège. J'avais consulté les études : sur plus de 30 outils d'humanisation que quelqu'un avait testés, seuls 13 produisaient de façon fiable un texte qui trompait les meilleurs détecteurs. Le meilleur classificateur de texte de sa catégorie, Originality.ai, en détecte tout de même la plupart. Mais « la plupart » est le mauvais critère lorsqu'un attaquant peut faire passer un avis par cinq humaniseurs et soumettre celui qui obtient le meilleur score. Un détecteur reposant uniquement sur le texte est engagé dans une course qu'il a structurellement déjà perdue.
Un détecteur à signal unique n'est pas un détecteur faible. C'est un détecteur dont vous avez indiqué à l'attaquant exactement comment le déjouer.
Le problème plus profond était de ceux que j'aurais dû voir le jour où j'ai lu cette liste de prix sur Telegram. Une partie de la fraude la plus dommageable n'est pas du tout rédigée par IA. Lorsqu'un courtier paie un réseau de personnes réelles pour publier — des humains rémunérés, la version moderne de l'ancienne ferme Mechanical Turk — le texte est véritablement humain. Il n'y a aucun indice linguistique à trouver, parce qu'il n'y a pas de machine dans la boucle. Un classificateur de texte examinant un avis rémunéré rédigé par une personne réelle ne voit rien d'anormal, car au niveau du langage, il n'y a rien d'anormal. Et l'asymétrie se creuse des deux côtés — début 2026, 23 % des rédacteurs d'avis admettaient utiliser l'IA au moins parfois, tandis que seuls 31 % des consommateurs étaient convaincus de pouvoir repérer un avis rédigé par IA.
C'est alors que nous avons écarté le modèle de texte comme pièce maîtresse. Pas complètement — il reste un signal — mais il a cessé d'être le signal.
Qu'est-ce qui permet réellement de repérer une campagne coordonnée ?
Le recadrage qui a sauvé le projet : un faux avis pris isolément est presque impossible à détecter, mais une campagne laisse des empreintes que les avis individuels ne laissent pas.
Ces 47 avis ont quelque chose en commun même lorsque chacun est irréprochable. Ils arrivent en rafale. Ils font référence à la même caractéristique extraite. Les comptes qui les ont publiés, lorsqu'on cartographie les relations entre vendeurs, évaluateurs et produits, s'illuminent comme un groupe qui n'apparaît pas naturellement — le même ensemble de comptes évaluant le même petit ensemble de produits dans la même fenêtre temporelle. C'est pourquoi les plateformes qui prennent la fraude au sérieux sont passées aux méthodes de graphes : l'infrastructure d'Amazon fait tourner de profonds réseaux de neurones de graphes sur le réseau vendeur-évaluateur-produit, précisément parce que la structure du réseau trahit une coordination que le texte ne révélera jamais. Nous avons construit dans la même direction — en fusionnant des signaux comportementaux (comment un compte agit au fil du temps), des signaux temporels (quand les avis arrivent les uns par rapport aux autres) et des signaux relationnels (qui est connecté à qui) par-dessus la couche linguistique.
Aucun de ces signaux pris isolément ne suffit. Une rafale peut être un authentique moment viral. Un groupe peut être une véritable communauté de fans. Mais la combinaison — une rafale, d'un texte extrayant des caractéristiques, provenant d'un groupe relationnellement suspect, avec un échelonnement des horaires conçu pour paraître non échelonné — constitue la signature d'une campagne rémunérée, et elle survit à l'humaniseur parce que l'humaniseur ne réécrit que les mots.
La même logique s'étend aux images, qui constituent la frontière que personne n'a résolue proprement. Les hôtels fantômes et les photos de produits fabriquées de toutes pièces se multiplient parce que la génération d'images par IA est devenue bon marché — et pour une marque hôtelière, les enjeux ne sont pas abstraits : McAfee chiffrait les pertes liées aux arnaques de voyage pilotées par IA à environ 13 milliards de dollars en 2025, soit près de mille dollars par victime, en grande partie acheminées via des fiches qui semblaient réelles jusqu'à l'enregistrement. Il existe une norme de provenance des contenus, C2PA, qui signe cryptographiquement une image au moment de la capture — le Galaxy S25 de Samsung est devenu le premier téléphone grand public à signer nativement les photos, et 2026 est véritablement un tournant pour cet écosystème. Mais voici le piège opérationnel dont je mettrais en garde toute marque : les plateformes suppriment les métadonnées lors du traitement de l'image. Le justificatif qui prouve qu'une photo est réelle est effacé au moment même de son téléversement vers la place de marché où il importe le plus. La provenance est un véritable outil, avec une véritable faille pour le commerce en ligne, et prétendre le contraire vend à une marque un faux réconfort.
Pourquoi les outils des plateformes n'ont-ils pas déjà résolu ce problème ?
C'est la question qu'on me pose le plus, et elle est légitime. Amazon dépense plus de 500 millions de dollars par an et emploie 8 000 personnes sur les faux avis. L'entreprise en a bloqué plus de 275 millions en 2024. Pourquoi aurait-on besoin de construire quoi que ce soit ?
Parce que les plateformes mènent leur guerre, pas la vôtre. Amazon protège Amazon — et même avec de telles dépenses, 49 % des consommateurs américains disent être convaincus d'y avoir vu de faux avis. Les plateformes de gestion des avis ont la même frontière tracée dans l'autre sens. Bazaarvoice applique plus de 1 000 règles de détection de la fraude sur 2,3 milliards de sessions d'achat par mois, et elle y excelle réellement — au sein de son propre réseau. Un faux avis sur votre produit hébergé sur Amazon est tout simplement invisible pour Bazaarvoice. Pire, la syndication joue dans les deux sens : un faux avis qui franchit l'ingestion de Bazaarvoice peut se propager sur plus de 50 sites de détaillants en 48 heures, ce qui signifie que la remédiation doit se faire au nœud source, et non en jouant au chat et à la souris sur chaque fiche en aval.
Les détecteurs de texte ont leur propre plafond — c'est un signal unique, comme je l'ai appris à mes dépens. Les services d'audit comme The Transparency Company effectuent des balayages quotidiens et déposent des contestations, mais ils sont réglés sur des schémas connus et peinent face aux tactiques sur mesure des courtiers qui s'adaptent spécifiquement pour les contourner. Et le seul outil auquel les consommateurs faisaient réellement confiance pour vérifier cela à leur place, Fakespot, a fermé en juillet 2025 après neuf ans — Mozilla n'a pas trouvé de modèle viable. Le filet de sécurité s'est rétréci au moment même où les attaques s'amélioraient.
Aucun fournisseur ne surveille l'ensemble du terrain où vit votre marque. Chacun garde son propre jardin, et la fraude habite la rue qui les sépare.
Cet écart — multiplateforme, du côté de la marque, à signaux fusionnés — est ce que nous avons entrepris d'occuper. Non pas pour remplacer les plateformes, mais pour donner à une marque une vue unique sur Amazon, Google, Yelp, Trustpilot et Tripadvisor à la fois, avec une détection conçue autour de sa catégorie de produits au lieu d'un ensemble de règles générique. C'est ce à quoi le système de détection de l'intégrité des avis et des contenus synthétiques que nous avons construit est destiné.
Le client qui ne voulait pas d'une page d'avis plus propre
Je vantais l'exactitude de la détection — le rappel, la précision, combien de faux nous détecterions. Puis j'ai eu un appel avec une responsable de la protection de la marque qui a recadré tout le produit pour moi en deux minutes environ.
Elle n'a pas commencé par l'exactitude. Elle a demandé ce que nous pourrions remettre à la FTC.
En octobre 2024, la règle de la FTC sur les avis et témoignages de consommateurs (Consumer Reviews and Testimonials Rule) est entrée en vigueur, et elle a fait quelque chose de plus subtil que « les faux avis sont interdits ». Elle a créé une norme « aurait dû savoir ». Si de faux avis traînent sur vos fiches et que vous n'avez pas de processus raisonnable pour les détecter et y répondre, l'absence de système de détection constitue en soi l'infraction. Le montant de la pénalité est de 53 088 $ par infraction, ajusté de l'inflation en janvier 2025, et chaque jour où une infraction se poursuit compte séparément. Une campagne coordonnée de 100 faux avis, laissée sans réponse, représente 5,3 millions de dollars d'exposition. La FTC a envoyé ses premières lettres d'avertissement au titre de la règle à 10 entreprises en décembre 2025, ce qui fait que cela a cessé d'être théorique il y a environ un an.
Et il ne s'agit pas seulement des marques américaines. L'autorité britannique de la concurrence et des marchés (Competition and Markets Authority) a ouvert cinq enquêtes en mars 2026 au titre de la nouvelle loi Digital Markets, Competition and Consumers Act, avec des pénalités pouvant atteindre 10 % du chiffre d'affaires mondial. L'article 50 du règlement européen sur l'IA (EU AI Act), qui impose une divulgation lisible par machine des contenus générés par IA, entre en vigueur en août 2026. La loi SB 942 de Californie a ajouté des obligations de divulgation des contenus IA en janvier 2026. Le socle réglementaire s'est déplacé sous chaque marque en même temps.
Ce que cette responsable m'a appris, c'est que la détection est nécessaire mais pas suffisante. Le livrable dont une marque réglementée a réellement besoin est la preuve d'une diligence raisonnable — un journal d'audit montrant qu'un processus raisonnable de détection et de réponse existait et a fonctionné, quel que soit le faux avis qui aurait pu passer entre les mailles. On ne peut pas acheter cela sur étagère aujourd'hui ; les plateformes ne vous donneront pas leurs données de détection, et les solutions ponctuelles ne génèrent pas d'enregistrements de qualité conforme. Nous avons donc conçu le système pour produire cette trace comme un résultat de premier ordre, et non comme une réflexion après coup. L'artefact défendable sous une règle du « aurait dû savoir » n'est pas une page d'avis irréprochable — c'est la preuve documentée que vous cherchiez.
Une marque devrait-elle construire ce système, l'acheter ou attendre les plateformes ?
On me demande si l'on peut simplement attendre que les plateformes rattrapent leur retard. Ma réponse honnête : les plateformes courent aussi vite qu'elles le peuvent sur un problème qu'elles ont défini comme la protection d'elles-mêmes, et le compte à rebours réglementaire tourne désormais pour vous, séparément. Attendre est une position, et depuis octobre 2024, c'est une position à laquelle est attaché un montant en dollars.
La deuxième question porte généralement sur la possibilité de construire cela en interne. C'est possible — mais regardez ce que coûtent les programmes internes sérieux. L'opération d'Amazon, un demi-milliard de dollars et 8 000 personnes, est la référence de ce qu'il faut pour le faire à grande échelle, et la plupart des marques ne montent pas une telle structure pour surveiller leurs propres fiches sur cinq places de marché. Les options réalistes sont un système sur mesure adapté à votre catégorie ou un empilement d'outils partiels que vous assemblez en espérant qu'ils se recoupent. Les grands cabinets de conseil vous vendront le second, enveloppé dans un cadre, six à douze mois avant qu'une quelconque technologie ne fonctionne réellement.
La troisième chose qu'ils soulèvent est la course aux armements — si les humaniseurs continuent de s'améliorer, tout détecteur n'est-il pas temporaire ? C'est la bonne inquiétude, et c'est précisément pourquoi la réponse ne peut pas être un classificateur de texte. Un système multi-signaux se dégrade lentement lorsqu'un signal est attaqué, parce que l'attaquant doit vaincre simultanément le comportement, le calendrier et la structure du réseau, et pas seulement réécrire des mots. On ne gagne pas une course aux armements en ayant une meilleure arme. On la gagne en rendant l'attaque plus coûteuse que le gain. Lorsque la fraude est tarifée à cinquante centimes le vote positif, augmenter le coût d'une campagne réussie est tout l'enjeu.
La liste de prix sur Telegram m'a appris quelque chose avant tout modèle, et c'est ce à quoi je reviens sans cesse. Le camp adverse considère cela comme une entreprise avec un compte de résultat. Pendant des années, les marques l'ont traité comme une nuisance à filtrer. Les marques qui sortiront de cette décennie avec leurs notes intactes seront celles qui auront commencé à traiter leur écosystème d'avis comme le font déjà les attaquants — comme une infrastructure contestée qui mérite d'être défendue délibérément. C'est le changement que je ferais en premier, et c'est celui que le système que nous avons construit présuppose dès la première ligne de code.
Un faux avis que vous ne détectez jamais vous coûte une vente. Un système de détection que vous n'avez jamais construit, après octobre 2024, vous coûte 53 088 $ par jour. Ce n'est pas le même problème, et le second est celui que la plupart des marques n'ont pas encore chiffré.
