Un fournisseur de reconnaissance faciale noté à 99 % signalait pourtant des clients innocents à longueur de journée
L'algorithme du fournisseur figurait au tout premier rang du référentiel du gouvernement américain lui-même. Sur une galerie de douze millions de photos d'identité judiciaire, les principaux systèmes de reconnaissance faciale atteignent désormais une précision supérieure à 99 %. Le chiffre était réel, le certificat était réel, et je m'en étais servi pour rassurer un client pilote sur la solidité de son déploiement de prévention des pertes.
Puis nous avons passé leurs données de magasin réelles, et le système a signalé des clients innocents à longueur de journée.
Cet écart — entre un score de référence de 99 % et un système qui prend à partie la mauvaise grand-mère dans le rayon six — est tout le sujet de cet essai. La conformité de la reconnaissance faciale n'est presque jamais un problème d'algorithme. C'est un problème d'approvisionnement, un problème de données et un problème de gouvernance déguisé en problème d'algorithme. Je l'ai appris à mes dépens, et c'est pourquoi mon équipe chez Veriprajna a fini par auditer les systèmes biométriques au regard des réglementations, référentiels et normes opérationnelles qui comptent vraiment au lieu de simplement noter la précision des fournisseurs.
La grille d'évaluation que j'ai construite en premier était le mauvais outil
Quand j'ai commencé, je pensais que l'audit était évident. Lire le NIST Face Recognition Vendor Test — le National Institute of Standards and Technology gère le référentiel indépendant le plus respecté du domaine —, relever le classement du fournisseur, le noter, remettre au client une coche verte. J'ai construit exactement cela : une grille d'évaluation soignée de la précision des fournisseurs.
Le projet pilote était une chaîne de distribution disposant d'une liste de surveillance de suspects connus de vols organisés. Leur fournisseur était réellement l'un des plus performants sur le FRVT. Selon ma grille, il passait sans accroc. Alors, quand leurs magasins ont continué à générer des alertes sur des personnes qui ne figuraient manifestement sur aucune liste, j'ai supposé qu'il s'agissait d'un problème de réglage et je suis parti chercher le bogue dans le seuil.
Il n'y avait pas de bogue. Les mathématiques fonctionnaient exactement comme prévu — j'avais simplement audité la mauvaise chose.
Un référentiel vous indique comment un algorithme se comporte en laboratoire. Il ne vous dit presque rien de la façon dont il se comportera dans votre magasin.
Voici ce qui m'avait échappé. La précision phare du NIST provient de l'appariement en ensemble fermé : étant donné un visage, trouver sa correspondance dans une galerie connue. C'est le problème du déverrouillage de téléphone — est-ce le propriétaire, oui ou non. Mais une liste de surveillance de magasin est un problème d'ensemble ouvert, et les deux ne sont pas cousins. Dans un magasin comptant 8 000 visiteurs par jour et une liste de surveillance de 200 personnes, 97,5 % de chaque analyse porte sur une personne qui n'est pas du tout enregistrée. Un algorithme en ensemble fermé s'efforce de trouver la meilleure correspondance pour chaque visage qu'il voit. Dirigez-le vers ce volume et même un taux de faux positifs de 0,1 % génère environ 8 fausses alertes par magasin et par jour. Sur 500 emplacements, cela représente 4 000 personnes innocentes signalées chaque jour. J'avais certifié un système sur une question entièrement erronée.
C'est cet échec qui a refondé l'approche de l'entreprise. Nous avons cessé de noter les fournisseurs et commencé à auditer les déploiements.
Les faux positifs se cachaient dans l'album photo
La deuxième surprise, c'était l'origine réelle des mauvaises correspondances. J'avais supposé qu'une correspondance erronée signifiait un modèle faible. Puis je me suis penché sur la galerie d'enrôlement d'un client — l'ensemble réel des images de la liste de surveillance auxquelles le système compare les visages — et j'ai affiché la grille de vignettes.
C'était un désordre. Une poignée de portraits nets et maîtrisés. Puis des dizaines d'images granuleuses de vidéosurveillance, de clichés pris au téléphone et de photos d'identité judiciaire vieilles de dix ans. On ne peut pas apparier de façon fiable un visage réel de 2026 avec une photo d'identité judiciaire de 2014 en basse résolution, et aucun classement d'algorithme au monde n'y remédie. La contamination était dans les données, pas dans le modèle.
C'est la partie que personne n'audite. Les entreprises s'obsèdent sur le fournisseur à acheter et n'inspectent jamais la galerie qu'elles lui fournissent — les listes de surveillance non élaguées, les captures obsolètes, les écarts de résolution qui sont à l'origine de la plupart des faux positifs du monde réel. Lorsque nous avons commencé à traiter l'hygiène de la base de données d'enrôlement comme un élément à part entière de l'audit, les taux de fausses alertes dans les projets pilotes ont chuté avant même que nous ne touchions à un seul seuil.
Et ces fausses alertes ne sont pas réparties de façon uniforme. Les tests démographiques du NIST ont révélé que les taux de faux positifs au sein d'un même groupe varient jusqu'à 7 203 fois selon les groupes démographiques — les enfants, les personnes âgées ainsi que les sujets asiatiques et amérindiens présentent tous des taux élevés, en partie parce que les teintes de peau plus foncées imposent des exigences de capture de plage dynamique plus difficiles que les caméras bon marché ne satisfont pas. Ce n'est pas théorique. Lorsque la Federal Trade Commission a examiné le déploiement de Rite Aid, elle a constaté que les magasins situés dans des communautés à majorité relative noire et asiatique généraient nettement plus de fausses alertes que ceux des communautés à majorité relative blanche. Les employés, non formés aux limites du système, traitaient chaque alerte comme un fait et interpellaient les clients en conséquence.
La question qui devrait empêcher un responsable des risques du commerce de détail de dormir n'est pas « notre fournisseur est-il précis ». C'est « sur quels visages notre galerie est-elle la moins performante, et que font nos employés lorsque l'écran s'allume ».
À quoi ressemblent 108 jours de prison
Si vous voulez savoir pourquoi j'estime que l'étape de contrôle humain est l'enjeu déterminant, lisez le dossier Angela Lipps.
Lipps est une grand-mère de 50 ans. En juillet 2025, la police de Fargo a utilisé la reconnaissance faciale pour l'identifier comme suspecte, et les U.S. Marshals l'ont arrêtée. Elle se trouvait à 1 200 miles du lieu du crime. Elle a passé 108 jours en prison avant que les charges ne soient abandonnées la veille de Noël 2025. Le chef de la police de Fargo a présenté des excuses publiques le 27 mars 2026. Des recours pour atteinte aux droits civiques sont en préparation.
Un système a produit un chiffre. Personne n'a vérifié si ce chiffre était fiable compte tenu de la qualité de l'image, de l'écart d'âge entre la photo sonde et l'image de la galerie, ou des performances de l'algorithme sur son groupe démographique. Le score de correspondance a été traité comme une preuve. Ce n'était pas une preuve — c'était une probabilité à laquelle n'était attachée aucune confiance calibrée, et quelqu'un l'a lue comme un nom.
Lipps n'est pas un cas isolé. Le Washington Post a documenté au moins huit Américains arrêtés à tort à la suite de correspondances de reconnaissance faciale, les enquêteurs ayant à chaque fois sauté des étapes fondamentales comme la vérification d'un alibi. La détention injustifiée de Harvey Murphy a duré dix jours, s'est accompagnée d'une agression physique et s'est transformée en une poursuite de 10 millions de dollars. À Reno, l'affaire d'arrestation injustifiée de Jason Killinger, liée à la reconnaissance faciale d'un casino, se dirige vers un procès, un agent ayant déclaré officiellement que cela « n'aurait jamais dû arriver ».
C'est pourquoi les régulateurs ont cessé d'accepter le contrôle humain comme une simple case à cocher. La norme qui converge désormais entre les juridictions est celle d'un contrôle significatif, non cérémoniel — et « significatif » est précisément ce que la plupart des déploiements simulent. J'ai examiné des procédures avec intervention humaine où le mode opératoire normalisé comportait une case intitulée contrôle significatif sans rien en dessous. Un examinateur qui approuve machinalement la sortie de la machine à la même vitesse qu'elle la produit n'est pas un contrôle. Vérifier que le flux de travail de contrôle satisfait réellement à l'exigence réglementaire — qu'un humain peut effectivement passer outre le système, et le fait, en disposant des informations nécessaires pour le faire — s'est révélé être l'une des parties les plus difficiles et les plus importantes de chaque audit que nous menons.
La mosaïque de lois dont vous êtes réellement responsable
Les gens me demandent toujours « la loi sur la reconnaissance faciale » qu'ils doivent respecter. Elle n'existe pas. Aucune loi fédérale américaine ne régit la reconnaissance faciale. Ce qui existe à la place, c'est une mosaïque, et les sanctions ne sont pas symboliques.
La BIPA de l'Illinois est celle qui a du mordant, parce qu'elle prévoit un droit d'action privé — n'importe qui peut poursuivre en justice. Les dommages-intérêts par infraction s'élèvent à 1 000 $ pour les violations par négligence et à 5 000 $ pour les violations intentionnelles, et pour la seule année 2025 les règlements ont totalisé 136,6 millions de dollars réparties sur plus de 107 nouvelles actions collectives. Les chiffres cumulés sont encore plus élevés : Facebook a réglé pour 650 millions de dollars, Clearview AI pour 51,75 millions de dollars. La CUBI du Texas prévoit des sanctions pouvant atteindre 25 000 $ par infraction et a donné lieu à un règlement Google de 1,375 milliard de dollars, bien que le Texas n'assure l'application que par l'intermédiaire de son procureur général et que sa loi TRAIGA de 2025 ait prévu des exemptions pour la sécurité et la prévention de la fraude.
Il y a ensuite l'EU AI Act, dont les pratiques interdites — y compris les interdictions d'identification biométrique à distance en temps réel — sont devenues applicables en février 2025, avec des sanctions pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial. Ses échéances relatives aux systèmes à haut risque ont été repoussées au 2 décembre 2027, après que le Parlement européen a voté leur prolongation, ce qui laisse du temps mais ne change rien aux interdictions déjà en vigueur. Ajoutez à cela la loi sur la protection de la vie privée modifiée du Colorado, la loi biométrique de l'État de Washington et des interdictions pures et simples dans plus de 16 villes américaines, dont San Francisco, Boston, Oakland et Portland — avec 10 États supplémentaires ou plus qui devraient adopter des protections biométriques d'ici la fin de 2026 — et vous obtenez un déploiement légal dans un code postal et un aimant à actions collectives dans le suivant. La fonctionnalité « Familiar Faces » de Ring, d'Amazon, lancée en décembre 2025, a été bloquée dans l'Illinois, au Texas et à Portland quelques semaines après sa sortie.
Un véritable audit doit confronter un seul déploiement à l'ensemble de ces textes en même temps. Aucun outil clé en main ne le fait, et c'est précisément pourquoi nous avons dû développer cette capacité.
Pourquoi acheter le fournisseur le mieux classé ne suffit-il pas ?
Au début, un conseiller m'a dit que tout cela était plus simple que je ne le pensais : achetez le fournisseur le mieux classé par le NIST et vous êtes en conformité. Je l'ai cru pendant environ une semaine — jusqu'à ce que le projet pilote prouve qu'un fournisseur de premier plan sur un excellent référentiel produisait tout de même un magasin plein de fausses alertes.
Le paysage des fournisseurs récompense le scepticisme. Les leaders full-stack — NEC, IDEMIA, Thales — sont tous réellement parmi les plus performants sur le FRVT, et des spécialistes du logiciel comme Paravision et Rank One Computing figurent parmi les meilleurs. Mais les classements laissent de côté la ligne qui compte le plus dans le contrat : les fournisseurs déclinent systématiquement toute garantie de précision. L'entreprise assume l'entière responsabilité de résultats qu'elle ne peut pas auditer de manière indépendante. Les grands acteurs du cloud ont pris la mesure de la situation et se sont retirés — Amazon a imposé un moratoire indéfini sur l'usage policier de Rekognition, Microsoft en a fait de même pour Azure Face, et IBM a totalement abandonné la reconnaissance faciale dès 2020. Clearview AI, le collecteur le plus agressif, est purement et simplement interdit dans l'UE.
Si votre fournisseur refuse de garantir la précision et que le régulateur fait peser la responsabilité du résultat sur vous, le classement de référence du fournisseur est le fait le moins intéressant concernant votre déploiement.
Il existe un piège d'approvisionnement plus profond que la plupart des acheteurs ne voient jamais. L'action de la FTC contre Rite Aid n'a pas seulement interdit la reconnaissance faciale pendant cinq ans — elle a ordonné la restitution du modèle : la destruction de toutes les données biométriques et de tout modèle entraîné à partir de celles-ci. La restitution devient un outil standard ; une affaire de mai 2025 a contraint une entreprise d'edtech à supprimer elle aussi ses modèles. Le principe est qu'on ne peut pas tirer profit de données, ou d'algorithmes dérivés de données, que l'on n'était pas autorisé à collecter. Ainsi, la question qu'un responsable des achats devrait poser à un fournisseur n'est pas « quelle est votre précision ». C'est « pouvez-vous prouver que la précision que vous me vendez n'a pas été bâtie sur des données susceptibles d'entraîner la suppression du modèle lui-même ». C'est une question de diligence raisonnable, et presque personne ne la pose.
Les banques ont le problème inverse — et la même lacune
Le commerce de détail est le cas le plus frappant, mais les institutions financières se trouvent dans une situation tout aussi délicate, à l'opposé. Leur biométrie n'est pas un filtrage par liste de surveillance — ce sont des vérifications électroniques de connaissance du client (Know Your Customer) : vérification des documents d'identité combinée à l'appariement facial et à la détection du vivant pour confirmer qu'une personne réelle ouvre un compte réel. Le déploiement est consenti et circonscrit, ce qui semble plus facile. Ça ne l'est pas, parce que la barre a été relevée.
Depuis le 1er janvier 2026, le FinCEN a renforcé ses exigences en matière de lutte contre le blanchiment d'argent, et le glissement plus large de la surveillance en 2026 va de la présence des contrôles à l'efficacité démontrable des contrôles. Il ne suffit plus de dire que vous exécutez une détection du vivant. Vous devez montrer qu'elle fonctionne — que votre contrôle du vivant résiste à une attaque par présentation (une photo imprimée, une vidéo rejouée, un masque en silicone brandi devant la caméra), que votre taux de fausses correspondances tient bon selon les groupes démographiques, que le contrôle produit quelque chose de mesurable plutôt que de simplement exister. Une banque qui utilise un fournisseur comme FacePhi pour la détection du vivant bancaire se trouve dans la même position que le détaillant : elle assume toute la responsabilité d'un système qu'elle ne peut pas évaluer de manière indépendante, et son régulateur lui demande désormais de prouver une efficacité qu'elle n'a jamais mesurée.
Le fil qui relie le responsable de la prévention des pertes et le responsable de la conformité de la banque, c'est la même lacune. Tous deux ont acheté un système biométrique sur la foi de l'affirmation d'un fournisseur. Ni l'un ni l'autre ne sait lire un rapport NIST FRVT assez bien pour le traduire en décision d'achat, auditer la qualité des données qu'il fournit au système, ou prouver que son processus de contrôle humain est significatif plutôt que cérémoniel. Cette lacune se creuse à mesure que les décisions biométriques sont confiées à des agents d'IA autonomes — seules 23 % des organisations disposent d'une stratégie formelle pour gérer l'identité des agents, et la société de vérification d'identité iProov met en garde depuis un moment contre un « vide de responsabilité » lorsque des agents prennent des décisions à fort impact sans que personne en soit clairement comptable.
Qu'est-ce que le doute calibré vous apporte réellement ?
Le correctif qui a compté le plus était le moins spectaculaire. Les fournisseurs de reconnaissance faciale communiquent un score de correspondance — un chiffre — sans bornes de confiance calibrées autour de lui. Le système affiche « 0,94 » et l'opérateur lit « c'est elle ». Mais 0,94 face à un portrait de studio net et 0,94 face à une photo d'identité judiciaire vieille de dix ans d'une personne appartenant à un groupe démographique que l'algorithme gère mal ne sont pas la même affirmation, et le score brut masque la différence.
Ce qui manque, c'est une couche d'incertitude : un moyen d'attacher à chaque correspondance une confiance honnête et calibrée pour qu'un résultat limite s'annonce comme limite et soit acheminé vers un humain plutôt que vers la radio d'un agent de sécurité. Ce type d'intergiciel n'existe pas dans le commerce. Construire l'évaluation qui le sous-tend — la chose qui aurait dit à un agent de Fargo « cette correspondance est de faible confiance compte tenu de la qualité de l'image et du groupe démographique du sujet, n'agissez pas sur elle seule » — est le travail dont j'aurais souhaité qu'il existe avant l'affaire Lipps, pas après.
On peut voir les institutions qui l'ont déjà compris. La police de l'Essex, au Royaume-Uni, a suspendu son programme de reconnaissance faciale en raison d'un risque de biais, à la suite d'un audit de l'Information Commissioner's Office. Elle n'a pas attendu une arrestation injustifiée pour découvrir que son système présentait un angle mort démographique. Voilà la posture : traiter le système comme un risque jusqu'à ce qu'un audit indépendant prouve le contraire, plutôt que l'inverse.
Un score de référence, c'est ce qui figure sur la plaquette commerciale d'un fournisseur. Une borne de confiance calibrée sur chaque correspondance, c'est ce que l'on présente au régulateur et au tribunal — et un seul des deux résiste au contre-interrogatoire.
La vraie question à poser lors de votre prochain échange avec un fournisseur
Si vous avez déployé la reconnaissance faciale, la vérité inconfortable est que votre certificat de référence mesure un système différent de celui qui tourne dans vos magasins ou votre parcours d'intégration. La précision est réelle et presque hors de propos. Ce qui détermine votre exposition, ce sont les mathématiques d'ensemble ouvert de votre environnement, l'hygiène de la galerie que vous avez constituée, le fait que vos juridictions soient cartographiées ou non, et la capacité réelle d'un humain à rattraper la machine avant qu'elle ne prenne à partie la mauvaise personne.
Rien de tout cela n'apparaît dans un classement de fournisseur. Tout cela apparaît dans une action collective, une ordonnance de consentement de la FTC, ou les 108 jours passés en cellule par une grand-mère. Nous avons conçu notre audit de conformité biométrique et de reconnaissance faciale pour l'acheteur qui préfère découvrir ces lacunes dans un rapport plutôt que dans un procès.
Alors la prochaine fois qu'un fournisseur vous tend un chiffre de précision de 99 %, ne demandez pas comment il l'a obtenu. Demandez ce qu'il ne couvre pas — puis allez compter combien, parmi les visages qui passent chaque jour devant vos caméras, ne figuraient au départ sur aucune liste.