Votre algorithme a vendu 1,4 milliard de dollars avant qu'on appuie sur annuler. Pouvez-vous expliquer pourquoi ?

Il existe une seule question qui met fin à la plupart des examens réglementaires avant qu'ils ne commencent vraiment. Ce n'est pas « avez-vous des contrôles ? » Tout le monde a des contrôles. Elle est plus feutrée que cela, et pire :

« Expliquez-moi exactement ce que cet algorithme a fait le 5 août à 9 h 47 du matin. »

J'ai vu des entreprises intelligentes et bien financées se figer devant cette question. Elles peuvent sortir les journaux d'ordres. Elles peuvent vous montrer les transactions. Ce qu'elles ne peuvent pas faire, c'est reconstituer la chaîne de décision — pourquoi le modèle a dimensionné la position comme il l'a fait, pourquoi le seuil de risque se situait là où il se situait, pourquoi une modification de code trois semaines plus tôt n'a alerté personne. Et en 2026, cet écart, c'est tout l'enjeu. La conformité du trading algorithmique est discrètement passée du fait de prouver que vous avez des garde-fous à celui de prouver que vous pouvez expliquer, après coup, chaque mouvement de votre machine.

Je veux vous raconter comment j'en suis venu à croire cela, parce que je me suis d'abord trompé — trompé à grands frais — et la manière dont je me suis trompé est la même que celle dont la majeure partie du secteur se trompe encore.

Les 189 milliards de dollars qui sont passés

Commençons par Citigroup, parce que c'est la leçon la plus claire que je connaisse.

En mai 2022, un trader de Citi voulait vendre un panier d'actions d'une valeur de 58 millions de dollars. À la suite d'une erreur manuelle, il a créé un panier d'une valeur de 444 milliards de dollars à la place. Les contrôles pré-négociation de Citi ont fait leur travail — en grande partie. Ils ont bloqué 255 milliards de dollars. Mais 189 milliards de dollars ont échappé aux contrôles et atteint un algorithme de trading, qui les a consciencieusement découpés en ordres de vente et a poussé environ 1,4 milliard de dollars sur les marchés européens avant que quiconque n'appuie sur annuler. Cela a déclenché un flash crash sur l'ensemble des places boursières européennes.

Voici la partie qui devrait empêcher les responsables de la conformité de dormir. Lorsque la BaFin et les régulateurs britanniques sont intervenus, la question accablante n'était pas « ce qui s'est passé ». Citi pouvait y répondre. La question était pourquoi — pourquoi les contrôles ont-ils laissé passer 189 milliards de dollars, et pourquoi les seuils étaient-ils calibrés là où ils l'étaient ? Citi pouvait montrer les ordres. Ils ne pouvaient pas reconstituer de manière satisfaisante le raisonnement de l'algorithme ni défendre les paramètres qui le régissaient.

Cet écart leur a coûté cher. La BaFin a infligé à Citi une amende de 12,975 millions d'euros ; deux jours plus tôt, les régulateurs britanniques avaient ajouté 61,6 millions de livres pour le même incident. Environ 92 millions de dollars pour une seule défaillance algorithmique, répartis sur trois juridictions.

Les contrôles n'étaient pas la défaillance. L'incapacité à expliquer les contrôles était la défaillance.

Je reviens sans cesse là-dessus parce que cela inverse la façon dont la plupart des entreprises budgétisent. Elles dépensent pour construire davantage de contrôles et presque rien pour être capables de les narrer sous serment.

Que demande réellement l'examinateur ?

Quand j'ai commencé à parler avec des responsables de la conformité dans des banques et des gérants d'actifs de taille intermédiaire — les entreprises situées sous le niveau des grandes banques d'investissement — je leur demandais de jouer un examen avec moi. Cela se défaisait toujours selon les trois mêmes étapes.

« Montrez-moi l'inventaire de vos algorithmes. » C'est l'ouverture, et c'est un tueur silencieux. La Financial Conduct Authority du Royaume-Uni a mené une revue multi-entreprises portant sur dix sociétés de trading pour compte propre en août 2025 et a constaté que la plupart avaient une documentation incomplète ou obsolète — aucun inventaire propre indiquant qui possède chaque algorithme, sur quels marchés il négocie, quels paramètres de risque le régissent. Certaines entreprises avaient omis des éléments entiers du RTS 6 dans leurs auto-évaluations. (Le RTS 6 est le corpus de règles MiFID II pour les sociétés de trading algorithmique — gouvernance, tests, contrôles des risques.) Si vous ne pouvez pas produire un inventaire actuel et complet nommant la personne enregistrée responsable de chaque stratégie, l'examen s'arrête effectivement là. Selon les règles de la FINRA, les personnes qui conçoivent ou modifient de manière significative des algorithmes de trading doivent être enregistrées comme Securities Traders — donc « à qui appartient cet algo » n'est pas une question anecdotique, c'est une question réglementaire avec un nom attaché.

« Expliquez-moi ce que celui-ci a fait, ce matin-là. » C'est la question Citigroup. La plupart des entreprises peuvent montrer les ordres. Presque aucune ne peut reconstituer la décision. Et si vous êtes un gérant d'actifs plutôt qu'un courtier-négociant, cette question n'atterrit pas sur un pupitre de trading — elle atterrit sur votre équipe de recherche quantitative, où un unique paramètre falsifié enfoui dans un modèle peut passer inaperçu pendant des mois. (Two Sigma l'a appris à ses dépens ; nous y reviendrons.)

« Comment votre personnel de conformité examine-t-il techniquement ces algorithmes ? » La FCA avait une formule merveilleusement diplomatique pour ce qu'elle a trouvé ici : « des connaissances techniques variables en conformité ». Traduit, cela signifie que les équipes de conformité savent lire un rapport d'alerte mais ne peuvent pas interroger la logique du modèle, contester un paramètre de risque, ni vérifier que la modification de code du dernier sprint n'a pas discrètement ouvert une nouvelle faille réglementaire. La réponse du secteur a été d'embaucher du personnel de conformité versé dans le quantitatif — sauf que les personnes qui comprennent véritablement à la fois les règles d'accès au marché de la CFTC et les architectures de réseaux de neurones sur graphes sont extrêmement rares, et elles sont payées comme les hedge funds qui les convoitent aussi.

La direction réglementaire derrière ces trois questions n'a rien de subtil. La SEC et la CFTC ont ensemble intenté un montant record de 25,3 milliards de dollars en actions coercitives en 2024. L'EU AI Act exige que les systèmes d'IA financière à haut risque soient dotés d'une documentation technique, d'une gestion des risques et d'une capacité de supervision humaine d'ici le 2 août 2026. DORA — le régime européen de résilience opérationnelle — est en vigueur depuis janvier 2025. Et en Inde, la SEBI exige désormais un Algo-ID unique et l'approbation de la bourse pour chaque stratégie avant sa mise en production. La question n'est plus de savoir si vos algorithmes seront examinés. C'est de savoir s'ils survivront à l'examen.

La chose que j'ai construite et dont personne ne voulait

Je suis donc allé construire un meilleur détecteur.

C'était mon erreur, et je veux être honnête sur son caractère séduisant. La douleur d'acheteur dont tout le monde se plaint le plus fort, c'est la fatigue liée aux alertes — dans une enquête menée auprès de banques et de courtiers-négociants, 70 % ont signalé des taux de faux positifs supérieurs à 25 % dans leur surveillance des transactions. Des équipes de conformité noyées sous le bruit, courant après des alertes fantômes de spoofing. Nous avons donc construit quelque chose de vraiment efficace pour réduire les faux positifs : contexte comportemental, conscience du régime de marché, seuils adaptatifs. Lors des tests, c'était net et rapide. J'en étais fier.

Puis nous l'avons présenté à une véritable responsable de la conformité de marché intermédiaire. Elle a regardé le tableau de bord, hoché la tête, et posé la question qui a fait voler en éclats trois mois de travail :

« C'est bien. Mais quand l'examinateur demande pourquoi le modèle s'est déclenché — ou pourquoi il ne l'a pas fait — que leur montrer ? »

Je n'avais pas de réponse dans le produit. Nous avions construit un moyen plus rapide de générer des alertes. Nous n'avions pas construit de moyen de les expliquer. Et j'ai réalisé, assis là, que j'avais reproduit exactement ce que les régulateurs sanctionnaient : une boîte noire qui produit des résultats sans chaîne de raisonnement reconstituable. Une meilleure boîte noire reste une boîte noire.

Ce fut le tournant. La détection n'a jamais été le besoin non satisfait. Le besoin non satisfait était la préparation à l'audit — transformer les décisions algorithmiques en explications qu'un responsable de la conformité non quantitatif pourrait examiner, contester et emporter dans une salle d'examen. Nous avons jeté le cadre de départ et tout recommencé.

Construire pour l'examinateur, pas pour l'alerte

Le système que nous avons fini par construire — la couche d'intelligence de conformité du trading algorithmique que nous déployons désormais — part d'un premier principe différent : chaque décision prise par un algorithme en production devrait laisser derrière elle une explication prête pour l'audit et horodatée du pourquoi, pas seulement du quoi.

Cela paraît évident jusqu'à ce que vous l'essayiez. Le premier problème de conception, c'était que les personnes qui ont besoin de l'explication ne savent pas lire le modèle. Les explications devaient donc traduire la logique de l'algorithme — ses entrées, les signaux de marché qu'il pondérait, le seuil qu'il testait, les dérogations humaines — en quelque chose qu'un responsable de la conformité peut interroger sans lire le code source. Pas un score de confiance. Un compte rendu du raisonnement.

Le deuxième problème était l'inventaire lui-même. Nous traitons l'inventaire des algorithmes comme une équipe d'ingénierie traite le code : chaque stratégie en production porte ses marchés approuvés, ses limites de position, son propriétaire enregistré et un historique complet des modifications, de sorte que la question « montrez-moi votre inventaire » devient une requête, et non un exercice d'urgence. La même colonne vertébrale associe chaque contrôle à plusieurs cadres réglementaires à la fois — la règle SEC 15c3-5, le RTS 6 de MiFID II, l'EU AI Act, DORA, le régime Algo-ID de la SEBI — parce que les entreprises de marché intermédiaire négocient au-delà des frontières et qu'aucun fournisseur en place ne fait correspondre les contrôles à l'ensemble de ceux-ci depuis un seul endroit. Aujourd'hui, la plupart des entreprises multi-juridictionnelles bricolent des processus de conformité distincts par régulateur. Cette redondance est exactement le genre de travail que le logiciel devrait absorber.

Le troisième problème était le coupe-circuit. Les contrôles de Citi n'étaient pas absents — ils ont attrapé 255 milliards de dollars. Ils n'étaient tout simplement pas progressifs. La plupart des disjoncteurs sont binaires : activés ou désactivés. Nous avons donc construit des disjoncteurs intelligents et à plusieurs niveaux — une détection d'anomalies comportementales qui déclenche une réponse proportionnée plutôt qu'un unique bouton de panique, la différence entre attraper 255 milliards de dollars et attraper les 189 milliards de dollars qui sont passés.

Pourquoi tout le monde n'achète-t-il pas simplement une plateforme ?

C'est l'objection que j'entends le plus, et elle mérite une vraie réponse.

Le marché de la surveillance des transactions passe d'environ 1,3 à 3 milliards de dollars en 2025 vers 4,2 à 9,3 milliards de dollars d'ici 2033, et les cinq principaux fournisseurs en détiennent de 55 à 59 %. NICE Actimize, la Surveillance AI de Nasdaq, Validus d'Eventus — ce sont des plateformes réellement performantes. Je ne suis pas là pour vous dire qu'elles ne fonctionnent pas.

Je suis là pour vous dire ce qu'elles coûtent et où elles s'arrêtent. Un déploiement complet de NICE Actimize revient à 1 à 5 millions de dollars et plus par an, tarifé et conçu pour les institutions de niveau 1. Elles sont excellentes en détection multi-actifs et faibles sur exactement ce que l'examinateur demande désormais : l'explicabilité des décisions algorithmiques et une cartographie multi-réglementaire unifiée. La plateforme de Nasdaq est centrée sur les bourses, conçue pour le côté vendeur. Eventus privilégie la détection. Aucune d'elles n'a été conçue autour du problème du jour de l'examen du responsable de la conformité.

Ainsi, une banque de niveau 2 ou un gérant d'actifs de taille intermédiaire fait face à la même barre réglementaire que JPMorgan avec une fraction du budget et sans aucune équipe quantitative interne. Leurs options ont été : surpayer pour une plateforme d'entreprise qui ne convient pas, la construire eux-mêmes pour 2 à 10 millions de dollars plus un million par an de maintenance tout en concurrençant les rémunérations des hedge funds pour attirer les talents, ou embaucher un cabinet du Big Four — qui, d'après mon expérience, vous conseille sur ce qu'il faut construire, vous remet une présentation PowerPoint de modèle opérationnel cible, puis se tourne vers le même fournisseur de niveau 1 qu'il aurait de toute façon recommandé.

Il y a un vide au milieu de ce marché : des entreprises avec des obligations de grande banque d'investissement et des budgets de marché intermédiaire, servies par personne.

Ce vide, c'est pour lui que nous construisons. Une intelligence de conformité sur mesure à un prix qui n'est pas une rançon d'entreprise, sans verrouillage fournisseur.

Le problème plus ardu qui arrive : les agents autonomes

Si l'explicabilité est le problème d'aujourd'hui, l'IA agentique est le problème de l'année prochaine, et presque personne n'est prêt pour cela.

Environ 44 % des équipes financières devraient utiliser l'IA agentique en 2026 — un bond de plus de 600 % — et une entreprise fait déjà état de 60 agents autonomes en production avec des plans pour 200 de plus. Ces systèmes peuvent automatiser jusqu'à 70 % du travail manuel de conformité. Ils peuvent aussi déclencher des transactions, ajuster des modèles de risque et autoriser des transactions par eux-mêmes.

Ce qui terrifie quiconque a subi un examen, c'est ce qui vient ensuite. Le cadre de gouvernance sur lequel tout le secteur s'appuie — les orientations SR 11-7 sur le risque de modèle de la Fed et de l'OCC — a été rédigé en 2011 pour des modèles au comportement stable et déterministe. Comme l'ont exprimé les analystes de risque de GARP début 2026, le SR 11-7 « demeure l'un des rares points de référence stables pour la gouvernance des modèles » — et l'IA agentique brise ses hypothèses fondamentales, en introduisant de l'opacité, de l'aléatoire et de l'autonomie, souvent en s'appuyant sur une infrastructure tierce qui peut changer sans préavis. Vous ne pouvez pas reconstituer la décision d'un système qui décide différemment à chaque fois et dépend du modèle d'un fournisseur que vous ne contrôlez pas.

Pour être clair sur notre situation réelle : les revues de praticiens du FMSB notent que l'IA orientée marché ne fonctionne pas encore de manière autonome — elle est intégrée à l'infrastructure de trading sous supervision humaine. Tant mieux. C'est la fenêtre. Le bon moment pour construire une gouvernance des agents de trading autonomes, c'est avant qu'ils ne négocient de façon autonome, pas lors de l'autopsie. Nous concevons cette couche d'explicabilité et de supervision dès maintenant, afin que la piste d'audit existe avant que le régulateur ne la réclame.

Il y a aussi un véritable levier technique disponible ici. Les modèles fondés sur les graphes — des réseaux de neurones sur graphes qui cartographient la toile des expositions de contrepartie — ont atteint des scores AUC-ROC d'environ 0,891 pour détecter la contagion des risques dans des contextes de recherche, bien en avance sur les méthodes conventionnelles, avec des délais d'alerte précoce allongés de près de douze jours. Presque aucun fournisseur de surveillance ne propose l'analyse de contagion fondée sur les graphes comme fonctionnalité standard. Pour une entreprise dont le risque de contrepartie est interconnecté, c'est la différence entre voir venir une cascade et en lire le récit dans un ordre coercitif.

« N'est-ce pas simplement un logiciel de conformité de plus ? »

Les gens m'en posent une version, et la réponse honnête est : pas si c'est bien construit.

La raison pour laquelle la conformité ressemble à un pur coût — les grandes banques y dépensent plus de 200 millions de dollars par an, et le temps que leurs employés y consacrent a augmenté de 61 % en une décennie — c'est que l'essentiel consiste en une reconstruction manuelle de choses que les systèmes auraient dû enregistrer automatiquement. Lorsque l'explication est générée au fur et à mesure que l'algorithme s'exécute, l'examen cesse d'être une fouille archéologique. L'inventaire est une requête. La chaîne de décision est déjà consignée. La cartographie inter-juridictionnelle est un seul modèle, pas cinq.

L'autre chose que les gens demandent, c'est si l'explicabilité ralentit les algorithmes — si vous échangez des microsecondes contre de la paperasse. Ce n'est pas le cas. La capture du raisonnement se place à côté de l'exécution ; c'est un enregistrement, pas un frein. Les entreprises qui ont résolu cela ont cessé de traiter la conformité comme une taxe sur la vitesse et ont commencé à la traiter comme une propriété du système, présente dès la première ligne de code plutôt que greffée avant l'audit.

Je pense au cas Two Sigma ici. Un chercheur senior a discrètement modifié quatorze modèles d'investissement pendant près de deux ans — en ajustant un seul paramètre — et a produit 165 millions de dollars de pertes pour les clients avant que quiconque ne s'en aperçoive ; l'entreprise a payé 90 millions de dollars pour régler l'affaire. Ces modèles n'étaient pas non supervisés sur le papier. Ils étaient inexplicables en pratique. Personne ne pouvait voir, en temps réel, que le raisonnement avait été corrompu. Ce n'est pas une défaillance de détection. C'est une défaillance d'explicabilité déguisée en défaillance de détection.

L'erreur à 444 milliards de dollars du trader de Citi a pris quelques secondes à commettre et des années à trancher en justice. Ce qui a transformé une erreur embarrassante en une erreur à 92 millions de dollars, ce n'était pas la taille du panier. C'était que, lorsque les régulateurs se sont penchés dessus et ont demandé pourquoi, la réponse a été un haussement d'épaules.

Chaque entreprise qui exploite des algorithmes n'est qu'à un mauvais matin de cette question. Celles qui s'en tireront ne sont pas celles qui ont le plus de contrôles ou la plateforme la plus chère. Ce sont celles qui, lorsque l'examinateur pointe 9 h 47, peuvent afficher la décision et la parcourir ligne par ligne — et qui ont intégré cette capacité dans la couche de conformité bien avant d'en avoir eu besoin. Construisez l'explication pendant que la machine négocie encore. Le temps que quelqu'un pose la question, il est déjà trop tard pour commencer à la consigner.