Un modèle a noté un rouge visiblement faux à 0.97 conforme à la marque. Ce chiffre a changé ce que j'ai construit.

Je me souviens du chiffre exact, parce qu'il m'a embarrassé. 0.968. Un modèle générique de similarité a examiné un asset de fêtes dont le rouge héroïque était visiblement, manifestement faux, et l'a noté 0.97 conforme à la marque. Sur une échelle où 1.0 signifie parfait, il m'a dit que cette création était prête à être publiée.

J'avais passé le premier tronçon de ce projet en supposant que le problème difficile était l'inverse. Je pensais que le travail intéressant dans le contenu IA digne de confiance était d'améliorer la génération, d'apprendre à un modèle à atteindre le rouge exact de la marque, de resserrer les prompts jusqu'à ce que le résultat paraisse juste. Je construisais le Brand Fidelity Firewall, une démo d'une porte pré-publication que chaque asset de campagne généré par IA doit franchir avant d'être publié. Et je continuais à compter sur le modèle pour être le juge. Le modèle était la dernière chose à laquelle j'aurais dû confier ce travail.

Voici l'histoire de la façon dont un seul mauvais chiffre a tout bouleversé. Si vous voulez voir la version finale décider sur un lot en direct, elle tourne sur veriprajna.com/fr/demos/brand-fidelity-firewall-la-barriere-de-controle-avant-diffusion-du-contenu-ia. Mais la démo est la partie facile à regarder. Ce qui mérite d'être écrit, c'est ce qu'il a fallu pour cesser de demander au modèle de faire un travail qu'il ne peut pas faire.

J'ai d'abord construit la mauvaise chose

J'ai commencé là où la plupart des gens commencent, c'est-à-dire avec un score de similarité. L'instinct est raisonnable. Vous avez une charte de marque et un asset généré, et vous voulez un seul chiffre qui dise à quel point ils sont proches. Chaque outil esthétique IA du marché vous donne ce chiffre, et ça a l'air de la gouvernance. Ce n'est pas de la gouvernance. C'est une vibe avec une décimale.

Pour rendre la démo honnête, j'ai inventé une fausse marque pour tester, parce que je n'allais pas faire passer le créatif d'une vraie entreprise dans une preuve de concept. La marque est « Lumiere », une maison premium synthétique avec le slogan « Quiet luxury, since 1984. » Sa couleur primaire est Lumiere Crimson, Pantone PMS 484, hex #9E2B25, avec une tolérance par couleur de 3.0. Tout en aval se mesure par rapport à cette charte de marque. C'est une marque inventée, mais les pixels et les spécifications sont réels, ce qui est la seule façon de tester si un contrôle fonctionne vraiment.

Puis j'ai composé un lot de douze assets de fêtes, encore une fois synthétiques, des mises en page plates construites pour que chaque contrôle mesure de vrais pixels plutôt que du bruit photographique. Le firewall lui-même ne génère rien. Il ingère des assets pré-générés et décide ce qui est sûr à publier, donc les douze sont des jeux de test que j'ai créés pour exercer les contrôles. Onze d'entre eux étaient corrects. Un, l'asset que j'ai étiqueté a08, avait un rouge héroïque qu'un directeur artistique signalerait depuis l'autre bout de la pièce. Il correspondait à #9D2E0B sur environ 46 pour cent de sa surface. C'est un rouge différent. Pas subtilement différent. Faux.

Et le score de similarité l'a adoré.

Un chiffre qui ne peut pas distinguer votre rouge de celui d'un concurrent ne mesure pas votre marque. Il mesure la luminance et hausse les épaules.

La raison pour laquelle il l'a adoré mérite d'être comprise, parce que c'est tout l'argument. La baseline générique que j'ai utilisée est un vrai perceptual hash, un pHash basé sur DCT, la même famille de techniques que les plateformes de contenu utilisent pour repérer les images quasi-doublons. Il est délibérément conçu pour être robuste à la couleur. Il s'intéresse à la structure et à la luminance, pour pouvoir reconnaître la même photo après une recoloration ou une compression. Cette robustesse est exactement la propriété que vous voulez pour la déduplication et exactement celle qui le rend inutile comme juge de marque. Il a regardé une mise en page correctement composée avec un mauvais rouge versé dedans et a vu une mise en page correctement composée. 0.968. Il aurait été publié.

Que voit réellement un score de similarité ?

Je garde cette capture d'écran ouverte quand j'explique cela aux gens, parce que le panneau le dit plus clairement que moi. À gauche, l'asset hors marque. À droite, la lecture qu'en fait le firewall.

L'écart entre ces deux chiffres, c'est tout le produit. 7.12 contre une tolérance de 3.0. C'est la différence de couleur mesurée en CIEDE2000, la métrique perceptuelle de différence de couleur standard ISO et CIE, écrite ΔE00. Ce n'est pas une estimation de similarité et ce n'est pas quelque chose que j'ai inventé. C'est le chiffre sur lequel le monde de la science des couleurs s'est déjà mis d'accord pour la question « à quel point ces deux couleurs paraissent-elles différentes à l'œil humain ». Un ΔE00 de 7.12 contre une tolérance de 3 est un échec net. Le 0.97 du score de similarité et le 7.12 du ΔE00 regardent les mêmes pixels et sont en désaccord total, et un seul d'entre eux mesure ce qui importe réellement à une marque.

La première fois que j'ai mis ces deux lectures côte à côte, j'ai cessé de penser à la génération entièrement. Peu importait la qualité du générateur. Un générateur parfait produit encore des assets qui doivent être mesurés contre une spécification exacte, et un modèle de similarité est structurellement incapable de faire cette mesure. Le problème n'a jamais été de faire de meilleurs créatifs. Le problème était de savoir ce qui est sûr à publier.

Je veux être précis sur un point, parce que c'est un endroit où les gens en font trop. Je n'ai pas fait tourner CLIP ici. CLIP est la métrique que beaucoup de pitches de « scoring de marque IA » citent, et la faire tourner pour de vrai est un drop-in documenté, mais elle traîne une dépendance d'environ deux gigaoctets et elle démontre le même manquement qu'un pHash démontre gratuitement. Donc la baseline dans la démo est un substitut honnête de perceptual-hash pour l'approche de similarité générique, pas CLIP déguisé. Le point tient de toute façon. La similarité, quelle que soit la façon de la calculer, ne peut pas distinguer votre rouge Pantone d'un mauvais. La science des couleurs le peut.

J'ai essayé de faire du modèle le juge. Il a répondu avec aisance et il avait tort.

Je ne suis pas arrivé à cette conclusion avec élégance. Pendant un temps, j'étais convaincu que la bonne architecture était de laisser un modèle vision-langage capable être l'arbitre. Lui montrer l'asset, lui montrer la charte de marque, lui demander de décider. Les modèles sont bons pour décrire des images. Sûrement qu'un pourrait me dire si un asset était conforme à la marque.

Il ne le pouvait pas, et la façon dont il a échoué est ce qui m'a troublé. Il n'a pas échoué bruyamment. Il a échoué poliment et avec confiance. Je lui donnais le rouge hors marque et il produisait un paragraphe fluide et plausible sur la façon dont la composition honorait l'esthétique retenue de la marque, et il aboutissait à approuver. Puis je lui donnais un asset correct et j'obtenais un paragraphe tout aussi fluide qui signalait parfois un problème imaginaire. Les verdicts étaient de la prose, et la prose est exactement ce que vous ne voulez pas entre un mauvais rouge et une campagne publiée.

Il y a un coût réel derrière cela, c'est pourquoi je ne pouvais pas simplement le balayer comme une curiosité de démo. Les consommateurs ont commencé à intégrer la différence dans leur jugement. La moitié d'entre eux disent préférer les marques qui évitent le contenu GenAI, selon Gartner en mars 2026. Un tiers cesse d'interagir avec une marque une fois que le contenu est révélé comme IA, selon le rapport Digital Trends 2026 d'Adobe. Smartly.io a trouvé en 2025 que la confiance mesurée dans une pub chute de 48 pour cent à 13 pour cent quand elle passe de co-créée à entièrement IA. Le spot de fêtes IA de Coca-Cola, soixante-dix mille clips générés, a été jugé sans âme en public. À Cannes en 2025, le scandale DM9 a vu douze prix révoqués pour des images fabriquées par IA. Quand le risque est aussi concret, une couche de gouvernance qui produit des paragraphes confiants au lieu de mesures prouvables n'est pas une protection. C'est une responsabilité avec de bonnes manières.

Si ce qui se tient entre un mauvais asset et une campagne en ligne peut être convaincu de n'importe quoi, ce n'est pas une porte. C'est une suggestion.

Alors j'ai arrêté d'essayer de faire du modèle le juge. Ce fut le tournant. Tout ce que j'ai construit après suppose que le modèle est le composant le moins digne de confiance du système, pas le plus intelligent.

Pourquoi la science des couleurs, et pas un meilleur prompt ?

J'ai choisi de faire du contrôle couleur le noyau dur et incontestable, et je veux expliquer pourquoi je lui fais confiance d'une façon dont je n'ai jamais fait confiance au modèle. CIEDE2000 n'est pas une heuristique que j'ai ajustée jusqu'à ce que la démo ait l'air bonne. C'est une formule publiée avec des données de test de référence, et j'ai validé mon implémentation contre les paires de couleurs de référence de Sharma et al.. Il y a un test unitaire, test_ciede2000_matches_sharma, et il passe comme l'un des cinq tests réussis de la suite. Cela compte plus que ça en a l'air. Cela signifie que le 7.12 n'est pas mon opinion sur à quel point le rouge est faux. C'est une mesure reproductible qu'un colorimétriste pourrait vérifier contre un manuel.

C'est la différence entre un chiffre que je peux défendre devant un directeur de marque sceptique et un chiffre pour lequel je dois m'excuser. Quand un modèle de similarité dit 0.97, et que quelqu'un demande pourquoi, la réponse honnête est « le modèle l'a senti ainsi ». Quand ΔE00 dit 7.12 contre une tolérance de 3, la réponse est « voici les deux couleurs en CIELAB, voici la formule standard, voici la validation de référence, et voici où 7.12 dépasse 3 ». L'une de ces réponses survit à une revue juridique. L'autre survit jusqu'à la première question difficile.

Un verdict que je peux tracer jusqu'à une formule publiée survit à une revue juridique. Un verdict que je ne peux expliquer que comme l'intuition d'un modèle survit jusqu'à la première question difficile.

J'ai aussi appris à être prudent sur l'endroit où la couleur est mesurée. Juger l'image entière laisserait un tout petit logo correct tirer la moyenne dans la tolérance pendant que la géante région héroïque fausse est publiée. Donc le contrôle juge spécifiquement la région héroïque saturée dominante, c'est ainsi que le rouge hors marque est attrapé même quand un logo au vrai cramoisi est assis dans le coin en étant parfaitement correct. La porte regarde là où l'œil humain regarde en premier.

La porte doit être ennuyeuse

Je me suis fixé une règle en cours de route : ce qui décide doit être ennuyeux. Ennuyeux signifiant déterministe, du code simple, hors de tout modèle, testable et reproductible. Dès qu'une décision dépend de l'humeur d'un modèle, elle cesse d'être auditable, et un verdict auditable est toute la valeur.

Donc la porte est exactement cela. Elle émet un BLOCK sur tout échec dur, un FLAG pour les cas qu'un humain doit vraiment assumer, et sinon un PASS. Il y a un invariant testé unitairement qui m'importe plus que n'importe quelle fonctionnalité seule, test_gate_invariant_no_hard_fail_passes: aucun asset avec un échec dur n'est jamais renvoyé comme PASS ou FLAG. Ça ne peut pas passer entre les mailles. C'est une propriété que vous pouvez prouver, pas un comportement que vous espérez.

La couleur n'est pas le seul blocage dur, et j'ai délibérément construit un second qui n'a rien à voir avec la couleur, pour prouver que la porte n'est pas un simple colorimètre monomaniaque. L'asset a09 a un cramoisi parfait, ΔE00 de 0.00, pile sur Lumiere Crimson. Et la porte le bloque quand même.

Le troisième blocage dur est réglementaire, et c'est celui avec de vraies dates attachées. Si du contenu IA est publié sur un marché qui exige une divulgation de contenu IA lisible par machine et que la divulgation manque, c'est un blocage dur quelle que soit la qualité des pixels. L'asset a10 est une mise en page propre, conforme à la marque, destinée à l'UE sans étiquette Article 50. L'obligation de divulgation de l'Article 50 de l'EU AI Act est applicable le 2 août 2026, avec des pénalités allant jusqu'à 15 millions d'euros ou 3 pour cent du chiffre d'affaires. Le SB-8420A de New York arrive le 9 juin 2026. Le CAITA de Californie arrive en août 2026. La Section 5 de la FTC plane sur le tout. Une étiquette requise manquante n'est pas une note de style. C'est une amende en attente, et la porte la traite ainsi.

Sur le lot de démo complet de douze assets, la répartition donne sept PASS, trois BLOCK, deux FLAG. C'est un taux d'auto-validation de 58.3 pour cent sur ce lot fixe spécifique, et je dis « ce lot spécifique » exprès, parce que c'est un résultat calculé sur douze assets synthétiques, pas une promesse sur votre pipeline de production.

Les deux cas FLAG sont ceux dont je suis le plus fier, parce que ce sont les cas où un système honnête dit « je ne sais pas, un humain doit décider ». L'asset a11 contient un visage humain généré par IA, donc il est routé vers une personne pour une validation d'authenticité plutôt que d'être bluffé en PASS ou en BLOCK. C'est le risque de halo négatif NielsenIQ, la constatation que les visages générés par IA peuvent faire chuter la perception de marque, et ce n'est pas un appel que le code devrait faire seul. L'asset a12 cible le Japon, un marché hors de la couverture de la charte de marque, donc les règles de divulgation sont inconnues et il va au juridique au lieu d'être faussement validé. Une porte qui n'admet jamais l'incertitude n'est pas rigoureuse. Elle est imprudente.

À quoi le modèle sert encore

Je n'ai pas jeté le modèle, et je veux être honnête sur où il a atterri, parce que « nous avons retiré l'IA » serait un mensonge et aussi un gaspillage. Le modèle vision-langage est toujours dans le pipeline. Il n'a juste aucun vote. Il rédige une note consultative, un appel interchangeable de fournisseur, et c'est purement informatif. Il s'abstient proprement s'il n'y a pas de clé ou s'il plante, et il ne change jamais un PASS, un FLAG ou un BLOCK.

Le modèle peut être aussi fluide et confiant qu'il veut. Il ne peut toujours pas publier un mauvais rouge.

Lisez cette note consultative à côté du verdict et vous verrez la division saine du travail que je visais. La porte a déjà dit BLOCK, sur la force de 7.12 contre 3.0. Le modèle ajoute la couleur humaine, le pourquoi-ça-compte, la phrase qu'un directeur de marque veut réellement lire. C'est véritablement utile. C'est du contexte, pas un jugement. La porte déterministe décide. Le modèle ne fait que conseiller. Une fois le modèle placé dans ce siège, j'ai cessé d'être nerveux à son sujet. Sa fluidité est passée d'un risque à une fonctionnalité, parce que cette fluidité se situe désormais sous un verdict qu'elle n'a aucun pouvoir de déplacer.

Chaque asset validé exporte un Brand Fidelity Certificate, JSON plus HTML imprimable, portant les mesures par contrôle, la provenance de quels éléments étaient IA versus humain, le statut de divulgation par marché, le résultat de la porte, le modèle et la version, et un horodatage. Je dois être prudent sur ce qu'est ce document. C'est un artefact de preuves classable, un reçu reproductible de ce qui a été mesuré et décidé. Ce n'est pas une certification juridique et ce n'est pas un conseil juridique. L'appeler « certifié EU AI Act » serait exactement le genre de surenchère confiante que tout ce projet existe pour rejeter.

La génération n'a jamais été le goulot d'étranglement

Je reviens sans cesse au moment avec 0.968, parce qu'il a inversé mon sens de l'endroit où vit le problème difficile. J'avais supposé qu'à mesure que les générateurs s'amélioreraient, le problème de confiance rétrécirait. Construire ceci m'a convaincu du contraire. Un meilleur générateur produit un mauvais rouge plus vite et à plus haut volume. Il ne vous dit pas que le rouge est faux. Rien dans la qualité du modèle ne touche à la question de savoir si un asset correspond à PMS 484 et porte une étiquette Article 50, et ce sont les questions qui décident ce qui est sûr à publier.

La version inconfortable de ceci, celle que j'ai commencé à dire à voix haute, c'est que la partie la plus importante d'une stack de contenu IA digne de confiance ne contient presque pas d'IA. Le contrôle couleur est une formule d'un organisme de normalisation. Le contrôle d'espace libre est de la géométrie. Le contrôle de divulgation est un moteur de règles mappé à des lois datées. Le seul modèle dans le système n'a pas le droit de décider quoi que ce soit. Cela a paru une chose étrange à construire jusqu'à ce que je me souvienne que tout le point était de pouvoir prouver le verdict, et on ne peut pas prouver un paragraphe.

Vous pouvez faire tourner la porte finie vous-même et la regarder attraper le rouge sur veriprajna.com/fr/demos/brand-fidelity-firewall-la-barriere-de-controle-avant-diffusion-du-contenu-ia. Ce que je préférerais que vous reteniez, c'est la question qu'elle m'a laissée. Si votre couche de gouvernance peut être convaincue d'approuver un mauvais rouge avec une phrase confiante, a-t-elle jamais gouverné quoi que ce soit ? Ou génériez-vous simplement plus vite en appelant la vitesse une stratégie ?

Et si vous préférez le regarder plutôt que de me lire le décrire, voici toute la porte qui tourne de bout en bout.

Je ne pense pas que cette question devienne plus facile à mesure que les modèles s'améliorent. Je pense qu'elle devient plus aiguë.