Ancrage, citation et vérification

Votre IA cite des sources. Elle ne les vérifie pas.

Le résultat d'IA le plus dangereux est celui qui semble sourcé. Un système de génération augmentée par récupération renvoie un passage, le modèle génère une réponse et une citation apparaît à côté. L'utilisateur présume que la citation étaye l'affirmation. Dans 57 % des cas, ce n'est pas le cas.

Une étude de 2025 a révélé que plus de la moitié des citations générées par RAG présentent une rationalisation a posteriori : le modèle formule d'abord sa réponse, puis parcourt les documents récupérés à la recherche de correspondances lexicales superficielles pour fabriquer une référence. La citation est réelle. Le document existe. Le passage provient bien de ce document. Mais le passage n'étaye pas réellement l'affirmation.

Ce n'est pas un problème de récupération. Votre pipeline de récupération peut renvoyer les bons documents alors même que vos citations restent erronées. Notre approche consiste à construire la couche de vérification qui s'intercale entre la génération de votre IA et vos utilisateurs — non pas une meilleure récupération, ni de meilleurs prompts, mais une vérification indépendante conçue pour que chaque affirmation dans le résultat soit effectivement étayée par la source qu'elle référence — l'architecture que nous exposons dans notre livre blanc sur la construction de la vérité au-delà du wrapper de LLM.

Pourquoi la récupération associée au prompt ne constitue pas une vérification

La plupart des équipes traitent l'ancrage comme un problème de récupération : de meilleurs segments de texte (chunks), un reranker, « ne répondre qu'à partir du contexte fourni » dans le prompt système. Cela passe à côté de la faille fondamentale. Le modèle ne désobéit pas — il s'exécute de manière infidèle, trouvant dans le contexte des tokens qui correspondent superficiellement et y rattachant une citation. Le passage n'implique pas logiquement l'affirmation.

La vérification est un système distinct doté d'un objectif distinct. Le composant de génération produit des affirmations candidates accompagnées d'annotations de source et optimise la fluidité. Le composant de vérification évalue de façon indépendante si chaque source citée étaye réellement l'affirmation annotée, en optimisant l' implication logique : cette source étaye-t-elle logiquement cette affirmation spécifique ? Lorsque ces composants fonctionnent comme des sous-systèmes indépendants — le modèle à double système détaillé dans nos recherches sur la vérification neuro-symbolique — une hallucination doit tromper les deux pour parvenir à l'utilisateur.

Nous mettons en œuvre cette architecture à double système à l'aide de modèles NLI affinés pour la détection d'implication logique, combinés à la décomposition en faits atomiques. L'approche SAFE de Google DeepMind a démontré que la décomposition des réponses en faits atomiques individuels avant vérification surpasse nettement le contrôle au niveau de la phrase : SAFE concorde avec les annotateurs humains 72 % du temps, et en cas de divergence, la vérification automatisée a raison 76 % du temps, pour un coût 20 fois inférieur. Nous adaptons cette méthode à votre domaine, car la définition d'un « fait atomique » dans des conclusions juridiques diffère de celle d'un résumé clinique ou d'une communication financière.

Ce que font réellement les API d'ancrage des fournisseurs (et ce qu'elles ne font pas)

Tous les grands fournisseurs de cloud ont lancé des fonctionnalités d'ancrage au cours des 18 derniers mois. Aucun ne résout l'intégralité du problème.

La lacune commune à ces quatre solutions : elles détectent les dérives du modèle par rapport au contexte fourni, mais elles ne vérifient pas que la citation spécifique rattachée à une affirmation donnée est effectivement étayée par implication logique. Cette couche de vérification est précisément ce que nous concevons et bâtissons.

Trois architectures de vérification, adaptées à votre profil de risque

Vérification d'implication logique par NLI

Pour les équipes nécessitant une vérification assertion par assertion sans le coût de latence d'une décomposition intégrale. Chaque affirmation générée est associée à son passage cité et évaluée par un modèle NLI pour déterminer s'il y a implication logique, contradiction ou neutralité ; les affirmations classées en « contradiction » ou « neutre » sont signalées ou bloquées. Cela ajoute 50 à 200 ms par affirmation, traite des charges de travail à haut débit et intercepte le mode de défaillance le plus fréquent : des citations qui renvoient à des passages thématiquement pertinents mais qui n'étayent rien.

Nous utilisons des ensembles NLI calibrés (l'approche HALT-RAG ) plutôt que des modèles uniques, car les modèles NLI individuels présentent des angles morts sectoriels que les ensembles lissent.

Décomposition en faits atomiques avec vérification augmentée par recherche

Pour les domaines à enjeux critiques où le contrôle phrase par phrase est insuffisant car une seule phrase peut contenir plusieurs assertions vérifiables. Nous décomposons chaque réponse en faits individuels, générons des requêtes de vérification ciblées pour chacun et les confrontons à la fois aux sources citées et à des références externes faisant autorité. Il s'agit de l'approche dérivée de SAFE.

Elle détecte des erreurs qui échappent au NLI à l'échelle de la phrase : une phrase peut être partiellement étayée (deux faits exacts, un inventé) et le NLI attribuera souvent une implication logique à l'ensemble de la phrase. La décomposition coûte 3 à 5 fois plus en inférence mais intercepte nettement plus d'erreurs. Nous l'utilisons pour les actes juridiques, la documentation clinique, les communications financières et tout secteur où un seul chiffre erroné entraîne des conséquences matérielles.

Vérification continue avec contrôle temporel et numérique

Pour les environnements réglementés où la validité des sources évolue dans le temps. Cette méthode prolonge l'approche par décomposition avec trois contrôles supplémentaires :

• Vérification temporelle — ce règlement était-il en vigueur à la date mentionnée par l'affirmation ?
• Vérification numérique — ce pourcentage correspond-il exactement, et non approximativement, au tableau source ?
• Contrôle de cohérence croisée des affirmations — plusieurs affirmations ancrées au sein d'une même réponse se contredisent-elles ?

Nous maintenons des index de fraîcheur des sources qui suivent la date de dernière validation des documents cités, déclenchant une revérification dès qu'une source est mise à jour. C'est l'architecture conçue pour les organisations où une citation d'un règlement abrogé ou d'une statistique obsolète fait courir un risque de non-conformité, détaillée dans nos recherches sur l'application des citations réglementaires dans l'IA gouvernementale.

Mesurer la qualité de l'ancrage (les métriques qui comptent vraiment)

Le paysage de l'évaluation est fragmenté. Le HHEM de Vectara évalue la cohérence factuelle mais mesure la fidélité du résumé, non l'exactitude des citations. RAGAS contrôle l'ancrage mais pas l'attribution. Le benchmark ALCE évalue la précision et le rappel des citations sur des jeux de données académiques qui ne reflètent pas les usages en entreprise. Des recherches de l'Allen Institute ont établi que l'exactitude des citations en RAG avoisine en moyenne 65 à 70 % en l'absence d'entraînement à l'attribution.

Notre approche consiste à bâtir une évaluation qui mesure ce qui importe réellement, en continu avec des alertes sur seuil :

• Précision des citations — les passages cités étayent-ils leurs affirmations ?
• Rappel des citations — les affirmations vérifiables sont-elles correctement attribuées ?
• Exactitude de l'implication logique — le taux de réussite au test NLI.
• Spécificité des sources — attribution au niveau du paragraphe plutôt qu'au niveau du document.

Quand la vérification intégrale s'avère superflue

La vérification intégrale est coûteuse. La décomposition atomique avec vérification augmentée par recherche ajoute 2 à 5 secondes et 0,01 à 0,05 $ par réponse aux tarifs actuels des modèles. Pour un bot de connaissances interne répondant à 10 000 requêtes par jour, cela représente 100 à 500 $/jour en seuls coûts de vérification, en plus de la génération et de la récupération.

Toutes les applications n'en ont pas besoin. Nous vous aidons à ajuster la profondeur de vérification au risque réel — cette évaluation fait partie de chaque mission, et nous vous dirons si une approche plus simple suffit pour votre cas d'usage.

Ce que nous livrons

Une mission est cadrée pour produire les éléments suivants — la même classe de vérification que celle illustrée dans notre démonstration fonctionnelle d'IA gouvernementale avec application des citations :

• Une architecture de vérification adaptée à votre profil de risque, votre budget de latence et vos types de documents sources.
• Des pipelines de vérification fondés sur le NLI ou sur la décomposition, intégrés à votre pile de récupération existante.
• Un cadre d'évaluation de la qualité des citations avec métriques de précision, rappel, exactitude de l'implication et spécificité des sources.
• Une surveillance continue avec alertes paramétrées sur seuils.
• Une intégration à votre flux de conformité pour répondre aux exigences de piste d'audit — télémétrie FINRA, transparence selon l'EU AI Act, traçabilité FDA.
• Une suite de tests de sondes d'hallucinations connues calibrées selon votre domaine.
• Le modèle de coûts de vérification, afin que vous puissiez décider en toute connaissance de cause où déployer la vérification intégrale par rapport à des contrôles allégés.