Gouvernement & secteur public
Systèmes d'IA pour les gouvernements fédéral, étatiques et locaux résistant à l'examen de l'APA, à la production FOIA et aux contestations constitutionnelles de la Due Process.
Lorsqu'une agence fédérale déploie l'IA pour l'attribution de prestations, elle exerce une autorité souveraine — et chaque résultat relève de l'exigence de décision motivée de l'Administrative Procedure Act, de la Due Process Clause et de la loi régissant ce programme. Le critère arbitrary-and-capricious de l'APA exige d'une agence qu'elle explique non seulement ce qu' elle a décidé, mais pourquoi, de sorte qu'un système d'IA dont les conclusions ne peuvent être examinées de manière approfondie échoue au test juridique fondamental de l'action publique.
L'IA publique fonctionne sous des contraintes inconnues des déploiements commerciaux
Comme l'indiquent les chercheurs du Yale Journal on Regulation : les agences peuvent montrer ce que l'outil a produit, mais pas pourquoi ces résultats reflètent le jugement motivé qu'exige l'APA. C'est dans cet écart que réside le risque juridique.
Les chiffres d'adoption montrent à quelle vitesse l'IA publique progresse et à quel point la gouvernance peine à suivre. Le GAO a rapporté en juillet 2025 que les cas d'usage fédéraux de l'IA ont presque doublé, passant de 571 en 2023 à 1 110 en 2024, les cas d'IA générative étant multipliés par neuf, de 32 à 282. Sur la même période, les effectifs fédéraux ont diminué de 12 % entre septembre 2024 et janvier 2026, passant de 2 313 216 à 2 035 344 employés civils.
Les agences déploient davantage d'IA avec moins de personnel pour la superviser. L'audit du GAO d'avril 2026 sur les acquisitions d'IA au DoD, au DHS, à la GSA et aux VA a révélé qu'aucune ne disposait de politiques obligeant les responsables à tirer les enseignements des marchés publics d'IA. Pendant ce temps, le département de la Défense a demandé 13,4 milliards de dollars pour l'IA et l'autonomie pour le seul exercice 2026.
Le risque constitutionnel est documenté, non hypothétique
Trois déploiements montrent ce qui se produit lorsque l'IA publique opère sans validation, ancrage ou surveillance d'équité — chacun ayant déjà fait l'objet de litiges, d'audits ou d'arrêts.
MiDAS du Michigan : 40 000 fausses accusations de fraude
Le système de chômage MiDAS du Michigan a accusé à tort 40 000 résidents de fraude aux prestations entre 2013 et 2015. L'Auditeur général du Michigan a examiné 22 000 décisions MiDAS et a constaté que 93 % ne concernaient en réalité aucune fraude. Les victimes ont subi des saisies sur salaire ; certaines ont perdu leur logement ; d'autres ont fait faillite. L'État a réglé le recours collectif Bauserman v. UIA pour 20 millions de dollars en janvier 2024, indemnisant environ 3 000 plaignants. Le système avait été conçu par le contractant Fast Enterprises pour 47 millions de dollars — le coût de l'échec a dépassé le coût d'une conception rigoureuse.
Chatbot MyCity de New York : conseils illégaux aux citoyens
Le chatbot MyCity de NYC a affirmé à des chefs d'entreprise qu'ils pouvaient s'approprier les pourboires des salariés, en violation de l'article 196-d du New York Labor Law. Il a indiqué aux propriétaires qu'ils pouvaient refuser des locataires bénéficiant d'aides au logement — illégal à New York depuis 2008 — et a prétendu qu'aucun règlement n'imposait d'accepter les espèces, contredisant une loi municipale de 2020. Le maire Mamdani l'a fermé.
Le projet de loi S7263 du Sénat de New York, inscrit à l'ordre du jour en février 2026, créerait un droit d'action individuel en dommages-intérêts pour les préjudices causés par les conseils d'un chatbot. Lorsqu'un système public délivre à un citoyen des conseils juridiques erronés — le mode de défaillance auquel nos recherches sur le respect des citations légales pour l'IA publique répondent —, il ne s'agit pas d'un problème d'expérience client, mais d'une violation potentielle des droits civils.
Police prédictive : une boucle de biais qui s'auto-alimente
L'inspecteur général du LAPD a constaté que la moitié des personnes signalées par le programme prédictif du département avaient peu ou pas de liens avec les infractions prioritaires. Chicago a suspendu son programme de police prédictive après qu'un audit externe a révélé qu'il n'avait aucun impact préventif et entraînait un profilage policier. Les deux services ont entraîné des algorithmes sur des données contaminées par des décennies de pratiques discriminatoires : des arrestations biaisées génèrent des données d'entraînement biaisées qui produisent des prédictions biaisées entraînant davantage d'arrestations biaisées — la faille d'intégrité algorithmique que nos recherches sur les architectures d'IA de confiance cartographient.
Le paysage réglementaire évolue chaque trimestre
La politique fédérale en matière d'IA a changé trois fois en quatorze mois. Les circulaires OMB M-25-21 et M-25-22 ont remplacé M-24-10 et M-24-18 de l'ère Biden en avril 2025, déplaçant la priorité de l'atténuation des risques vers l'accélération de l'adoption. Le décret présidentiel de décembre 2025 a affirmé la préemption fédérale sur les lois étatiques relatives à l'IA et a instauré une AI Litigation Task Force pour contester les réglementations des États sur des bases constitutionnelles.
Les États ont évolué en sens inverse. Les parlementaires ont déposé plus de 1 000 projets de loi sur l'IA en 2025. L'AI Act du Colorado, exigeant des évaluations d'impact algorithmique pour les décisions à haut risque, a été reporté au 30 juin 2026. Le Transparency in Frontier AI Act de Californie est entré en vigueur le 1er janvier 2026. La NASCIO a rapporté que l'IA est devenue la priorité numéro un des DSI des États pour 2026, devançant la cybersécurité pour la première fois en 20 ans d'enquête.
Le résultat est une mosaïque de conformité sans norme uniforme. Une agence d'État opérant sur plusieurs juridictions a besoin d'une matrice, et non d'une politique unique. Une agence fédérale doit suivre les directives de l'OMB, les exigences du NIST AI RMF 600-1 pour l'IA générative, le statut d'autorisation FedRAMP de ses fournisseurs d'IA et le registre des cas d'usage de son propre Chief AI Officer. Une agence ayant déployé l'IA en janvier 2025 selon les garde-fous M-24-10 a vu ces garde-fous remplacés dès avril. La véritable question n'est pas « quel cadre suivre », mais « comment concevoir des systèmes qui restent défendables lorsque les cadres changent sous leurs pieds ».
FedRAMP est le garde-barrière, et il rattrape encore son retard
La plupart des fournisseurs d'IA ne disposent pas de l'autorisation FedRAMP, et le processus traditionnel prend 24 mois ou plus. La GSA a lancé l'initiative FedRAMP 20x en mars 2025 pour réduire ce délai à quelques semaines, et a commencé en août 2025 à prioriser les services cloud d'IA. La stratégie OneGov de la GSA a inscrit OpenAI, Anthropic et Google au Multiple Award Schedule à des prix symboliques — 1 $/an pour ChatGPT et Claude, 47 cents pour Gemini.
| Fournisseur / service | Statut FedRAMP |
|---|---|
| Services Microsoft AI | FedRAMP High confirmé pour tous les services d'IA (décembre 2025) |
| IBM watsonx | Autorisation FedRAMP obtenue (avril 2026) |
| Google Gemini | Seul fournisseur autorisé par FedRAMP (via son offre poste de travail) au moment des accords GSA OneGov |
| OpenAI (ChatGPT) / Anthropic (Claude) | Ajoutés au GSA Multiple Award Schedule, mais Ask Sage a contesté l'absence d'autorisation FedRAMP pour l'infrastructure cloud public d'OpenAI |
L'accès aux modèles n'est plus le goulet d'étranglement — la GSA l'a résolu, et les agences peuvent désormais accéder aux modèles de pointe pour moins d'un dollar. Le véritable goulet d'étranglement se situe entre le modèle et la décision publique : la couche d'explicabilité qui satisfait l'APA, la piste d'audit qui résiste aux requêtes FOIA, l'architecture de validation qui intercepte les citations juridiques hallucinées avant qu'elles n'atteignent un administré, et le contrôle d'équité qui empêche un système de prestations de reproduire le taux de faux positifs de 93 % du Michigan. Construire sur ces modèles des systèmes qui résistent au contrôle constitutionnel constitue le véritable enjeu.
Pourquoi les cabinets de conseil et plateformes habituels laissent des lacunes
Booz Allen Hamilton génère plus de 600 millions de dollars par an grâce à des projets fédéraux d'IA et emploie 2 200 praticiens de l'IA. Les contrats fédéraux de Palantir ont presque doublé pour atteindre 970,5 millions de dollars en 2025, et son Army Enterprise Agreement de 10 ans et 10 milliards de dollars la positionne comme une infrastructure fondamentale plutôt que comme un fournisseur remplaçable. Deloitte, Accenture et SAIC disposent tous d'importantes divisions publiques, apportant envergure, personnel habilité et véhicules contractuels établis.
La lacune réside dans l'indépendance architecturale. Lorsque Palantir devient l'épine dorsale de l'intégration des données, l'agence perd sa capacité à évaluer des alternatives ; lorsqu'un grand intégrateur conçoit votre cadre de gouvernance de l'IA, ce cadre présuppose sa pile de fournisseurs préférée. Le GAO a constaté qu'aucune des grandes agences auditées ne recueillait les enseignements des marchés publics d'IA, de sorte que les erreurs d'achat s'accumulent au fil des cycles d'acquisition. Le MIT a découvert que 95 % des organisations investissant dans l'IA générative n'en tiraient aucun retour — et les agences fédérales font face au même défi avec une main-d'œuvre technique réduite pour en diagnostiquer la cause.
Notre approche : la couche entre le modèle et l'obligation constitutionnelle
Notre approche est centrée sur l'architecture de vérification, de gouvernance et d'explicabilité qui s'insère entre la plateforme ou le modèle qu'une agence utilise déjà et les obligations constitutionnelles, législatives et réglementaires qui distinguent l'IA publique de l'IA commerciale. Une mission est dimensionnée pour concevoir et livrer :
- Une vérification déterministe des citations pour les chatbots publics et les courriers de notification faisant référence aux lois et règlements — voir notre démonstrateur opérationnel d'assistant d'IA gouvernemental.
- Des pistes d'audit conformes à l'APA conçues pour documenter non seulement ce que l'IA a décidé mais pourquoi, en des termes qu'un responsable FOIA peut produire et qu'un juge peut évaluer.
- Une surveillance de l'équité algorithmique destinée à détecter les schémas discriminatoires avant qu'ils ne se transforment en recours au titre de la Section 1983.
- Une mise en œuvre du NIST AI RMF qui transpose les directives abstraites du cadre à l'architecture système réelle de l'agence.
La méthodologie est conçue pour fonctionner dans les limites FedRAMP existantes, au-dessus de l'accès aux modèles GSA OneGov, et aux côtés de l'intégrateur détenant le contrat principal. Être agnostique signifie que nous ne concurrençons pas les outils dont votre agence dispose déjà — l'objectif est de rendre ces outils défendables.
Points clés à retenir
- L'IA publique est soumise au critère arbitrary-and-capricious de l'APA, à la Due Process et aux lois régissant les programmes — un système dont le raisonnement ne peut être examiné échoue au critère juridique fondamental régissant l'action des agences.
- Le risque est documenté : MiDAS du Michigan (40 000 fausses accusations, 93 % de non-fraude, règlement de 20 M$ Bauserman ), le chatbot MyCity de NYC (conseils illégaux, responsabilité S7263), et la suspension de la police prédictive du LAPD et de Chicago.
- Le corpus réglementaire change chaque trimestre — circulaires OMB M-25-21/M-25-22, décret de préemption fédérale de décembre 2025, plus de 1 000 projets de loi des États, AI Act du Colorado de juin 2026 et Frontier AI Act de Californie — imposant des systèmes défendables au gré des évolutions réglementaires.
- L'accès FedRAMP est largement résolu (20x, GSA OneGov, tarification des modèles à moins d'un dollar) ; le défi non résolu réside dans la couche d'explicabilité, d'audit, de validation et d'équité supérieure.
- Indépendance vis-à-vis des fournisseurs par conception : notre approche consiste à concevoir l'architecture de vérification et de gouvernance entre votre modèle et vos obligations juridiques, sans concurrencer vos prestataires en place.
Gouvernement & secteur public
RegarderResponsabilité et garde-fous de l'IA d'entreprise | Veriprajna
En décembre 2023, un chatbot a accepté de vendre un Chevy Tahoe à 76 000 $ pour 1 $. En janvier 2024, un chatbot de livraison a écrit un poème qualifiant sa propre entreprise d'inutile. En février 2024, un chatbot d'assistance en cas de deuil a inventé un délai de remboursement qui n'existait pas, et un tribunal a tenu la compagnie aérienne pour responsable.
RegarderL'IA gouvernementale qui cite la loi, au lieu de l'inventer | Veriprajna
Le chatbot MyCity de New York a dit aux propriétaires qu'ils pouvaient refuser les bons de la Section 8. Il a dit aux commerces qu'ils pouvaient ignorer l'interdiction du sans-espèces. Il a dit aux employeurs qu'ils pouvaient prélever les pourboires des travailleurs.
Questions fréquentes
Comment rendre les décisions administratives assistées par l'IA défendables en vertu de l'Administrative Procedure Act ?
Le critère arbitrary-and-capricious de l'APA exige que les agences expliquent non seulement ce qu'elles ont décidé, mais aussi pourquoi. Pour les décisions assistées par l'IA, cela implique de construire une piste d'audit qui retrace chaque résultat jusqu'aux données d'entrée, à la logique du modèle et aux fondements politiques qui l'ont généré. Nous concevons des couches d'explicabilité qui génèrent une documentation décisionnelle en des termes qu'une juridiction de contrôle peut évaluer, consignant la chaîne de raisonnement depuis l'entrée des données jusqu'au jugement humain en passant par la sortie du modèle. L'objectif est d'obtenir un dossier conforme à la fois à l'exigence de décision motivée de l'APA et aux obligations de communication FOIA sans exiger de l'évaluateur qu'il comprenne l'architecture sous-jacente du modèle.
Que s'est-il passé avec le système de chômage MiDAS du Michigan, et comment éviter le même échec ?
Le système MiDAS du Michigan a accusé à tort 40 000 résidents de fraude au chômage entre 2013 et 2015. L'Auditeur général du Michigan a constaté que 93 % des décisions contestées ne constituaient pas une fraude réelle. Les victimes ont subi des saisies sur salaire et des expulsions de logement. L'État a réglé l'affaire pour 20 millions de dollars en janvier 2024. La faille centrale résidait dans l'adjudication automatique sans validation : le système qualifiait tout écart de données de fraude et exigeait du demandeur une réponse sous 10 jours sous peine de sanctions. La prévention requiert des règles de validation déterministes qui signalent les divergences pour examen humain plutôt que d'adjudiquer automatiquement, un contrôle continu de l'exactitude par rapport aux résultats de référence, ainsi que des garanties constitutionnelles assurant notification et droit d'être entendu avant toute mesure défavorable.
Un citoyen peut-il poursuivre notre agence au titre de la Section 1983 pour une décision algorithmique discriminatoire ?
Oui. La Section 1983 engage la responsabilité personnelle des agents publics qui privent des individus de leurs droits constitutionnels sous couvert de l'autorité publique. Les décisions algorithmiques produisant des résultats disparates selon la race ou d'autres catégories protégées sont vulnérables aux recours relatifs à la protection égale des lois. Les programmes de police prédictive à Chicago et Los Angeles ont été suspendus après que des audits ont révélé des biais raciaux sans bénéfice préventif. Les systèmes d'attribution de prestations reproduisant des biais historiques dans les données d'entraînement encourent la même responsabilité. La défense repose sur une équité démontrable : évaluations d'impact algorithmique, surveillance continue des biais, tests contrefactuels et documentation prouvant que le système a été conçu et validé pour éviter tout résultat discriminatoire.
Comment déployer l'IA alors que la plupart des fournisseurs ne disposent pas de l'autorisation FedRAMP ?
L'initiative FedRAMP 20x de la GSA (mars 2025) réduit les délais d'autorisation de plus de 24 mois à quelques semaines. La stratégie OneGov de la GSA a ajouté OpenAI, Anthropic et Google au Multiple Award Schedule en août 2025. Microsoft a obtenu la certification FedRAMP High pour tous ses services d'IA en décembre 2025. IBM watsonx a reçu son autorisation en avril 2026. La voie pragmatique consiste à concevoir votre système autour de modèles autorisés par FedRAMP ou engagés dans la démarche 20x, à recourir au contrat GSA OneGov pour l'accès aux modèles et à bâtir la couche de gouvernance, de validation et d'explicabilité par-dessus. Nous aidons les agences à rédiger des dossiers ATO pour les systèmes d'IA exploitant ces points de terminaison autorisés tout en respectant les exigences de périmètre FISMA propres à l'agence.
Le chatbot de New York a donné des conseils illégaux aux citoyens. Comment prévenir la responsabilité des chatbots publics ?
Le chatbot MyCity de NYC a indiqué aux employeurs qu'ils pouvaient prélever les pourboires des salariés (en violation de l'article 196-d de la loi sur le travail de New York), a affirmé aux propriétaires qu'ils pouvaient refuser les locataires bénéficiaires de bons de logement (illégal depuis 2008) et a nié l'existence de règlements imposant l'acceptation des espèces en vigueur depuis 2020. Le projet de loi S7263 du Sénat de New York créerait un droit d'action individuel pour les préjudices causés par les conseils d'un chatbot. La prévention repose sur un ancrage déterministe : chaque affirmation du chatbot relative au droit, à la réglementation ou aux politiques doit être validée par rapport au texte officiel de l'autorité citée avant transmission. Nous concevons des systèmes de vérification des citations qui contrôlent chaque référence juridique auprès de bases de données réglementaires vérifiées, ne renvoyant que des réponses validées et remontant le cas à un examen humain lorsque le système ne peut vérifier une allégation.
Qu'exige le NIST AI RMF 600-1 pour notre déploiement d'IA générative ?
Le NIST AI 600-1 (publié en juillet 2024) ajoute plus de 200 mesures spécifiques aux risques de l'IA générative dans quatre domaines : gouvernance, provenance des contenus, tests préalables au déploiement et divulgation des incidents. Il identifie douze catégories de risques propres à la GenAI assorties d'atténuations correspondantes. Les marchés publics fédéraux attendent de plus en plus une gouvernance alignée sur le NIST. L'enjeu consiste à transposer les directives abstraites du cadre à votre architecture système réelle. Nous élaborons des plans de mise en œuvre du NIST AI RMF qui relient chaque mesure applicable à des contrôles techniques spécifiques, des exigences documentaires et des protocoles de surveillance dans votre déploiement, produisant des livrables conformes à la fois au cadre et aux exigences ATO de votre agence.
Comment bâtir un cadre de gouvernance de l'IA d'État sans financement dédié ?
L'enquête 2026 de la NASCIO désigne pour la première fois l'IA comme la priorité absolue des DSI des États, plus de 90 % d'entre eux menant des projets pilotes de GenAI. Pourtant, les législateurs des États ont déposé plus de 1 000 projets de loi sur l'IA en 2025, les exigences du Colorado sur l'évaluation d'impact algorithmique prennent effet en juin 2026 et le décret de préemption de l'administration Trump crée une incertitude réglementaire fédérale. L'approche pragmatique débute par un inventaire des cas d'usage de l'IA dans l'ensemble des agences, un cadre de hiérarchisation des risques concentrant l'effort de gouvernance sur les applications à enjeux élevés (prestations, licences, maintien de l'ordre) et une matrice de conformité confrontant les exigences de l'État aux directives fédérales. Nous concevons ces cadres afin qu'ils soient exploitables par le personnel en place sans exiger d'équipe dédiée à la gouvernance de l'IA, en automatisant la surveillance lorsque cela est possible.
Comment éviter la dépendance envers un fournisseur de la taille de Palantir pour les plateformes publiques d'IA ?
Les contrats fédéraux de Palantir ont presque doublé pour atteindre 970,5 millions de dollars en 2025, et son Army Enterprise Agreement de 10 ans et 10 milliards de dollars en fait une infrastructure fondamentale à grande échelle. Le risque de dépendance n'est pas uniquement financier. Lorsqu'un unique fournisseur définit la manière dont les enquêtes sont menées, dont les cibles sont priorisées et dont les décisions sont justifiées, l'agence perd sa capacité à évaluer des alternatives ou à conserver une supervision indépendante. La prévention exige un cloisonnement architectural : la couche de capacités d'IA doit être distincte de la couche d'intégration des données, de la couche de gouvernance et de la couche d'aide à la décision. Nous concevons des architectures agnostiques où les modèles et plateformes constituent des composants interchangeables et non des dépendances structurelles, afin que l'agence conserve la faculté de changer de prestataire sans devoir reconstruire le système.
Développez votre IA en toute confiance.
Collaborez avec une équipe forte d'une solide expérience dans la conception de la prochaine génération d'IA d'entreprise. Nous vous aidons à concevoir, développer et déployer une stratégie d'IA digne de confiance.
Veriprajna société de conseil en Deep Tech est spécialisée dans la conception de systèmes d'IA critiques pour la sûreté destinés aux secteurs de la santé, de la finance et de la réglementation. Nos architectures sont validées au regard de protocoles établis et accompagnées d'une documentation de conformité complète.