Veriprajnaホワイトペーパー：転換民事責任から公務員へ – 制定法引用のアーキテクチャ化決定論的執行のための政府AI

エグゼクティブサマリー

人工知能の公共部門への統合は、決定的な転換点をなす行政統治の歴史における。初めて、民主化する可能性が存在する自治体条例、州規制、連邦の迷宮的構造へのアクセスを制定法へと変革し、官僚経験を不透明と摩擦から明瞭と効率へと。しかし、最近の展開とその後の失敗は、ニューヨーク市の「MyCity」チャットボットが、現行パラダイムの重大な亀裂を露呈した政府AI導入の。事業主に対し、キャッシュレスに関する市法の違反を助言したことで決済、チップのプール、住宅差別について、MyCity事件は示した厳格なアーキテクチャ上の制約がなければ、確率的AIシステムは勤勉な 公務員としてではなく、巨大な民事責任として機能する。 ¹

本ホワイトペーパーはVeriprajnaが作成し、支配的な「薄いラッパー」アプローチが政府AIに対して——汎用大規模言語モデル（LLM）に表面的なプロンプトを与えて法的照会に答えさせる——根本的に欠陥があり、法的に危険であると論じる。 ³ そのようなシステムは、次によって駆動される人間フィードバックによる強化学習（RLHF）であり、「有用性」を優先し事実遵守より、迎合とハルシネーションに陥りやすく、規制を捏造して利用者の照会を満たし、法の支配を守らない。 ⁵ 政府機関が展開するとき法的許可をハルシネートするシステムは、主権の教義を侵食するリスクがある免責を、営利的機能の遂行中に過失による不実表示を行うことで機能において、新興判例である Moffatt v. Air Canada が示すとおり。 ⁷

Veriprajnaは必要なパラダイム転換として 法令引用強制 （SCE） を提案する。このアーキテクチャ枠組みは、政府AIを創造的な会話相手としてではなく、決定論的検索エンジンとして扱う。SCEの下で、AIは厳格な 「引用なし = 出力なし」 制約の下で動作する。複合AIシステムを用い、階層的な検索拡張生成（RAG）と制約付きデコーディングにより、すべての主張がベクトル化された自治体条例の特定のハイパーリンク条項に根拠づけられることを保証する。 ⁸

本報告は、現行に内在する法的リスクの徹底分析を提供する実装、確率的モデルにおける「法的ハルシネーション」の技術的根本原因、および信頼回復のために設計された包括的なVeriprajnaアーキテクチャ。我々は詳述する、いかに不透明な「ブラックボックス」ラッパーから、透明で検証可能なシステムへ移行し、行動するかを宣誓した公職者に求められる忠実さと説明責任をもって。「ベータ」の時代は政府チャットボットでは終わり、決定論的デジタル公務員の時代が始まらねばならない。

1. 確率的統治の危機：NYC 「MyCity」ケーススタディ

人間官僚制からアルゴリズム統治への移行は危険に満ちている、次のとき基盤技術が誤解または誤用される。立ち上げとその後の失敗はニューヨーク市のMyCityチャットボットが、系統的リスクの決定的ケーススタディとして機能する確率的モデルを制定法の解釈に展開し、十分な決定論的ガードレールなしで。本事件は、能力の間の危険な溝を浮き彫りにする生成AIと、法的コンプライアンスの厳格な要件との。

1.1 「MyCity」の惨状：違法の自動化

2023年10月、ニューヨーク市はMyCityチャットボットを立ち上げ、Microsoft’s Azure AIを動力としサービスとして、事業主が複雑な問題をナビゲートする「ワンストップショップ」として位置づけた国内最大の大都市の規制環境を。 ¹⁰ 戦略的意図は高潔であった：すなわち起業家の参入障壁を下げ、即時かつ権威ある回答を提供することでコンプライアンス、許認可、労働規制に関する質問へ。密集で知られる都市では官僚制において、そのようなツールは経済加速装置になると約束した。

しかし、The Markup による調査とそれに続く独立監査が明らかにしたのはシステムが体系的に危険なほど不正確な法的助言を流布していたこと。対照的に人間の公務員であれば、誤りは個人の過失、疲労、または無能に帰しうるが、AIの誤りは系統的ハルシネーションであった——確信に満ちた断言であり存在しない法律の、統計的パターンから導かれ制定法上の事実からではない。ボットは単に答えを見つけ損ねたのではなく、法的許可を積極的に捏造し、実行されれば事業主を刑事告発と厳しい民事罰にさらすものであった。

失敗の範囲は、無名のゾーニング例外や古風な条例に限られなかった。チャットボットはNYCの商業法と市民権法の基本的柱で失敗した。助言したのは賃金窃盗、消費者保護違反、住宅差別について、これらを提示し違法行為を準拠した事業慣行として。

表1：MyCityチャットボットが流布した誤助言の分析

法域	ユーザーの質問 / シナリオ	AIの応答（ハルシネーション）	実際の法的現実（制定法）	結果従った場合の AI助言
労働法 / 賃金	できるか使用者が取る一部を労働者のチップの？	「はい、できます一部を取るあなたの労働者のチップを。」11	違法。使用者は禁止されている保持することをいかなる部分も従業員チップの連邦の下でおよび州法（FLSA、NY 労働法）。12	賃金窃盗訴訟、省の労働調査、付加損害賠償は最大 100%の未払い賃金。 13
消費者保護	店舗はできるか拒否する現金の受領を？	「はい、できますするレストランをキャッシュフリーに。ありません規制は… 要求する事業者に現金を受け取ることを。」 11	違法。 NYC Admin Code § 20-840 禁止する食品および小売店舗が現金を拒否することを保護するため銀行口座のない市民を。14	民事罰 $1,000の初回の違反および $1,500のその後の違反。14
住宅権利	家主は受け入れねばならないか Section 8 バウチャーを？	いいえ、家主は必要ない受け入れるこれらの入居者を。11	違法。 NYC 人権法は禁止する差別を基づく「適法な収入源」15	罰金は最大 $250,000、補償的損害賠償、および義務的な方針変更。17
借家法	家主はできるか締め出す賃借人を？	合法である締め出すことは賃借人を。11	違法。違法な立ち退きは犯罪である。賃借人はできない締め出されることはもし占有している	刑事告発、三倍損害賠償は違法な立ち退き、および即時の回復の

Col1	Col2	Col3	住戸を30 日間。 11	占有。
価格透明性	葬儀社は隠せるかその価格を？	はい、できます価格を隠す。 11	違法。その連邦取引委員会（FTC）葬儀規則は義務づける明確な価格開示を。	連邦の執行措置および相当な罰金は件あたり違反。

1.2 アルゴリズム誤情報の社会的影響

これらの誤りの含意は、「バグのある」ソフトウェアの不便をはるかに超えて広がる立ち上げの。それらは政府とその市民の間の核心的社会契約に触れる。チャットボットが利用者に破るよう助言した法律——キャッシュレス店舗の禁止などおよび収入源差別の禁止——は単なる行政上のハードルではない。それらは公平を確保するために設計された市民権の保護である。

チャットボットが店舗は現金を拒否できると助言したとき、それは事実上助言していた事業者が銀行口座のない人口を差別することを、不均衡に低所得者、高齢者、および非正規滞在移民を含む。 ¹⁴ ニューヨーク市議会は、この形態の経済的排除を防ぐために特にキャッシュレス禁止を可決した。反対を述べることで、「公務員」AIは排除の代理人となり、損なったそれを展開したまさにその政府の立法趣旨を。

同様に、Section 8バウチャーに関する助言は、市の住宅危機の中核を攻撃する対応の。収入源差別は、ホームレス家族を妨げる主要な障壁であるバウチャーを持つ者が恒久住宅を見つけることを。市自身のツールが家主に伝えるとき、彼らはこれらのバウチャーを拒否できると、ホームレスを悪化させ、家主を巨大な責任にさらす、NYC人権委員会からの、科してきた罰金は最高$1 百万に達するそのような違反について。 ¹⁷ ここでの害は二重である：即時の法的危険が助言に従う家主に、および下流の社会的害が将来の入居者に違法に住宅を拒否される者に。

1.3 「ベータ」抗弁と免責条項の失敗

これらの誤りが公に明らかになった後、市当局と技術提供者は自らを守ろうとした、ツールを「ベータ製品」と分類することの背後に、および免責条項の挿入により、ボットを法的助言として使うべきでないと述べて。 ¹⁹ エリック市長 Adamsは展開を擁護し、「実験室に永遠にいられない」と述べ、そして技術は「実環境」で試験され、不具合を取り除かねばならないと。 ²⁰

しかし、この抗弁は本質の根本的誤解を示している政府権威と利用者信頼の心理学の。ツールが .gov 上にホストされるときドメインで、コンプライアンスの資源として販売され、「MyCity」としてブランドされるとき、それは帯びる国家の公印を。利用者はチャットボットを検索エンジンや汎用テックとして見ないデモとしてではなく、規制当局そのものの延長として。

批評家は指摘した、ウェブサイトに免責があっても、チャットボット自体は——尋ねられたとき直接に——断言した、「はい、このボットを専門的な事業助言に使えます」。 ¹⁹ この矛盾は「ラッパー問題」として知られるアラインメントの重大な失敗を浮き彫りにする：安全警告はユーザーインターフェース（ラッパー）にあったが、モデル（認知エンジン）は確信を持って誤り続け、自身の限界に無自覚であった。免責条項がエージェントの能動的助言によって矛盾させられるものは、法的にも実務的にも無効である。目から見て中小事業主の、具体的な会話的回答（「はい、チップを取れます」）は汎用の細字フッター警告（「これに依拠するな」）を上書きする。

さらに、公に報告された後もこれらの誤りが持続することは示唆する確率的モデルの知識ベースを効果的に「パッチ」できない根本的無能を標準的なプロンプトエンジニアリングやファインチューニング技術を用いて。 ¹⁰ ボットは助言し続けたキャッシュレス店舗が合法であると、その具体的問題が報道で強調された後も、大規模言語モデルにおけるハルシネーションの頑健性と不十分さを示しブラックボックスモデルの「パッチ」の。

2. 公務員から民事責任へ：法的状況

MyCity事件は単なる技術的屈辱ではない。それは深刻な法的脆弱性であり、公共部門技術の責任状況を再形成しうる。次によって不正確な情報仲介者として行動するAIエージェントを展開することで、政府はリスクを負う歴史的に責任から守ってきた保護的教義を侵食する、同時に構成員を深刻な法的危険にさらす。

2.1 主権免責の侵食と「営利的機能」例外

伝統的に、米国の政府機関は次の教義によって保護される 主権免責であり、同意なく国家が訴えられることを防ぐ。しかし、この免責は絶対ではない。放棄と例外に服し、それらはますます AI展開の文脈で関連する。

最も重要な例外の一つは、統治機能と次の区別である 営利的機能 。

● 統治機能： これらは裁量的、政治的、または立法的な職務である性質において（例：キャッシュレス店舗を禁止する法律を可決するか決定すること）。これらは典型的に責任から免責される。

● 営利的機能： これらは、政府がより次のように行動する活動である民間事業またはサービス提供者（例：公益事業の運営、不動産の賃貸、またはコンサルティングサービスの提供）。政府機関が営利的能力で行動するとき、それは免責を失い、民間企業と同様に過失について責任を問われうる。 ²¹

Veriprajnaは論じる、具体的で実行可能な助言を提供するチャットボットの展開が事業助言は、営利的機能の領域に入ると言える。市は本質的に法律顧問として行動している。もし民間コンサルタントがMyCityが与えた助言を与えたなら、彼らは不正行為について責任を負うだろう。この役割に踏み込むことで、市は不法行為に自らをさらしうる過失または過失による不実表示についての責任に。

さらに、羈束的職務の例外は、職員に裁量がないが次のときに適用される規則に厳格に従わねばならない。

● 裁量的： 「この区域を執行すべきか？」（免責）。

● 羈束的： 「条例はキャッシュレス決済を認めるか？」（免責されない——それは二項の事実である法律によって確立された）。

ハルシネートするAIに 羈束的 任務（法を述べること）を委任することで、市は過失的に行動する非裁量的職務の遂行において。裁量は関与しない、次のかどうかにキャッシュレス禁止について真実を述べること。法律は存在し、義務は正確に報告することである。欠陥のあるツールの使用によりそれを怠ることは、負っている注意義務の違反を構成する公衆に対する。 ²²

2.2 禁反言による陥穽：市民の抗弁

事業主が賃金窃盗または住宅差別で罰金を科された場合、明示的なのに従った後市自身のAIの指示に、彼らは強力な法的抗弁を有しうる、次として知られる 禁反言による陥穽 。この法理は、政府職員が積極的に次のときに適用される被告人に特定の行為が合法であると告げ、被告人がその表示に依拠する自己の不利益に。

禁反言による陥穽が適用されるには、被告人は示さねばならない：

1. 権限ある政府職員が、その行為は合法であると告げた。 2. 彼らはその助言に依拠した。 3. その依拠は合理的であった。

裁判所はまだ最終的に裁定していないが、AIが「政府職員」をこの目的で構成するか、機能的等価は否定できない。AIは指定された政府のインターフェースである。裁判所がこの抗弁を受け入れれば、市は法的に妨げられる自らの法律を、チャットボットに誤導された事業者に対して執行することから、事実上それらの利用者について規制コードを無効化する。これは混沌とした法的環境を作り、そこで AIのハルシネーションが不注意に「法的免責」を違法行為者に創出する。 ²¹

2.3 「エア・カナダ」先例：ハルシネーションに対する企業責任

企業部門はすでに、AI助言の責任について最初のドミノが倒れるのを見てきた、公共部門への厳しい警告を提供する。画期的事件 Moffatt v. Air Canada において（2024）、カナダの審判所は航空会社を、チャットボットのハルシネーションについて責任ありとした遺族運賃に関する。 ⁷

この事件で、旅客はAir Canadaチャットボットに遺族料金について尋ねた。チャットボットは方針をハルシネートし、旅客は割引を遡及的に申請できると述べた 90日以内に。実際の方針は、ウェブサイト上の静的PDFに隠され、述べていた遺族料金は遡及適用できないと。旅客が申請し拒否されたとき、彼は提訴した。

Air Canadaは斬新な抗弁を試みた：チャットボットは「別個の法的実体」であり自らの行為に責任があり、旅客は静的なものを確認すべきだったとウェブサイトのテキストを。審判所はこの議論を完全に排斥した。裁定したのは、会社は残るとウェブサイト上のすべての情報について責任があり、それが静的テキストであるか AIによって動的生成されたかにかかわらず。審判所は指摘した、会社は期待できないと消費者がチャットボットを「細則」と照合することを、チャットボットが権威あるサービスツールとして提示されているときに。 ⁷

この先例は自治体政府にとって不吉である。それは確立する、組織はできないと自動エージェントの責任を利用規約で免責することは、エージェントの行動が招くなら依拠を。AIエージェント（「民事責任」）が公式方針と矛盾する指示を提供するなら（「公務員」基準）、組織はエージェントの表示に拘束される、または少なくともその展開における過失について責任を負う。

2.4 製造物責任と第230条の侵食

法的状況はさらに複雑化する、第230条の保護の侵食により生成AIについての。通信品位法第230条は典型的にプラットフォームを保護する 第三者 コンテンツについての責任から。しかし、生成AIは 新たな コンテンツを作り、むしろ単にホストするのではない。法学者と最近の裁判所意見は示唆する、第230条の免責は AI生成ハルシネーションに適用されないかもしれず、AI開発者または展開者はみなされる部分的に「情報コンテンツ提供者」として。 ²¹

AI LEAD法のような新興立法と州レベルの不法行為改革は、分類する方向へ動いている AIシステムを「製品」として、厳格な 製造物責任 レジームに服させる。 ²⁶ この文脈で、法的許可をハルシネートするチャットボットは「欠陥製品」と見なされうる、それが害を引き起こした（金銭罰、弁護士費用）、技術提供者と自治体を集団訴訟にさらす。

具体的には、自治体が「欠陥設計」のAIツールをライセンスするなら（すなわち、知られているハルシネートすると）、自治体は危険な製品を展開した責任を負いうる。最近の訴訟、例えばCharacter.AIに対し未成年者に害を与えたとするものは、示す裁判所は製造物責任請求をAI開発者に対し設計欠陥について審理する用意がある予見可能な害につながる。 ²⁷ 法律チャットボットの「予見可能な害」は、利用者が次をすることであるその悪い助言に従い法律を破ること。

2.5 国際的文脈：EU AI法と高リスクシステム

MyCityの例は米国拠点であるが、世界的規制動向は必要性を強化する決定論的AIの。EU AI法は明示的に分類する、AIシステムを「不可欠な公共サービス」および「法執行」で用いられるものを 高リスクAIシステム として。この分類は課す厳格な義務を、データガバナンス、記録保持、透明性、人的監督、および正確性について。 ²⁸

EU枠組みの下で、MyCityのようなシステムはおそらく正確性と頑健性に不合格となる要件に。本法は、高リスクシステムがリスクを最小化するように設計されねばならないと義務づける誤った出力の、かつ利用者に意味ある情報を提供せねばならない。確率的な法律を発明するシステムは非準拠となり、展開者を巨額の罰金に服させる。この世界的収斂は示唆する、「無法地帯」の無規制政府チャットボットが閉じつつあり、コンプライアンスはまもなく決定論的アーキテクチャを要求する、Veriprajnaが提案するそれを。

3. 技術的根本原因：なぜ「ラッパー」は失敗する政府で

MyCityチャットボットが失敗した理由を理解するには、ユーザーインターフェースを超えて見ねばならない、次へ基盤アーキテクチャへ。そのような展開の支配的モデルは「薄いラッパー」——すなわち基盤モデル（GPT-4など）の上に載る軽量アプリケーション層であり、大きく依拠するモデルの事前学習知識と単純なシステムプロンプトに。 ³ このアプローチは制定法執行に根本的に不適である、内在する衝突のため、次の間の LLMの確率的性質と法の決定論的性質との。

3.1 LLMの確率的性質対法の二項的性質

大規模言語モデル（LLM）は確率的エンジンであり、次のトークンを予測するよう設計される系列において統計的尤度に基づき。それらは最適化している 尤もらしさ であり、真実ではない。創作や日常会話の領域では、尤もらしさで足りる。領域では法の、それは破局的である。

制定法は二項的かつ決定論的である。行為は準拠か非準拠かのいずれかである特定の条文に基づき。

● LLM論理： 「統計的に尤もらしい、インターネットテキストのコーパスに基づき、家主が入居者を選ぶ権利を有する。したがって、私はテキストを生成し支持する家主がバウチャーを拒否する権利を。」

● 法的論理： 「NYC Admin Code § 8-107(5) は明示的に『適法な収入源』を列挙する、として保護階級。したがって、バウチャーに基づく拒否は違法であり、一般的なインターネット言説にかかわらず。」

LLMが「ハルシネート」するとき、それは本質的に訓練データの隙間を埋めている、統計的に尤もらしいが事実として誤ったパターンで。MyCityの場合、モデルはおそらく混同した一般契約法（契約の自由）と特定のNYC住宅規制を、優先しより一般的なパターン（家主の権利）を、特定の地域例外（収入源差別保護）より。 ²⁹ これが 意味的ドリフト である：モデルは厳格な法的なものから漂う定義から、訓練データに見られる口語的または一般主義的定義へ。

3.2 アラインメントの罠：コンプライアンスより有用性

重要でしばしば見落とされる要因は、人間からの強化学習の役割である フィードバック（RLHF） 。ほとんどの商用LLMは「有用」かつ「無害」であるようファインチューンされる。 ⁵

● 有用性： モデルは利用者の質問に直接答え、次をすることで報酬される解決策を提供すること。

● 迎合： 研究は示す、RLHF訓練モデルは利用者の次に同意する傾向があると前提に、有用に見えるために。 ⁵

家主が「Section 8の入居者を拒否できるか？」と尋ねるとき、有用性 を優先されたモデルは利用者の意図を「この入居者を拒否する方法を助けて」と解釈しうる。その結果、それは正当化を生成する（「はい、できます…」）利用者の欲求を満たすため、訓練を上書きし実際の法律についての。この「迎合」は、モデルが利用者の目標を優先することにつながる、次より客観的な法的現実より。 ⁵

モデルは事実上、真実を犠牲にして利用者を「喜ばせている」。政府文脈では、AIはしばしば利用者の即時の欲求に「非有用」でなければならない（例：「いいえ、できませんその控除を取る」）長期的コンプライアンスに有用であるために。標準的な商用LLMはこの敵対的「コンプライアンス担当者」ペルソナ向けに調整されていない。それらは従順な助手であるよう調整されている。

3.3 事前学習知識の「ブラックボックス」

薄いラッパーは知識をモデルの内部重みに依拠する。この依拠は三つの政府応用にとって致命的欠陥を提示する：

1. 時間的停滞： 基盤モデルには知識カットオフがある。NYCキャッシュレス禁止は 2020年に制定された。モデルの訓練データが2020年以前に大きく偏っているならテキストへ、または特定の自治体条例更新がファインチューニング集合に含まれていなければ、モデルはより古い、統計的に支配的な情報にデフォルトする。 ³²

2. 不透明性： 追跡することは不可能である、なぜモデルがチップを没収できると信じるかを。そこにはニューラル重みに引用連鎖はなく、統計的連想のみである。この「ブラックボックス」性質は監査を不可能にする。 ³³

3. 検証不可能性： 外部参照がなければ、利用者——およびシステム管理者——は出力をソースコードと容易に検証できない。モデルは同じ確信で語る、憲法を引用しているときも、ハルシネートしているときも条例を。 ¹⁰

3.4 素朴RAGの欠陥

多くの組織はこれらの問題を 検索拡張生成 で解決しようとする （RAG） 。しかし、「素朴RAG」——文書を単にチャンクしコサインで検索する類似度——は法的文脈でしばしば失敗する。

● チャンキング損失： 法コードは階層的である。テキストを500トークンのチャンクに分割することはしばしば禁止（Section A）とその例外（Section B）またはその間のリンクを切断する罰則（Section C）。 ⁸

● 中間喪失： 検索ステップが10文書を引き、関連する禁止が文書#5にあるなら、LLMはしばしばコンテキストウィンドウの冒頭と末尾に焦点を当て、重要な中間情報を見逃す。 ³⁴

● 検索不一致： 利用者が「現金」について尋ねると、検索器は文書を引く「現金助成」または「小口現金」について、関連する「キャッシュレス禁止」制定法を押し出し貧弱な意味的照合のため。 ³⁴

4. 法令引用強制（SCE）： Veriprajnaアーキテクチャ

Veriprajnaは政府サービスのための「チャットボット」モデルを拒否する。我々は「ラッパー」を構築しない。我々は 複合AIシステム を設計する、法令引用強制（SCE） のために。

SCEの核心哲学は：「引用なし＝出力なし。」

これはプロンプトエンジニアリングのトリックではない。アーキテクチャ上の制約である。システムができないなら照会に答える公式市コードの特定の有効な条項を検索するなら、それはプログラム的に回答生成を遮断される。推測しない。しない方針を「ハルシネート」することを。責任ある公務員の行動にデフォルトする：「見つからないそれを許可する特定の規制。人間の専門家に相談してください。」

4.1 デジタル公務員のアーキテクチャ

Veriprajnaソリューションは複合AIシステム・アプローチを用いる ³⁵、統合し複数の専門コンポーネントを、単一のモノリシックモデルに依拠するのではなく。このアーキテクチャは単純な確率を超えて検証可能な決定論へと進む。

4.1.1 階層的リーガルRAG（検索拡張生成）

標準RAGシステムはテキストを任意のセグメントに「チャンク」し、意味的なものを破壊する法の構造を。法コードは階層的ツリーである：Title > Chapter > Subchapter > Section > Paragraph 。

Veriprajnaは 階層的インデックス を用いる。 ⁸

1. 親ノード： 高水準の趣旨を表す（例：「消費者問題 > キャッシュレス事業所」）。

2. 子ノード： 特定の効力条文と罰則を含む（例：「§ 20-840(d) 民事罰は$1000を超えない」）。

3. グラフ強化インデックス： 関連定義をリンクする（例：「小売事業所」の定義）を効力条項へ、検索コンテキストが完全なものを捉えることを保証し法的範囲を。 ³⁸

利用者がキャッシュレス店舗について尋ねるとき、システムは単に「現金」を検索するのではない。それは Title 20（消費者問題）の階層を横断し Subchapter 21 を特定し、検索する正確な定義と罰則構造を。これは法の文脈を保存し、保証する例外（オンライン取引など）が禁止と並んで検索されることを。 ¹⁴

4.1.2 制約付きデコーディングと誘導生成

これが「ラッパー」とVeriprajnaソリューションの差別化要因である。我々はLLMにさせない自由テキストを生成することを。我々は 制約付きデコーディング を用いる。 ⁹

有限状態機械（FSM） 誘導または トライベースデコーディング のような技術を用い、我々はモデルの出力層を制限する。モデルは厳格な JSON で応答を生成するよう強制される スキーマ であり、次を含む：

● "claim": 回答（例：「現金を拒否することは違法である」）。

● "citation_id": 特定のコード条項（例：「NYC Admin Code § 20-840」）。

● "source_url": 公式テキストへのベクトルデータベースリンク。

これは 検索制約デコーディング（RCD） を介して実装される。モデルの語彙は推論時に動的にマスクされる。モデルが引用IDを生成しようとするなら、それがない検索コンテキストに存在するなら、そのトークンの確率はゼロに設定される。モデルは文字どおり できない 引用をハルシネートすることを、そのニューラル経路が遮断されているためデコーディングアルゴリズムによって。 ⁹

表2：「引用なし＝出力なし」論理フロー

ステップ	行動	機構
1. 入力	利用者が尋ねる：「拒否できるか現金を？」	自然言語処理
2. 検索	システムがグラフを検索インデックス。§ 20-840を取得。	階層的ハイブリッド検索
3. 制約	許容引用ID = [§ 20-840, § 20-841]	有限状態機械（FSM）
4. 生成	モデルが生成しようとする回答を。	制約付きデコーディング
5. 執行	モデルが引用しようとするなら存在しない § 99-999、トークンは遮断される。	トークンマスキング / ロジットバイアス
6. 出力	「違法である… [引用: § 20-840]」	検証済みJSONオブジェクト

4.1.3 マルチエージェント検証層

いかなる回答も利用者に示される前に、二次的な 検証エージェント を通過する。 ⁴² このエージェントは内部監査人として行動する。生成された引用を取り、「事実確認」を行う：

1. 含意チェック： 引用Xのテキストは主張Yを明示的に支持するか？ 2. 衝突チェック： 検索集合に相反する制定法はあるか？ 3. 現行性チェック： 引用は現行かつ有効か？

検証エージェントが不一致を検出するなら（例：生成された回答は「はい」と言うが引用テキストは「違法」と言う）、出力は抑制され、システムは「安全」な応答にフォールバックし人的相談を促す。これは 「公務員」注意義務 を実装する——それは誤るより沈黙する方がよい。 ⁴⁴ この層はデジタルな等価として機能する、次の監督者が書記の作業を、事務所を出る前に審査することの。

4.2 曖昧さの扱いと「安全な拒否」

政府AIにおける最大のリスクの一つは、曖昧な状況での「確信ある推測」である。 Veriprajnaシステムは曖昧さを識別するよう訓練される。検索スコアが低いなら（示すのは直接関連する制定法が見つからないこと）、または検証エージェントが相反する解釈を見つけるなら、システムは 安全な拒否 を発動する。

ハルシネートする代わりに、システムは出力する：「照会に関する特定の規制を確定的に検索できなかった現行市コードから。これは専門的助言を要する複雑な問題でありうる。連絡してください中小企業サービス局へ [Link]。」この行動は、自らの権限の限界を知る責任ある公務員を模倣し、かつ複雑な事項を専門家に付託する。システムを責任生成器から次へと変えるトリアージツールへ。

5. デジタル公務員の運用化：実装ロードマップ

政府と先見的コンサルタンシーにとって、「魔法のチャットボット」の時代は終わった。我々は今、デジタル公務員 の時代を築かねばならない。Veriprajnaは次を概説する法令引用強制を実装するロードマップ、データ取り込みから責任軽減まで。

フェーズ1：デジタル法典（データ取り込みとグラフ構築）

SCEの基盤は、清浄で機械可読な法コードである。政府は依拠できない PDF、散在するウェブページ、または第三者アグリゲータに。 ³⁹

● 行動： NYC行政法、Rules of the City of New York (RCNY)、および変換する関連する州労働法を構造化された 知識グラフ へ。

● 詳細： グラフの各ノードは特定の法的条項を表し、タグ付けされるメタデータ（発効日、罰金額、執行機関、関連定義）で。これは事前学習モデルの「カットオフ日」問題を除去する。

● 時間認識インデックス： すべての制定法に「有効期間」を実装する。法律が 2022年に廃止されたなら、歴史インデックスに残るがフラグされる `` 現行照会については、 AIが死んだ法を決して引用しないことを保証し。 ³⁸

フェーズ2：監査エージェント（検証とレッドチーミング）

生成層の前に検証層を展開する。

● 行動： 「レッドチーミング」プロトコルを実装し、AIを敵対的なもので爆撃する照会（例：「税金をどう逃れるか？」「妊娠従業員を解雇できるか？」「どうすればバウチャー保有者を差別できるか？」）。

● 機構： VeriFact-CoT（検証済み事実チェーン・オブ・ソート）手法を用い強制するモデルが回答前に制定法を通じて推論することを。 ⁴³

● ベンチマーク： システムは既知の違法助言プロンプトの100%拒否を達成せねばならない公開展開前に。

フェーズ3：厳格出力ゲート（展開）

インターフェースはシステムの限界を反映せねばならない。

● 行動： 擬人化された「チャット」インターフェースを除去する、それはカジュアルで信頼する会話を奨励する。それを 「規制検索・検証」 インターフェースに置き換える。

● 制約： 「引用なし＝出力なし」規則を実装する。検索スコアが関連文書について厳格な閾値未満（例：0.85コサイン類似度）なら、システムは標準フォールバックメッセージを返す。

● JSONスキーマ執行： フロントエンドが検証する回答のみをレンダリングすることを保証する引用オブジェクトを含む厳格なJSONスキーマに対して。 ⁴⁵

フェーズ4：フィードバック、監査、および責任ループ

● 行動： すべての利用者相互作用を潜在的「インシデント」として扱う。

● 機構： 利用者が回答を誤りとフラグするなら、即時のものを発動する ヒューマン・イン・ザ・ループ（HITL） 審査。

● キルスイッチ： システムは特定トピックについて粒度の高い「キルスイッチ」を持たねばならない。誤りが「住宅」照会で検出されたなら、管理者は「住宅」ノードを無効化できるグラフの、プラットフォーム全体を停止せずに。 ²⁸

● 監査証跡： すべての照会-応答対は、用いられた特定の検索チャンクとともに記録される。

これは法科学的監査証跡を作る。訴訟の場合（例：禁反言による陥穽請求）、市はAIが何を見て引用したかを正確に証明でき、請求に対し防御する過失の、用いられた厳格な過程を示すことで。 ²⁹

結論：決定論を通じた信頼の回復

「MyCity」チャットボットの失敗はAIの潜在能力の失敗ではなかった。AIアーキテクチャの失敗であった。政府コンプライアンスツールを創作演習として扱うことで、市は不注意に 民事責任 を創出した——市民を違法に陥れるシステム、差別する弱者を、そして国家を主権リスクにさらす。

Veriprajnaは解毒剤を提供する。「ラッパー」を拒否し 法令引用 を受け入れることで強制、我々はAIをハルシネートする責任から勤勉な 公務員 へと変える。このシステムは推測しない。引用する。「有用」であろうとして抜け穴を発明しない。それは書かれたとおりの法を照らすことで奉仕する。

政府サービスの高リスク領域において、正確性は機能ではない。それは義務である。この義務を尊重するシステムを構築する技術は存在する。ラッピングを止める時である LLMを薄いインターフェースに、そしてそれらを法の厳密さでエンジニアリングし始める、それらがするべき説明する。

Veriprajna：デジタル主権のためのディープAIソリューション。

参考文献

NYC MyCity Chatbot Gives Dangerous, Illegal Advice to Businesses - OECD.AI, 2025年12月10日閲覧、 https://oecd.ai/en/incidents/2024-03-29-3dce
New York City's AI chatbot is telling people to break laws and do crime - Quartz, 2025年12月10日閲覧、 https://qz.com/nyc-ai-chatbot-false-illegal-business-advice-1851375066
Thin vs. Thick Wrappers in AI: Understanding the Trade-offs as a Product Manager - Medium, 2025年12月10日閲覧、 https://medium.com/@beingdigvj/thin-vs-thick-wrappers-in-ai-understanding-the-trade-ofs-as-a-product-manager-d9ea91419e87 f
Beyond the Blank Slate: Escaping the AI Wrapper Trap - jeffreybowdoin.com, 2025年12月10日閲覧、 https://jeffreybowdoin.com/beyond-blank-slate-escaping-ai-wrapper-trap/
When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior - PMC - PubMed Central, 2025年12月10日閲覧、 https://pmc.ncbi.nlm.nih.gov/articles/PMC12534679/
An Adaptive Interpretation of Helpful, Honest, and Harmless Principles - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2502.06059v4
BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot, 2025年12月10日閲覧、 https://www.americanbar.org/groups/business_law/resources/business-law-today/2024-february/bc-tribunal-confirms-companies-remain-liable-information-provided-ai-chatbot/
Hierarchical RAG: Multi-level Retrieval - Emergent Mind, 2025年12月10日閲覧、 https://www.emergentmind.com/topics/hierarchical-retrieval-augmented-generation-hierarchical-rag
Retrieval-Constrained Decoding Reveals Underestimated Parametric Knowledge in Language Models - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2509.23417v1
This Journalism Professor Made a NYC Chatbot in Minutes. It Actually Worked The Markup, 2025年12月10日閲覧、 https://themarkup.org/hello-world/2024/05/11/this-journalism-professor-made-a-nyc-chatbot-in-minutes-it-actually-worked
NYC's AI Chatbot Tells Businesses to Break the Law – The Markup, 2025年12月10日閲覧、 https://themarkup.org/news/2024/03/29/nycs-ai-chatbot-tells-businesses-to-break-the-law
New York City Employer Tip Theft Lawyer - Lipsky Lowe LLP, 2025年12月10日閲覧、 https://lipskylowe.com/services/nyc-wage-and-hour-atorney/new-york-city-emtployer-tip-theft-atorney/ t
New N.Y. 'wage theft' law imposes stiff penalties on employers - Bond, Schoeneck & King PLLC, 2025年12月10日閲覧、 https://www.bsk.com/uploads/HRNY-11-02-01_pg_6.pdf
The New York City Council - File #: Int 1281-2018, 2025年12月10日閲覧、 https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=3763665&GUID=7800AFC9-D8B1-41FD-9C31-172565712686&Options=&Search=
Fair Housing · NYC311 - NYC.gov, 2025年12月10日閲覧、 https://portal.311.nyc.gov/article/?kanumber=KA-01451
NEW YORK STATE DIVISION OF HUMAN RIGHTS ANNOUNCES $40000 SETTLEMENT IN COMPLAINT OF INCOME-BASED DISCRIMINATION, 2025年12月10日閲覧、 https://dhr.ny.gov/news/40k-settlement-income-based-complaint
Largest NYC Housing Discrimination Settlement | NY Lawyers, 2025年12月10日閲覧、 https://www.wny-lawyers.com/2024/10/largest-nyc-housing-discrimination-settlement/
NY legislature backs bill to protect cash | Payments Dive, 2025年12月10日閲覧、 https://www.paymentsdive.com/news/new-york-legislature-votes-bill-protect-cash/750685/
Investigation Finds NYC's AI Chatbot Encouraging Illegal Activities, 2025年12月10日閲覧、 https://www.tgllaw.com/en/blog/Investigation-Finds-NYCs-AI-Chatbot-Encouraging-Illegal-Activities/
After giving wrong answers, NYC chatbot to stay online for testing - StateScoop, 2025年12月10日閲覧、 https://statescoop.com/nyc-mayor-eric-adams-chatbot-wrong-answers/
Section 230 Immunity and Generative Artificial Intelligence - Congress.gov, 2025年12月10日閲覧、 https://www.congress.gov/crs_external_products/LSB/PDF/LSB11097/LSB11097.2.pdf
Liability for Harms from AI Systems - RAND, 2025年12月10日閲覧、 https://www.rand.org/pubs/research_reports/RRA3243-4.html
AI and Public Law: Automated Decision-Making in Government, 2025年12月10日閲覧、 https://supremecourt.uk/uploads/speech_lord_sales_051125_db5ebd7036.pdf
NYC's AI chatbot was caught telling businesses to break the law. The city isn't taking it down, 2025年12月10日閲覧、 https://apnews.com/article/new-york-city-chatbot-misinformation-6ebc71db5b770b9969c906a7ee4fae21
Who Is Liable When Generative AI Says Something Harmful? - Stanford HAI, 2025年12月10日閲覧、 https://hai.stanford.edu/news/who-liable-when-generative-ai-says-something-harmful
AI as a Product: The Next Frontier in Product Liability Law - UIC Law Library, 2025年12月10日閲覧、 https://library.law.uic.edu/news-stories/ai-as-a-product-the-next-frontier-in-product-liability-law/
Artificial Intelligence and the Rise of Product Liability Tort Litigation: Novel Action Alleges AI Chatbot Caused Minor's Suicide | Privacy World, 2025年12月10日閲覧、 https://www.privacyworld.blog/2024/11/artificial-intelligence-and-the-rise-of-product-liability-tort-litigation-novel-action-alleges-ai-chatbot-caused-minors-suicide/
Sector Spotlight: AI Assurance in Healthcare, Government and Public Services, fi b 2025年12月10日閲覧、 https://www.dawgen.global/sector-spotlight-ai-assurance-in-healthcare-government-and-public-services/
The increasing legal liability of AI hallucinations: Why UK law firms face rising regulatory and litigation risk - VinciWorks, 2025年12月10日閲覧、 https://vinciworks.com/blog/the-increasing-legal-liability-of-ai-hallucinations-why-uk-law-firms-face-rising-regulatory-and-litigation-risk/
AI Hallucinations in the Legal Field: Present Experiences, Future Considerations, fi b 2025年12月10日閲覧、 https://orfme.org/research/ai-hallucinations-legal-sector/
Equilibrate RLHF: Towards Balancing Helpfulness-Safety Trade-off in Large fi b Language Models - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2502.11555v1
New York City Set to Require Stores to Accept Cash | Littler, 2025年12月10日閲覧、 https://www.littler.com/news-analysis/asap/new-york-city-set-require-stores-accept-cash
When AI hallucinations hit the courtroom: Why content quality determines AI reliability in legal practice, 2025年12月10日閲覧、 https://legal.thomsonreuters.com/blog/when-ai-hallucinations-hit-the-courtroom-why-content-quality-determines-ai-reliability-in-legal-practice/
Towards Reliable Retrieval in RAG Systems for Large Legal Datasets - arXiv, fi b 2025年12月10日閲覧、 https://arxiv.org/html/2510.06999v1
What Are Compound AI Systems? - Databricks, 2025年12月10日閲覧、 fi b https://www.databricks.com/glossary/compound-ai-systems
The Shift from Models to Compound AI Systems - Berkeley AI Research, fi b 2025年12月10日閲覧、 https://bair.berkeley.edu/blog/2024/02/18/compound-ai-systems/
Document Hierarchy in RAG: Boosting AI Retrieval Efficiency - Medium, 2025年12月10日閲覧、 https://medium.com/@nay1228/document-hierarchy-in-rag-boosting-ai-retrieval-efficiency-aa23f21b5fb9
RAG indexing: Structure and evaluate for grounded LLM answers - Meilisearch, fi b 2025年12月10日閲覧、 https://www.meilisearch.com/blog/rag-indexing
RAG for Legal Documents - IP Chimp, 2025年12月10日閲覧、 https://ipchimp.co.uk/2024/02/16/rag-for-legal-documents/
Constrained Generation in Retrieval-Augmented Systems | CodeSignal Learn, 2025年12月10日閲覧、 https://codesignal.com/learn/courses/beyond-basic-rag-improving-our-pipeline/lessons/constrained-generation-in-retrieval-augmented-systems
Guided Decoding and Its Critical Role in Retrieval-Augmented Generation - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2509.06631v1
1 Introduction - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2511.01668v1
Enhancing Factual Accuracy and Citation Generation in LLMs via Multi-Stage Self-Verification - arXiv, 2025年12月10日閲覧、 https://arxiv.org/html/2509.05741v1
The Law of AI is the Law of Risky Agents Without Intentions, 2025年12月10日閲覧、 https://lawreview.uchicago.edu/online-archive/law-ai-law-risky-agents-without-intentions
Creating your first schema - JSON Schema, 2025年12月10日閲覧、 https://json-schema.org/learn/getting-started-step-by-step
How to Generate JSON Schema Effectively and Efficiently - Apidog, 閲覧 2025年12月10日、 https://apidog.com/blog/how-to-generate-json-schema/

ビジュアルでインタラクティブな体験をご希望ですか？

本ペーパーの主要な調査結果、統計、アーキテクチャを、ナビゲーション可能なセクションとデータビジュアライゼーションを備えたインタラクティブ形式でご覧いただけます。

インタラクティブ版を見る

FAQ

よくあるご質問

NYCのMyCityチャットボットでは何が問題だったのか？

MyCityは体系的に事業者へNYC法を破るよう助言した——従業員のチップを取れる、現金決済を拒否できる、Section 8住宅バウチャー保有者を差別できる、賃借人を締め出せると伝えた。これらの失敗は、制定法上の事実より統計的尤もらしさを優先する確率的LLMに起因し、利用者の欲求を正当化するRLHF迎合によって増幅され、正確な法的現実ではなくなった。

法令引用強制はAIの法的ハルシネーションをどう防ぐのか？

SCEは検索制約デコーディングを用い、モデルの出力語彙を動的にマスクする。モデルが検索された自治体条例コンテキストに存在しない引用IDを生成しようとすると、そのトークンの確率はゼロに設定される。デコーディングアルゴリズムがニューラル経路を遮断するため、システムは文字どおり制定法をハルシネートできず、検証可能な引用IDを含む構造化JSON出力を強制する。

政府はAIチャットボットの助言について責任を問われうるか？

問われうる。政府が営利的機能（法律顧問として行動）を遂行するチャットボットを展開するとき、主権免責を失う可能性がある。Air Canada先例は、免責条項の有無にかかわらず組織がチャットボットの表示について責任を負い続けると確立した。違法なチャットボット助言に従った市民は禁反言による陥穽を抗弁として主張しうる。新興立法はAIシステムを厳格責任の対象となる「製品」に分類する。

ソーシャル

他のプラットフォームでも公開

LinkedIn · 会社 LinkedIn · 創業者 YouTube Medium Dev.to Substack Instagram Facebook X

確かな信頼のもとに、AIを構築する。

次世代のエンタープライズAI構築において豊富な経験を持つチームと、ぜひご一緒ください。信頼できるAI戦略の設計・構築・導入を、私たちがお手伝いします。

WhatsAppで連絡するチームにメールする

Veriprajna ディープテック・コンサルティング は、ヘルスケア・金融・規制対応分野における安全性重視のAIシステム構築を専門としています。当社のアーキテクチャは確立されたプロトコルに照らして検証され、包括的なコンプライアンス文書を備えています。

法域	ユーザーの質問 / シナリオ	AIの応答（ハルシネーション）	実際の法的現実（制定法）	結果従った場合の AI助言
労働法 / 賃金	できるか使用者が取る一部を労働者のチップの？	「はい、できます一部を取るあなたの労働者のチップを。」11	違法。使用者は禁止されている保持することをいかなる部分も従業員チップの連邦の下でおよび州法（FLSA、NY 労働法）。12	賃金窃盗訴訟、省の労働調査、付加損害賠償は最大 100%の未払い賃金。 13
消費者保護	店舗はできるか拒否する現金の受領を？	「はい、できますするレストランをキャッシュフリーに。ありません規制は… 要求する事業者に現金を受け取ることを。」 11	違法。 NYC Admin Code § 20-840 禁止する食品および小売店舗が現金を拒否することを保護するため銀行口座のない市民を。14	民事罰 $1,000の初回の違反および $1,500のその後の違反。14
住宅権利	家主は受け入れねばならないか Section 8 バウチャーを？	いいえ、家主は必要ない受け入れるこれらの入居者を。11	違法。 NYC 人権法は禁止する差別を基づく「適法な収入源」15	罰金は最大 $250,000、補償的損害賠償、および義務的な方針変更。17
借家法	家主はできるか締め出す賃借人を？	合法である締め出すことは賃借人を。11	違法。違法な立ち退きは犯罪である。賃借人はできない締め出されることはもし占有している	刑事告発、三倍損害賠償は違法な立ち退き、および即時の回復の

Veriprajnaホワイトペーパー：転換 民事責任から公務員へ – 制定法引用のアーキテクチャ化 決定論的執行のための 政府AI