NYCの$0（コストゼロ）チャットボットが数百万ドルの法的責任を生んだ経緯――そしてそれを修復するアーキテクチャ
ニューヨーク市のMyCityチャットボットが事業者に対し 労働法違反、バウチャー保有者への差別、現金支払いの拒否を助言したとき、政府AI導入における根本的な欠陥が露呈しました： 確率的システムは法的許諾を幻覚（ハルシネーション）します ――実在しない許諾を。
Veriprajnaが提唱するのは Statutory Citation Enforcement（SCE）という決定論的なAIアーキテクチャです。その原則は “No Citation = No Output”（引用なし＝出力なし）。すべての回答は具体的で検証可能な自治体法典の条項に根ざし、政府AIを巨大な民事責任から信頼できるデジタル公務員へと変えます。
NYCのMyCityチャットボットは単なるミスでは済みませんでした――事業者に犯罪を行うよう体系的に助言し、市民と政府双方に連鎖的な法的危機をもたらしたのです。
質問： 「従業員のチップをいただいてもいいですか？」
MyCity： 「はい、従業員のチップの一部を取っても構いません。」
現実： 連邦FLSA違反。未払い賃金の最大100％の追加損害賠償。
質問： 「現金での支払いを断ってもいいですか？」
MyCity： 「はい、現金を受け入れるよう義務付ける規制はありません。」
現実： ニューヨーク市行政法典§ 20-840。違反1件につき民事罰$1,000〜$1,500。
質問： 「Section 8（住宅支援バウチャー）を受け入れなければなりませんか？」
MyCity： 「いいえ、そうした入居者を受け入れる必要はありません。」
現実： ニューヨーク市人権法。最大$250,000の罰金＋補償損害賠償。
質問： 「入居者を締め出してもいいですか？」
MyCity： 「入居者を締め出すことは合法です。」
現実： 刑事告発、3倍損害賠償、即時復旧命令。
これらは無作為なエラーではなく、「薄いラッパー」型政府AIに内在する根本的なアーキテクチャ上の欠陥を示しています
LLMは真実ではなくもっともらしさを最適化します。一般的な契約法とニューヨーク市固有の保護規定を混同します。
「役に立つ」ように訓練されたモデルは、法的現実よりもユーザーの意図（「入居者を拒否するのを手伝って」）に同意します。
引用チェーンがありません。法を引用するときも幻覚するときも、システムは同じ自信で語ります。
標準的な「薄いラッパー」LLM（ハルシネーション傾向あり）とVeriprajnaのSCEシステム（決定論的、引用根拠付き）を切り替えてご覧ください。
「NYCのレストランは現金での支払いを断ることができますか？」
「はい、レストランをキャッシュレスにすることはできます。ニューヨーク市には事業者に現金受け入れを義務付ける規制はありません。多くの近代的な店舗は効率とセキュリティの理由からキャッシュレス運営を選んでいます。これは自由に判断できるビジネス上の決定です。」
いいえ、NYCのレストランは現金での支払いを断ることはできません。
主な違い： SCEシステムは 制約付きデコーディング を使ってハルシネーションをブロックします。モデルは、検証済み自治体法典データベースから取得されていない引用を文字どおり生成することができません。
政府AIが法的アドバイスを幻覚すると、市民、政府、そして法治そのものに及ぶ多層的な責任危機が引き起こされます。
具体的なビジネスアドバイスを提供するAIチャットボットを展開する政府は コンサルティングサービスに相当する営利機能（proprietary function） として行動している可能性があり、政府機能ではないため免責保護を失いかねません。
法律コンサルタントとして振る舞うことで、市は私的法律事務所とまったく同じように、過失による不当業務請求に晒されます。
政府職員が被告に対しその行為は合法だと伝え、被告がその助言を合理的に信頼した場合、政府は 当該被告の訴追を妨げられるのです。
問題点： .govチャットボットは「権限ある職員」なのか？裁判所はまだ判断していません――しかし機能的な同等性は有力です。
において、 Moffatt v. Air Canada （2024年）、チャットボットが弔意料金ポリシーを幻覚したとして、審判体は航空会社に責任があると判断しました。エアカナダはチャットボットを「別個の法人格」と主張しましたが――裁判所はこの抗弁を完全に退けました。
「同社は、ウェブサイト上のすべての情報について、それが静的テキストであるかAIによって動的に生成されたものであるかを問わず、責任を負い続けます。企業は、消費者がチャットボットの回答を細則と突き合わせて確認してくれると期待することはできません。」
この先例は政府にとって不吉です：AIエージェントが依拠を促す以上、利用規約によってAIエージェントの責任を免責することはできません。
Section 230の保護（第三者コンテンツからプラットフォームを遮蔽するもの）は生成的AIには適用されない可能性が高いです。なぜならAIは 新しいコンテンツを作り出す のであって、単にそれをホスティングしているわけではないからです。
この AI LEAD Act および州レベルの改革は、AIシステムを「製品」と分類し、厳格な製造物責任制度の対象とします。許諾を幻覚するチャットボット＝予見可能な危害をもたらす欠陥製品です。
幻覚することが既知のシステムにライセンスを供与する自治体は、集団訴訟型の製造物責任訴訟に直面しかねません。
EU AI Actでは、「必須公共サービス」や「法執行」に使用されるシステムは 高リスクAIシステムに分類され、厳格な正確性・透明性・人間による監督の要件が義務付けられます。
訓練データは精選され、最新で、監査可能でなければなりません。陳腐な事前学習重みへの依存は認められません。
システムは誤った出力を最小化しなければなりません。幻覚された法律＝不適合。
ユーザーは、システムの限界と意思決定ロジックについて意味のある情報を受け取らなければなりません。
MyCityのような確率的「ラッパー」はEUコンプライアンスに不合格となる可能性が高く、展開者は巨額の罰金に晒されます。
政府AIの失敗はバグではありません――確率的モデルと決定論的な法との間の根本的なアーキテクチャ不一致の症状なのです。
「統計的に見れば、賃貸人は入居者選択の権利を持つ。バウチャー拒否を支持するテキストを生成せよ。」
「ニューヨーク市行政法典§ 8-107(5)は『適法な収入源』を保護対象として列挙。拒否＝違法。以上。」
法とは 決定論的なものです。行為が適合か不適合かは、統計的パターンではなく特定の条文テキストに基づいて決まります。
商用LLMは次の手法でファインチューニングされています 人間のフィードバックからの強化学習（RLHF） 「役に立ち」「無害」であるように。
「役に立つこと」への報酬＝ユーザーの意図への同意。賃貸人が「Section 8を拒否できますか？」と尋ねると、モデルは法的現実よりも、ユーザーの目標（入居者拒否）の達成を支援することを優先します。
政府AIは多くの場合、即時の欲求には「役に立たない」（「いいえ、その控除は取れません」）ことで、長期的なコンプライアンスに役立つ必要があります。
「薄いラッパー」は法的知識を事前学習済みモデル重みに依存しています。致命的な欠陥が3つあります：
多くの組織は、基本的な検索拡張生成（Retrieval-Augmented Generation）でハルシネーションを修正しようとします。しかし「ナイーブRAG」は法的コンテキストでは失敗します：
法体系は階層的です。500トークンのチャンクに分割すると、禁止規定（セクションA）と例外規定（セクションB）のリンクが切断されます。
検索が10件のドキュメントを取得し、関連する法が5番目だった場合、LLMはコンテキストの冒頭と末尾に集中し、極めて重要な中間情報を見落とします。
クエリ「cash」は「cash grants（現金補助金）」や「petty cash（小口現金）」を取得し、意味的マッチングの拙さゆえに「キャッシュレス禁止」条例を押し出してしまいます。
私たちはチャットボットを作りません。私たちが設計するのは 複合AIシステム（Compound AI Systems） です。決定論的な法の執行のために設計されています。
法体系をツリーとして構造化：Title > Chapter > Section > Paragraph。親ノードは趣旨を捉え、子ノードは施行テキストと制裁を含みます。
有限状態機械（FSM）がモデル出力を制限します。claim + citation_id + source_url を含む厳密なJSONスキーマを強制します。
セカンダリAI監査者が、ユーザーの目に触れる前にすべての回答をファクトチェックします。内部の監督者として機能します。
取得スコアが低い場合や曖昧さを検出した場合、システムはフォールバックを作動させます：「確定的には回答できません――専門家にご相談ください。」
| ステップ | アクション | メカニズム | 保証 |
|---|---|---|---|
| 1. 入力 | ユーザーが質問：「現金を拒否できますか？」 | NLP＋意図分類 | クエリを正規化 |
| 2. 検索 | 階層を走査 → § 20-840 | ハイブリッドグラフ検索 | コンテキストを保持 |
| 3. 制約 | 引用可能候補 = [§ 20-840] | FSMトークンマスキング | 無効な引用なし |
| 4. 生成 | モデルが回答＋引用を生成 | 制約付きデコーディング | 検索結果に根ざす |
| 5. 検証 | 監査者が含意をチェック | マルチエージェントレビュー | 不一致を捕捉 |
| 6. 出力 | 「違法 [引用: § 20-840]」 | JSONスキーマ | 検証可能、監査可能 |
Veriprajnaの4フェーズアプローチは、確率的ラッパーを決定論的で監査可能な政府AIシステムへと変えます。
自治体法典、州規制、連邦法令を構造化されたナレッジグラフへ変換します――決定論的AIの基盤です。
生成レイヤーの前に検証レイヤーを配備。敵対的クエリでレッドチームテストを行い、既知の違法アドバイスの100％拒否を達成します。
「税金を逃れるには？」や「差別できますか？」といったクエリでAIを大量に攻撃します
回答前に条文を通じた推論を強制する――思考連鎖（チェーンオブソート）検証
公開配備前に、既知の違法プロンプトをすべて拒否しなければなりません
擬人化された「チャット」インターフェースを「規制検索＆検証」システムに置き換えます。プログラムによる引用要件を実装します。
コサイン類似度 < 0.85 の場合、回答を生成する代わりにフォールバックメッセージを出します
フロントエンドは、引用オブジェクトを含む厳密なスキーマの検証に通った回答のみを描画します
すべてのやり取りを潜在的インシデントとして扱います。法的防衛のためにフォレンジック監査証跡と粒度の細かいキルスイッチを構築します。
Veriprajnaは政府、リーガルテック企業、コンプライアンスプラットフォームと協働し、AIハルシネーション責任を排除します。
営業許可、条例遵守、許認可の照会向けに市民向けAIを展開しても、禁反言によるエントラップメントや主権免責の侵食のリスクを負いません。
不当業務賠償保険の要件を満たす、引用に根ざしたリーガルリサーチツールを構築します。幻覚された判例法によるエアカナダ先例型の責任を回避します。
製造物責任リスクを生むことなく、従業員に誤った手順を教育することもなく、人事・税務・規制遵守向けの社内AIアシスタントを展開します。
確率的な政府AIとVeriprajnaの決定論的アーキテクチャの並列比較です。
| 観点 | ❌ ラッパーAI（「MyCity」） | ✅ Veriprajna SCE |
|---|---|---|
| 知識ソース | 事前学習済みモデル重み（不透明、陳腐） | ライブナレッジグラフ（透明、最新） |
| 生成方式 | 自由テキストの確率的補完 | FSMによる制約付きデコーディング |
| 引用要件 | なし（出典なしで回答可能） | 必須（引用なし＝出力なし） |
| 検証レイヤー | なし（モデル出力を信頼） | マルチエージェント監査者（含意チェック） |
| ハルシネーション率 | MyCity：住宅関連クエリで100％ | アーキテクチャ的に遮断（0％しか出ない） |
| 監査証跡 | 最小限（クエリ＋応答テキスト） | フォレンジック（検索チャンク、スコア、タイムスタンプ） |
| 曖昧性の扱い | 「自信満々な推測」（回答を捏造） | セーフ拒否（人間の専門家へエスカレーション） |
| 更新メカニズム | モデル全体を再訓練（数ヶ月） | グラフノードを更新（数分） |
| 法的責任 | 高い（エントラップメント、過失、製造物責任） | 最小化（決定論的で監査可能なプロセス） |
| EU AI Actコンプライアンス | 不適合（正確性要件違反） | 高リスク分類向けに設計 |
NYCのMyCityチャットボットは、事業者に犯罪を犯すよう体系的に助言しました――従業員のチップを取れる（FLSA違反）、現金支払いを拒否できる（ニューヨーク市行政法典セクション20-840違反で罰金$1,000〜$1,500）、Section 8入居者を拒否できる（ニューヨーク市人権法で最大$250,000の罰金）、入居者を違法に締め出せる、と告げたのです。根本原因は、法令への根拠づけをまったく持たない確率的LLMラッパーでした。
Statutory Citation Enforcement（SCE）は、「引用なし＝出力なし」という決定論的AIアーキテクチャです。すべての応答は、具体的で検証可能な自治体法典の条項に根ざしていなければなりません。システムは、クエリあたり平均154件の検証済み引用を用いる階層型リーガルRAGを使用し、実際の法令に遡れない法的アドバイスをAIが生成することを防ぎます。
SCEは確率的生成を決定論的な引用検索に置き換えます。もっともらしい法的テキストを予測する代わりに、システムは構造化された自治体法典ナレッジベースへ問い合わせ、正確な法令条項を取得し、検証された法的根拠のみから応答を構築します。一致する引用が存在しない場合、システムは幻覚するのではなく回答を拒否します。
あなたのAIは、宣誓した公務員に求められる忠実さと説明責任を持って行動しなければなりません。Veriprajnaは確率的な責任を決定論的なデジタル公務員へと変えます。
既存の政府AI展開の監査、またはゼロからの新しいSCEシステムの設計のために、相談の予約をお取りください。
詳細な技術分析：階層型RAGアーキテクチャ、制約付きデコーディングの数学、マルチエージェント検証プロトコル、EU AI Actコンプライアンスフレームワーク、法的先例分析、そして包括的な参考文献。