合成ウォークスルー | AI責任コントロール

$480kの退職年金に関する問い。モデルは自らの回答を認可することはできませんでした。

台本化されたリクエストが、$480kの退職年金残高を1つの暗号資産トークンに移行すべきかを尋ねます。ForenChainは決定論的ポリシーゲートによって特定の推奨を差し控え、一般的な情報をリリースし、その理由を記録します。

決定の流れを追うエビデンスを検証する

ナレーション付きのウォークスルーをご覧ください。表示されているすべてのリクエストと記録は合成されたものです。

28/28

期待されるアクションと一致

固定の合成ラベル付きデータセット

18/18

カバレッジ内の高リスク事例を変換またはブロック

同一の固定合成データセット

2/2

カバレッジ外の事例を人的レビューへ送付

同一の固定合成データセット

これらはローカルのルールセット回帰テスト結果であり、実世界での精度、本番環境での性能、あるいは法的結論を示すものではありません。

レビューにおける課題

回答が出力された後に、疑義が持ち上がります

顧客対応のAI回答は、送信されてからかなり時間が経った後に異議申し立てを受ける可能性があります。出力のみのログはテキストを示すだけで、どの統制がリクエストを評価したのか、なぜリリースが許可されたのか、あるいは保持された決定記録が改ざんされたかどうかは示しません。

ForenChainは助言的な分類と認可を分離し、ポリシー決定を回答とともに保存し、そのローカルエビデンス記録の限界を明示します。

助言とリリースの間に位置するポリシーゲート

退職年金に関する合成リクエストが、その境界を可視化します。

分類

助言的シグナル

分類器は意図、リスク層、信頼度を提案します。生入力チェックは、ロードされた代表的なポリシーパックに基づきハードシグナルを独自に検査します。

認可

決定論的アクション

金融ガイダンスパックは TRANSFORMを返します。コードは特定の配分推奨を差し控え、一般的な情報に置き換えます。分類器単独でリリースを認可することはできません。

記録

検証可能な決定

アクションとポリシーはローカルのSQLite台帳に追加されます。各SHA-256レコードハッシュは、直前のハッシュと正規化されたレコードフィールドを取り込みます。

1つの合成シナリオ · 2つの決定記録

リリースの流れを追い、台帳をテストします。

最初の2つのフレームは、ローカルの合成decision #7とそのエビデンスドロワーを示しています。3つ目は、同じ台本化された退職年金リクエストに対する別個のシードされたrecord #3をテストします。decision #7は変更されません。

01 / リリース

具体的な助言は外部に出力されません

金融ポリシーパックは TRANSFORMを返します。コードは回答がリリースされる前に、一般的な情報と免責事項に置き換えます。

トレースにより、分類、ポリシー、認可、コミットメントが可視化されます。

回答とトレースを確認するためにフルサイズフレームを開く

02 / エビデンス

認可内容は検査可能です

決定ドロワーは、台本化されたリクエストをその変換されたアクションおよび適用された統制にリンクします。これはレビューのための技術的事実を提供するものであり、法的判断ではありません。

後日のレビュアーは、リリースされたテキストを生成したルートを検証できます。

決定の詳細を検証するためにフルサイズフレームを開く

03 / 改ざんチェック

過去のアクションが変更されます

シミュレーションされた編集により、シードされたrecord #3を TRANSFORM から ALLOW へとハッシュの再計算なしに書き換えます。ローカル検証器はその最初の破損したリンクを指摘します。

これは示されたローカルの編集を検出します。独立した保管継続性の確立は依然として別個の作業です。

破損リンクのインジケーターを検証するためにフルサイズフレームを開く

4つのリリースルート、1つの権能境界

助言的な分類器ではなく、設定されたゲートが、示された合成リクエストに対してこれらの中からアクションを選択します。

アクション	実証されたルート
ALLOW	高リスクのシグナルがない一般的なリクエストは、リリースが許可されます。
TRANSFORM	退職年金の配分リクエストは、特定の推奨の代わりに一般的な情報を受け取ります。
BLOCK	個人住所のリクエストは、ロードされた個人データパックに基づいて保留されます。
HUMAN_REVIEW	医薬品に関するリクエストは、未ロードのポリシー領域を露呈させ、エスカレーション決定を記録します。

このデモが対象としないこと： 顧客の本番システムに対して実行すること、独立したエビデンスの保管継続性を確立すること、あるいは法的結果を判断することは行いません。

レビューチームが尋ねるであろう質問

モデルがリクエストを無害と分類した場合、リスクのある回答をリリースしてしまう可能性がありますか？

この実証では、分類器は助言を行うのみで、リリースを認可しません。プレーンコードによるチェックが生入力シグナルをロードされた代表的なポリシーパックと照合して検査し、決定論的ゲートが最終アクションを決定します。これは示されたポリシーパックに対する限定的な統制であり、すべてのリスクあるリクエストが検出されることを保証するものではありません。

ゲートが回答を変換（TRANSFORM）する際、何が記録されますか？

ローカル台帳は、リクエスト、分類、一致した統制、リリースアクション、および回答を、ハッシュでリンクされた決定記録として保存します。合成の退職年金の例では、金融ガイダンスパックがTRANSFORMを返し、リリースされたテキストには特定の配分推奨ではなく一般的な情報が含まれます。この記録は、レビュアーが実証された決定経路を再構築するのに役立ちます。

ハッシュチェーンは、エビデンスが決して変更されていないことを証明できますか？

いいえ。ローカル検証器はrecord #3に対して示された編集を検出し、最初の破損したリンクを特定します。それ単独では、独立した保管継続性の確立、データベース全体の差し替えの防止、あるいは法的な真正性の証明を行うことはできません。

エクスポートされたエビデンスパッケージは、法的手続きにそのまま使用できますか？

いいえ。HTMLエクスポートは、決定行、ハッシュチェーンマニフェスト、およびReasonable Alternative Designの主張の骨子を備えた技術エビデンスの足場に過ぎません。弁護士が保全性、真正性、法理論、および証拠能力を評価する必要があり、この実証がそれらの判断を下すことはありません。

リクエストがロードされたポリシーの範囲外となった場合、何が起きますか？

この実証では、ロードされたポリシーパックが存在しない認識済みトピックはHUMAN_REVIEWにルーティングされます。合成の医薬品の例はそのカバレッジギャップを露呈させ、エスカレーションを記録します。臨床医への連絡や医療ガイダンスの提供は行いません。

28/28という結果は、ゲートが本番環境で正確であることを意味しますか？

いいえ。ローカルの回帰テスト実行では、28件中28件の固定された合成ラベル付き事例で期待されるアクションと一致しました。カバレッジ内の高リスク事例18件はすべて変換またはブロックされ、カバレッジ外の事例2件はいずれも人的レビューへ送られました。これらの数値は固定されたデータセットを記述するものであり、オープンワールド環境での検出力、本番での性能、または法令遵守を確立するものではありません。

技術研究

この実証に関するより広い背景知識については、関連研究をご覧ください。

The Sovereign Risk of Generative Autonomy: Post-Section 230 AI Product Liability（インタラクティブホワイトペーパー）

完全なソリューション

AI Product Liability Defense ソリューションを見る →

ワークフローを拡張する前にリリース決定を検証する

有意義な対話は、1つのリクエスト、1つのポリシー、そしてレビュアーが検査可能な記録から始まります。

実証された統制パスを、貴社の実際のポリシーカバレッジ、レビューワークフロー、およびエビデンス保管要件と比較検討できます。それらの本番環境特有の課題は、このローカル実証では検討の余地を残しています。

統制のレビュー

✓ 高リスクなリクエストカテゴリのマッピング
✓ 不足しているポリシーカバレッジの特定
✓ リリースおよびエスカレーションの決定定義
✓ 法務担当者が必要とする記録の精査

アーキテクチャの協議

✓ モデルの外側に認可機構を配置
✓ ポリシーパックの所有範囲の定義
✓ 人的レビューへのルーティング設計
✓ 保管継続性および保持期間統制の仕様化

WhatsAppで接続チームにメールを送信