自動車保険請求向けディープフェイク検出器を作ろうとした。未編集の本物の写真に負けた。
本物の写真が、私の検出器をそのまま通り抜けた午後
私はまずピクセル・フォレンジックのシグナルを作った。それが本物のエンジニアリングのように感じられ、密かに誇りに思っていたからだ。センサーノイズと周波数領域のアーティファクト——拡散モデルが潰れたバンパーを幻覚するときに残す手がかり——を推論する。デモではそのシグナルにはシミュレーションというラベルが付いており、まだ訓練していない学習済み生成アーティファクトモデルの代用であり、他の何よりも先にはっきり言っておきたい。しかしその周りを包むロジックは私のものであり、機能した。拡散モデルで偽造したバンパーを渡すと、私が望んだ通りに点灯した。
次に、私がCLM-C-1044とラベルした仕込みの請求——ローリーでの追突事故——を渡すと、写真をクリーンに通過させた。一貫している。アーティファクトなし。センサーノイズあり。それは正しい答えであり、まさにそれが私を不安にさせた。CLM-Cは詐欺だからだ。写真は本物のカメラ画像である。シナリオでは、解決済みの過去請求から抜き取り、新しい損害に対して再提出された。私の最良のシグナルは弱くなかった。それは問うべき問いを間違えていた。「この画像は偽物か」と問い、再利用された本物の写真に対する正直な答えは「いいえ」だった。
再利用された本物の写真は、世界中のあらゆる真正性テストを通過する。本物だからだ。
あの午後こそが、私が最終的に作ったものが検出器ではまったくない理由だ。あなたも稼働中のデモで同じ4件の請求を自分でルーティングできる。デモ内の請求、画像、保険会社、履歴記録はすべて合成であり、本物の契約者や本物の損害は何一つない。しかしそれが劇化する失敗は作り話ではない。私が陥った失敗そのものだ。
なぜ本物の写真が、最も捕まえにくい詐欺なのか？
私は最初の設計を壊した非対称性に何度も立ち返る。保険詐欺の軍拡競争全体が「より良いディープフェイク検出器を作れ」と枠づけられ、いまやその枠づけ自体が罠だと考えている。単一の真正性分類器は、同時に二つの方向で失敗する。画像生成器が進化した瞬間に陳腐化し、そして構造的に盲目である——教科書にある最も古い詐欺、過去請求から再利用された本物の写真に対して。その写真は本物であることによってあらゆる真正性テストを通過するからだ。
私の請求は合成でも、この背後の圧力は本物だ。保険会社の98%が加工メディアの急増を報告し、ディープフェイクの検出に「非常に自信がある」と感じるのはわずか32%にとどまる（Verisk、2026 State of Insurance Fraud）。同じ調査で消費者の36%が、請求画像を改変すると答えている。ディープフェイク詐欺の試みは3年間で2,137%増加し（Facia.ai）、ある英国の自動車保険会社は、AIで加工された車両画像が単年で300%増えたと報告した（The Guardian / Milliman）。業界の反射神経は、提出時に第三者検出器を取り付けることだった。いまや保険会社の65%がそれを稼働させている（Verisk、2026）。その反射は明白な偽物を捕まえ、再利用された本物の写真をそのまま支払いまで通してしまう。
ホワイトボードに何度も書き続けた一文は、認証はレポートではなくゲートでなければならないということだった。レポートは金が動いたあとに読まれる。ゲートは動く前に走る。そしてゲートは、本物の写真が定義上打ち破る単一シグナルの上に置けない。
エージェントは助言し、コードが決める
私は早い段階で、規制当局の前でもひるまず弁護できる一つのアーキテクチャ判断をした。ルーティングの呼び出しは言語モデルに属さない。4人のアナリストと1人の敵対的チャレンジャーからなるフォレンジック・クルーが請求を調査し、型付きの評決を出す。その後、決定論的ポリシーゲート——エージェントの外側に置かれたプレーンなコード——が、それらの評決と生のシグナルを保険会社の閾値に照らして集約し、再現可能な一つのルーティング決定を出す。AUTO-PROCEED、SIU-REFERRAL、HUMAN-REVIEW、またはABSTAIN。信頼境界はコードであり、決してLLMの自己申告ではない。
二つの推論ロール、ナラティブ整合性と敵対的チャレンジャーは、デフォルトがclaude-opus-4-8のプロバイダ交換可能なアダプタを通して動き、APIキーが設定されていなければゲート全体が決定論的なオフラインスタブにフォールバックし、それでもエンドツーエンドで動く。長く向き合えば向き合うほどこの性質が気に入った。なぜなら再現性こそコンプライアンス担当者が本当に必要とするものだからだ。ゲートに同じ問いを二度投げれば同じ答えが返り、その根拠も示せる。
エージェントは助言する。コードが決める。規制当局はルールを監査できる。バイブは誰にも監査できない。
それは2026年において抽象的な好みではない。AIに関するNAICモデル通達は24州で採択され、コロラド州AI法は2026年6月30日に施行され、EU AI法の高リスク期限は2026年8月に到来し、罰則は最大3,500万ユーロまたは世界売上高の7%に達する。モデルを外注しても責任は外注できない。保険会社が請求判断を自動化するなら、その判断を弁護できなければならず、「モデルが自信を持っていた」は抗弁にならない。
ここで「捕まえた」とは実際に何を意味するのか？
ようやくCLM-Cが捕まるのを見たとき、どのシグナルが働いたのか正確に知りたかった。もはや自分の直感を信用していなかったからだ。そこで意思決定分析を開き、一行ずつ読んだ。来歴アナリストは請求を通過させた。撮影GPSは報告された損害場所から1.1 km以内、撮影日は損害日と整合。私が誇りにしていたピクセル・フォレンジック・アナリストも通過させ、画面上にシミュレーションとラベルされ、artifact_score 0.06、センサーノイズあり。両方の「偽物か」シグナルがクリアした——当然そうなる。写真は本物だからだ。
捕捉は他の二つから来た。再利用アナリストが写真の256ビット知覚ハッシュを過去の請求インデックスと照合し、解決済みの過去請求HIST-4019をハミング距離0——何か月も前に提出されたピクセル単位の双子——として見つけた。ナラティブ整合性アナリストはFNOLテキストを画像と照合し、矛盾をフラグした。説明は側面衝突なのに、写真は後部損傷を示している。その後、敵対的チャレンジャー——あらゆるフラグを反証し請求者をクリアしようと特にプロンプトした懐疑役——が両方のフラグを試し、どちらも生き残ったと報告した。そのとき初めて、決定論的ゲートが請求を再利用証拠としてSIUへルーティングした。
全員に立ち止まってもらう細部はこれだ。捕捉はシミュレーションのピクセルシグナルにまったく依存していない。「偽物か」に答えるよう作られた二つのエージェントは、どちらもこの請求をクリアした。「この正確な画像を以前見たことがあるか、そして話は整合するか」と問うた二つが止めたのだ。それが分類器よりクルーを推す議論のすべてであり、CLM-Cはその最小の真の版だ。
偽物を見つけるために作ったシグナルはどちらもクリアした。捕まえたほうは、この写真に対してすでに一度支払ったことがあるかを問うた。
私が先頭に据えるのを拒む数字
悪用しやすいベンチマーク結果があり、スコープを剥ぎ取って引用されるのを見るより自分で先に解体しておきたい。ラベル付き120件の合成セット（クリーン47、拡散フェイク25、再利用本物20、曖昧13、メタデータ詐称15）で、ゲートは全請求を正しくルーティングし、クリーンシートを出す。クリーン請求のストレートスルー100%、誤告発0%、検証可能な監査記録を伴う決定100%、ラベルに対する再現率1.0。これらの数字は本物であり、同時に設計上検出可能な署名を持つ詐欺クラスを載せた構築セットの性質でもある。オープンワールドの保証ではなく、そのことは毎回必ず言う。
私が実際に先頭に据えるのはカバレッジのギャップだ。そのセット中、真正性アーティファクトを持たない35件の詐欺——再利用本物20件とメタデータ詐称15件——について、単一シグナル真正性ベースラインが捕まえるのは35件中0件。クロスシグナル・ゲートが捕まえるのは35件中35件。そのギャップこそが正直な見出しだ。構築セットが楽にさせるものを美化するのではなく、既存アプローチができないことを測るからだ。
印象的な数字と耐久する数字の違いを私は知っている。耐久する主張はギャップの形であり、パーセンテージの大きさではない。
スポリエーションはいまや画面上の赤い行だ
チェーン・オブ・カストディの部分が買い手が最も食い込む箇所になるとは予想していなかったが、そうなり、わざと失敗させるのを見て理由がわかった。すべての決定は、原本画像のSHA-256を追記専用のハッシュ連鎖台帳に結びつける。verify-chainステップがすべてのリンクを再計算し、ディスク上に残る各原本を再ハッシュする。GenAIの「補正」やアップスケールが原本の請求画像を上書きすれば、保険会社は続くあらゆる訴訟でスポリエーション——証拠の破壊——に突然晒される。
「選択した原本を改ざん」をクリックし、検証を走らせると、1行が赤くなった。改変、スポリエーションを検出。それが価値のすべてを文字どおりにした瞬間だ。チェーン・オブ・カストディはコンプライアンス用デッキの言い回しではなくなり、自動化パイプラインが強制でき、弁護士が読める画面上の状態になる。通常運用では原本は決して変更されず、サイドカー成果物のみなので、誰かが編集したその日、記録はすでに知っている。
私がまだ知らないこと
このゲートは完成していないと思うし、いちばん自信がない能力は、同時にいちばん誇りに思っているものでもある。棄権パスだ。請求が本当に曖昧で、解像度が低く、メタデータが部分的で、どちらにも決定的でないとき、デモのCLM-D-1045はABSTAINへ、そしてHUMAN-REVIEWへルーティングし、評決を強制しない。通過や告発をはったりするのではなく棄権し、敵対的チャレンジャーが存在するのも、正当な請求者が薄いシグナルだけでSIUに投げ込まれるのを防ぐためだ。合成セットでは、その規律が誤告発を0%に保つ。現実世界では、棄権の閾値をどこに置くべきかまだ分からず、分かったふりをするのはそれ自体が一種の詐欺だ。
意図的にスタブのまま残したものは多い。Guidewire ClaimCenterとDuck Creekのコネクタ、モバイル誘導キャプチャSDK、本物のC2PA検証器、本物のPRNUカメラ指紋データベースはすべて後回しだ。保険会社自身のTractableまたはCCC重大度スコアは入力フィールドとして受け取り、ここでは計算しない。このゲートは損傷評価の前に走り、それらのシステムが続いて評価するものを認証する。それらを置き換えるものではなく、置き換えるとも言わない。
仕込みの4件の請求はすべてデモの中にあるので、パイプラインに通し、レシートを自分で読める。ただし持ち帰ってほしいのはデモそのものではない。ローリーであの午後、最良の検出器が承認したばかりの本物の写真を見つめていたとき、私自身の思考を再編した問いだ。
文章で私の説明を読むより見たいなら、ゲート全体がエンドツーエンドで動く様子はここにある。
だから請求とSIUのリーダーに私が何度も投げかけるのはこれだ。直面する最も高額な画像詐欺が、すでに一度請求支払済みの本物の写真であるなら、あなたの検出器は実際に何を検出しているのか？
