あなたの請求AIは損傷を完璧に見抜ける。だが、その損傷が本物かどうかは何も分からない。
同じシルバーのセダンの写真が2枚、1つの画面に開かれていた。左は駐車場で擦ったリアクォーターパネルの本物のへこみだった。右は事故に遭ったことなど一度もない——誰かがきれいな写真を拡散モデルに与え、損傷を加えるよう指示したのだ。折れ目、縁の下の影、塗装が光を捉える様子、そのすべてが生成されたもので、物理的なものは何一つなかった。
私は両方を、当時試験導入していた損傷評価モデルにかけてみた。どちらも本物の損傷として返ってきた。どちらにも重大度スコアが付いた。どちらにも修理見積もりが出た。むしろ偽物のほうが、生成された損傷が現実世界の乱雑さよりも整っていたぶん、わずかにきれいに読み取られた。
その朝、私は次のことを理解した。すなわち、保険金請求AIとディープフェイク検出はまったく別の二つの問題であり、市場のほぼ全員が前者を解きながら、それが後者もカバーしていると密かに思い込んでいる、ということだ。そうではない。損傷評価モデルが問うのはこれは何に見えるか？であって、これは本物だったか？ではない。そして2026年、そのギャップこそが金の流出口になっている。
あなたの損傷評価AIはコンテンツを評価する。詐欺は真正性の側に潜んでいる。両者は同じ軸ではなく、一方での精度は他方において何の役にも立たない。
脅威モデルは密かに変わったのに、ツールは変わらなかった
保険金請求AIの多くは、起こりうる最悪の事態が「間違った数字」——見積もりが400ドル高すぎたり低すぎたりすること——だった時代に設計された。それがリスク領域のすべてだった。見積もりの精度である。ベンダーはそこで競い、調達チームはそこを採点し、誰もがそこを改善していった。
やがて入力が攻撃可能になった。今や携帯電話さえあれば、誰でも無傷の車の写真を撮り、無料で入手できるモデルに、もっともらしい光と反射まで備えた潰れたバンパーを注入するよう頼める。この規模は理論上の話ではない。ディープフェイク詐欺の試みは3年間で2,137%増加し、いまや金融・決済の世界で検出されたIDなりすまし詐欺全体の6.5%を占めている。特に保険では、米国でのAIを用いた詐欺事案が2022年の2万件未満から2025年には8万件超へと増加した。
私が見た中で最も具体的な数字は英国のものだ。2025年4月、現地の自動車保険会社は、詐欺師が拡散モデルを使って無害な写真に傷やひび割れを注入し、平均支払額を1件あたりおよそ1万3,000ポンド水増ししていたことを明らかにした。それは保険契約群における端数の丸め誤差ではない。構造的な漏れである。
そして消費者も別に抵抗しているわけではない。Veriskの2026年3月の詐欺調査では、36%の消費者が請求画像の改変を検討するだろうと判明し、Z世代ではその数字は55%まで上がる。一方で98%の保険会社が、AIツールに絡んだ加工メディアの急増を報告している。ツールの供給は無限であり、モラルハザードはいまや主流となり、その先にある評価モデルはコンテンツを真実として読み取っている。
私は最初の期間を、間違ったものを作ることに費やした
ここは私が誇れない部分だ。私たちが始めたとき、私はこの製品を「より優れた」損傷評価モデルとして位置づけた。市場のリーダーが基準だったので、私はそれを超えたかった。1億8,500万ドルを調達し、10億ドル超の請求を処理するTractableは、およそ95%の精度を謳っている。CCC Intelligent Solutionsは125社超の保険会社にまたがる見積もりから支払いまでのパイプラインを運営し、売上10億ドルを突破した。当然の一手は、それより少しだけ精度を上げ、その差分で売ることだった。
私はその枠組みを、中堅保険会社の請求部門リーダーとの会話に持ち込んだが、返ってきたのは「そういうものならもう持っています」の丁寧な言い換えだった。そしてそれは正しい反応だった。損傷評価精度がもう1ポイント上がることは、鎮痛剤ではなくビタミン剤だった。そのチームが心配していたのは、自分たちの見積もりが96%ではなく94%の精度かどうかではなかった。心配していたのは、それらの見積もりに供給される写真のうち、そもそもどれだけが本物なのか、だった。
その会話は私に、およそ1か月ぶんの確信を失わせた。私たちはまったく間違った軸に向けて作り込んでいたのだ。その後のすべての元を取った気づきは、単純で少々屈辱的なものだった。すなわち、より精度の高いコンテンツモデルは、詐欺の問題をよくするどころか悪化させる。なぜなら、捏造された画像により自信たっぷりの太鼓判を押してしまうからだ。損傷を読み取るのが上手いモデルほど、偽物への支払いがきれいに通ってしまう。
そこで私たちは精度で競うのをやめ、真正性のために作ることを始めた。それは、あらゆる請求写真を、採点されるべきデータとしてではなく、認証されるべき証拠——測定され、保全されるもの——として扱うことを意味した
「ディープフェイク検出器を追加するだけ」ではなぜダメなのか？
誰もが——私たちも含めて——最初に思いつくのは、パイプラインの入口にディープフェイク検出器を取り付けることだ。PRNU（photo-response non-uniformity、光応答非一様性）と呼ばれるよく知られたフォレンジック技術がある。すべてのカメラセンサーには微かで固有のノイズ指紋があり、画像が撮影されたのではなく合成されたものであれば、その指紋は欠落しているか誤っている。研究室では、それは優雅な手法だ。
現実の請求パイプラインでは、PRNU単独では崩れてしまう。携帯電話の写真は、あなたのもとに届く前に、圧縮され、再保存され、契約者が送信に使ったメッセージアプリを通され、後処理される。そのすべてがセンサー指紋を滲ませてしまい、しかもこの技術は計算負荷も重い。単独では、現代の生成技術に対してとても太刀打ちできない。保険会社はこれが難しいと分かっており、だからこそディープフェイクの検出に非常に自信があると答える保険会社はわずか32%にとどまり、76%が、目にする加工された提出物がますます巧妙になっていると報告している。
検出の問題は「ディープフェイクモデルを持っているか」ではない。問題は、検出が評価とは別の製品の中に置かれていて、真正性チェックと損傷チェックが実際には一度も互いに対話しない、ということだ。
これは私がどの保険会社にも指し示したい構造的なギャップであり、私たちがスタンドアロンの検出器ではなく、請求証拠パイプライン全体のためのフォレンジック・コンピュータビジョンを作った理由でもある。Veriskは優れた詐欺研究を公表し、強力な分析を運営しているが、その検出は事後的だ——提出後に、損傷ツールとは別に発動する。VAARHAFTはメタデータ分析と鑑定担当者向けヒートマップを備えた、目的特化型の画像詐欺スコアリングを行うが、損傷評価は一切しないので、モデルを共有しない二つのベンダーを走らせることになる。TractableとCCCは評価を見事にこなすが、ディープフェイク検出はまったく載せていない。保険会社は結局、真正性と評価を複数ベンダーにまたがってつなぎ合わせることになり、その継ぎ目こそが、捏造された画像が生き延びるまさにその場所なのだ。
正直な答えは一つの検出器ではない。アンサンブルだ——センサーレベルのフォレンジックに加え、損傷が物理的に整合しているかを推論するセグメンテーション（深度推定パスが、光では説明できない形状のへこみを検知するような類のチェックで、これはまさにきれいな拡散フェイクが正体を現す場所だ）、さらに本物のチェーン・オブ・カストディ——そのすべてが、見積もりを生成するのと同じシステムの内側にあること。
私が予期していなかった脅威は、私たち自身だった
しばらくの間、私は問題のすべてが外部にあると思っていた——外に詐欺師、内側に私たちのパイプライン、その間に壁。ところが、私たち自身が損害を与えているところを取り押さえたのだ。
ある契約者が、モバイルアプリを通じてへこんだリアクォーターパネルの写真をアップロードしていた。私たちの画像パイプラインは、多くのパイプラインと同様に、評価の前に携帯カメラのノイズを取り除く「補正」パスを走らせていた。画像を「よく見せる」よう訓練されたアップスケーラーは、そのへこみをノイズと解釈し、一部を滑らかに消してしまった。鑑定担当者は、契約者が実際に撮影したよりもきれいで、損傷の少ない車を見た。私たちは攻撃されたのではない。私たち自身が密かに証拠を改変していたのだ。
そのとき、法的側面が私の上に落ちてきた。そしてそれは、私がいまやあらゆる保険会社との会話を主導する際の専門知識でもある。米国法の下では、法的手続きに関連する証拠を改変することはスポリエーション（証拠隠滅）であり、意図があってもあなたを救わない。判断基準は「写真を補正するとき善意だったか」ではない。判断基準は、合成ピクセル——カメラセンサーが決して捉えなかったピクセル——が、誰かが原本を保全する前に導入されたかどうかだ。もし却下された請求が訴訟に進み、あなたのワークフローが原本をAIで改変された版で上書きしていたなら、あなたが直面するのは不利益推定の指示、制裁、あるいは略式判決だ。
生成AIが請求画像に触れるパイプライン——アップスケーリング、ノイズ除去、「補正」——はどれもこのリスクを抱えており、ほとんどの保険会社はそれを一度も監査したことがない。私たちのシステムでの是正策は、破ることのない一つのルールになった。すなわち、原本の、センサーが捉えた画像は保全され、ハッシュ化され、決して上書きされない。あらゆる変換は、来歴の記録が残されたコピー上で行われる。補正は依然として行える。ただ、法廷がいつか要求する唯一の原本に対しては行えないだけだ。
規制当局はもう「ベンダーのブラックボックスがやった」を受け入れない
二つの脅威——入ってくる合成詐欺と、内側で進行する証拠隠滅——は、急速に牙をむいたコンプライアンス環境と衝突する。
NAICモデル通達は、いまや24州で採択されており、文書化されたAIガバナンス、説明可能な請求判断、そして継続的なモデル監視を求めている。コロラド州のAI法は2026年6月30日に施行され、違反は不公正または欺瞞的な取引慣行として扱われる。EU AI法は保険AIを高リスクに分類し、2026年8月の執行期限と、最大3,500万ユーロまたは世界売上高の7%の罰則を定めている。そしてNAICは、今年、第三者ベンダー監督に関するモデル法を導入すると見込まれている。
その最後の一つが、静かな地震だ。保険会社は第三者AIの結果について責任を負う——「うちのSaaSベンダーのモデルがそう判断した」は、規制当局も裁判所も受け入れる抗弁ではない。ブラックボックスのスコアを使って請求を却下する保険会社は、規制当局がいまや要求する説明を提示できない。パイプラインが証拠を改変した保険会社は、裁判所が要求する原本を提示できない。その両方は、二つの衣装をまとった同じ失敗である。すなわち、あなたは制御しておらず、説明できず、保全もしなかった、ということだ。
これはまた、大手システムインテグレーターが全体を運営するというルートに私が懐疑的な理由でもある。大手企業はGuidewireやDuck Creekの統合、そしてリスク・フレームワークの作成については本当に得意だ。しかし彼らはプラットフォームベンダーを推奨し統合するのであって、カスタムのフォレンジック・コンピュータビジョンを構築するわけではない。彼らのAIの仕事はLLM中心——コパイロットやエージェント型トリアージ——であり、契約は50万〜500万ドル、いずれかのモデルが実際の請求に触れるまでに6〜18か月の助走期間がかかる。1年と七桁の予算を費やしたあげく、コロラド州に説明できないブラックボックスを抱えたまま、ということもあり得る。
「でも、これはストレートスルー処理を遅くしないか？」
これは私が最もよく受ける反論であり、もっともな反論だ。業界全体がストレートスルー処理へと突き進んでいる——大手自動車保険会社は基本的な個人自動車請求で70〜90%のSTPを目標としており、IDCは今年までに自動車・住宅保険全体で65%のSTP率を見込んでいる。鑑定担当者は高くつく。AIの狙いは、定型的な請求から人間を遠ざけておくことにある。
人々はフォレンジック認証を、STPを引き戻す摩擦だと思い込んでいる。それは逆だ。ストレートスルーのプログラムを最も速く潰す方法は、一度報道された詐欺グループか、一度の証拠隠滅制裁だ——その後は、あらゆる請求が「念のため」人間の再確認を受けることになり、自動化率は暴落する。認証こそが、ゲートを開けたままにしておけるものだ。システムが、ある画像が本物で、改変されておらず、来歴が記録されていると認証できるとき、それこそが、あなたが安全に自動承認できる請求なのだ。あなたはチェックポイントを追加しているのではない。一つ飛ばす権利を得ているのだ。
本物だと証明できる請求は、人間が一度も触れることなく安全に支払える請求である。
そして経済効果は微妙なものではない。自動車詐欺はすでに、契約者一人ひとりの保険料に年間およそ900ドルを上乗せしており、適切に行われたコンピュータビジョンは、請求処理コストを年間120億ドル削減すると予測されている。だが、入ってくる画像が捏造され、出ていく原本が改変されているなら、そのどれも実現しない。
請求部門リーダーは実際に何をテストすべきか？
ある請求担当VPが、かつて私に自身のベンダー評価グリッドを見せてくれた——精度、統合、導入、価格のきちんとしたスコアカードだ。「ディープフェイク検出」の列は、最終候補に残ったどのベンダーについても空白だった。低評価なのではない。空白なのだ。誰も作っていなかったので、誰も採点されず、その結果、評価から完全に抜け落ちていた。それが罠だ。厳格な調達を実施しながら、実際に伸びている脅威については一度もテストしないでいられるのだ。
だから私が加えるであろう列は、精度スコアには答えられないことを問う。すなわち、そのツールは、画像が何を描いているかだけでなく、それが真正かどうかを教えてくれるか？ そこから先、問いは性能についてではなくなり、証明についてのものになっていく。そのツールは自らの推論——セグメンテーション・マスク、フォレンジックの信号——を開示するのか、それともただ信じるべき数字を手渡すだけなのか？ 原本のセンサー画像は、裁判官の前に差し出せる来歴の記録とともに残らなければならない。そしてそのすべての底には、所有権の問いが横たわっている。すなわち、あなたは自分自身のモデルとデータを走らせているのか、それとも、自社の契約群向けに調整もできず規制当局に説明もできない、共有された未ファインチューニングのモデルを借りているのか？
次の2年間を切り抜ける保険会社は、最も精度の高い損傷見積もりを持つ者ではないだろう。それは、規制当局、鑑定担当者、そしていずれは裁判官の前に立ち、支払いの対象となったピクセルがシャッターが切られた瞬間に本物であったこと——そしてその後一度もそれに触れていないこと——を証明できる者たちだろう。私たちがまさにそのためのフォレンジック・コンピュータビジョンをどう構築したかをご覧になりたければ、すべてそこにある。
私はそのシルバーのセダンの2枚の写真を、デスクトップに置いたままにしている。一枚は本物の事故だった。一枚は決して起こらなかった。モデルは両者を見分けられず、業界の大半にとって、いまだに見分けられない。結局のところ、この仕事のすべては、損傷をよりよく見ることなど一度も問題ではなかった。それは、どちらが真実だったのかを、証明とともに言えるようになることだったのだ。
