合成欺瞞の時代における信頼のアーキテクチャ:Arupディープフェイク侵害とDeep AI主権への移行からの教訓
現代のエンタープライズは現在、企業統治の確立されたプロトコルに対する生成人工知能の急速な兵器化を特徴とする、真正性の根本的な危機を航行している。2024年2月、多国籍エンジニアリング企業Arupは、香港オフィスがこれまでに記録された中で最も巧妙なディープフェイク利用型作戦の一つによって2,560万ドル(HK 200 million)を詐取されたことで、この危機の焦点となった。1 この事件は単なる従来型サイバーセキュリティの失敗ではなく、「技術強化型ソーシャルエンジニアリング」——人間の心理と、視覚・聴覚の手がかりに置かれる本質的な信頼を搾取する手法——の決定的な概念実証であった。4 高忠実度のAIを用いて最高財務責任者(CFO)および経営幹部一式をライブのビデオ会議でなりすますことで、攻撃者は多要素認証、内部の財務統制、そして人間の直感を巧みに回避した。1
Arupの強盗は、世界中の組織にとって戦略的な転換点となる。それは、現行の「LLMラッパー」——業務プロセスを公開のサードパーティAI APIに接続する薄いソフトウェア・インターフェース——への依存が、現代エンタープライズのセキュリティと主権の要件に対して根本的に不十分であることを示している。7 超リアルな合成メディア生成のコストと技術的障壁が下がり続けるなか、従来の「境界防御」モデルは崩壊しつつある。1 本レポートは、Arup侵害のフォレンジック詳細、リアルタイム・ディープフェイクの技術的進化、およびDeep AI——組織自身の安全なインフラ内に主権的・プライベート・ニューロシンボリックなAIシステムを配備すること——への移行というアーキテクチャ上の要請を分析する。7
フォレンジック再構築:2,500万ドル強盗の解剖
Arupに対する作戦は、従来のネットワーク侵入よりも偵察と心理操作を優先する多段階キャンペーンであった。1 調査は、事件を通じてArupのデジタルインフラが完全に無傷のままであったことを確認している。マルウェア、認証情報の窃取、または不正なデータベースアクセスの証拠はなかった。4 代わりに、攻撃者は標的従業員が真実と合理的に区別できない現実を捏造することで、同社の運用ロジックを侵害した。4
フェーズI:偵察と素材収穫
攻撃で用いられたディープフェイクの有効性は、高品質な学習データに依拠していた。2 攻撃者は数か月をかけて、主にYouTube、会議発表、企業ミーティングから、Arup幹部の公開されている動画・音声映像を収穫した。2 この素材により、加害者は経営幹部の外見だけでなく、固有の話し方、抑揚、特異な微表情まで複製できる敵対的生成ネットワーク(GAN)およびニューラル音声合成モデルを訓練することができた。1 この準備の度合いにより、フォレンジック専門家が「高忠実度の合成ツイン」と呼ぶものが作成され、専門的な場での同僚の精査に耐えるよう設計された。1
フェーズII:スピアフィッシングの仕掛けとナラティブの確立
侵害は2024年1月、ロンドン拠点のCFOから発信されたように見えるスピアフィッシングメールで始まった。1 メールは「機密取引」への支援を要請しており、ビジネスメール詐欺(BEC)でよく見られるナラティブだが、ここではプロフェッショナルな口調と正確な内部コンテキストによって強化されていた。2 香港の財務部門の従業員は当初メールに懐疑的であったが、攻撃者はこの疑念を無力化するため、二次的でより強力な社会的証明の層を活用した。1
| 事件の段階 | 攻撃者が取った行動 | 技術的/心理的メカニズム |
|---|---|---|
| 初回接触 | 「秘密」の送金に関するCFOからのなりすましメール 1 | 権威の活用と緊急性 2 |
| エスカレーション | 複数参加者のビデオ会議への招待 1 | 社会的証明と認識された透明性 4 |
| 検証 | 複数のディープフェイク化された上級幹部の出現 2 | 懐疑を上書きするための階層の可視化 1 |
| 実行 | 特定口座への資金送金の指示 1 | 「ライブ」環境における直接的な階層命令 3 |
| 発覚 | 英国本社への取引後フォローアップ 1 | 標準的な財務監査証跡 2 |
フェーズIII:合成ビデオ会議
Arup侵害の決定的瞬間はビデオ通話であった。1 単一の音声クローンや低解像度の動画クリップに依拠した従来のディープフェイク詐欺とは異なり、この攻撃は複数のAI生成参加者を伴うライブでインタラクティブな環境を特徴としていた。2 従業員は、馴染みのある顔——同僚と上司——が正当な議論をしているように見える会議に参加した。1 この環境的コンテキストは「非対称戦」の一形態であり、攻撃者は従業員が技術の限界を知る以上に、組織の構造を把握している。4
通話中、ディープフェイク化されたCFOは従業員に対し、合計約2,560万ドルとなる15件の個別送金を実行するよう命じた。1 これらの資金は香港拠点の5つの異なる銀行口座に分散された。1 従業員は、会議の視覚的・聴覚的証拠に納得して従った。1 詐欺が発覚したのは、従業員が英国の本物のCFOオフィスにフォローアップしたときであり、その時点で同社は、そのような会議は行われておらず、資金も承認されていなかったことを認識した。1
リアルタイム生成詐欺の技術的進化
Arup事件は、研究ラボから巧妙なサイバー犯罪組織の手へと移った先進的AI手法の収束によって可能となった。1 脅威を理解するには、用いられる二つの主要なモデル種別——敵対的生成ネットワーク(GAN)と拡散モデル——の分析が必要である。1
動画合成における敵対的生成ネットワーク(GAN)
GANは、リアルな顔と声を生成する能力におけるブレークスルーを表す。1 GANは二つの競合するニューラルネットワーク——ジェネレータとディスクリミネータ——から構成される。1 ジェネレータは実画像や動画を参照点としてコンテンツを作成し、一方ディスクリミネータはそのコンテンツがAI生成かどうかを検出しようとする。1 数百万回の反復を通じて、これらのモデルは互いに「訓練」し合い、ジェネレータはディスクリミネータ——ひいては人間の眼——が現実と区別できないイメージを作成する能力をますます高めていく。1 Arupのケースでは、GANによりリアルタイムの「フェイススワッピング」が可能となり、攻撃者のウェブカム映像がフレームごとに傍受され、CFOの超リアルなマスクに置き換えられた。11
拡散モデルと時間的一貫性
拡散モデルは、画像に「ノイズ」(ランダムデータ)を加え、その後そのプロセスを反転させてノイズから鮮明な画像を再構成するようAIを訓練することで動作する。1 このアプローチは、GANが時に苦戦する高解像度で繊細なテクスチャと照明の作成に優れている。1 動画に適用すると、拡散モデルは「時間的一貫性」を確保する——すなわち、AI生成の顔が動きの間にちらついたり歪んだりしない。11 この一貫性は、ライブ相互作用中に現実の錯覚を維持するために重要である。人間の知覚は、下位層のディープフェイク技術に伴う微妙な「グリッチ」に極めて敏感だからである。11
インジェクション攻撃:物理層の迂回
Arup事件における決定的な技術詳細は、単純な「プレゼンテーション攻撃」ではなく「ビデオインジェクション」の使用である。15
- プレゼンテーション攻撃: 攻撃者が本物のウェブカムの前に高解像度の画面(タブレットまたはモニタ)を掲げる。15 これらはしばしば、深度、ピクセルレベルの反射、物理的枠の存在を分析するライブネスチェックによって検出可能である。15
- インジェクション攻撃: この手法は、仮想カメラソフトウェアまたは中間者(MITM)戦術を用いて、合成動画パケットを会議ソフトウェアのデータストリームに直接送り込む。10 アプリケーション(Zoom、Teamsなど)は、このデジタルストリームを物理ハードウェアデバイスから到着したものとして扱う。17
| 攻撃の種類 | 配信方法 | 検出の難易度 |
|---|---|---|
| プレゼンテーション(2D/3D) | 物理的アーティファクト(写真/マスク/画面) 18 | 中程度;深度/テクスチャの異常がしばしば存在する 15 |
| フェイススワッピング(リアルタイム) | ライブウェブカム上のGAN/拡散ソフトウェア 12 | 高い;時間的分析が必要 11 |
| ビデオインジェクション | デジタルフィードがカメラハードウェアを迂回 20 | 極めて高い;システムレベルの完全性チェックが必要 17 |
| ニューラル音声クローニング | 音声ストリームを合成音声に置換 2 | 非常に高い;生体スペクトログラム分析が必要 16 |
研究によれば、本人確認プロバイダを標的とするインジェクション攻撃は2023年に255%増加し、「フェイススワップ」攻撃は704%上昇した。24 これは、サイバー犯罪者が容易に検出可能な物理的なりすましから、従来のライブネスチェックを無力化するデジタルレベルの操作へと移行していることを示唆する。21
なぜ「LLMラッパー」パラダイムはエンタープライズに失敗するのか
多くの組織は、生成AIの採用を急ぐあまり、「ラッパー」——OpenAIのGPT-4やAnthropicのClaudeのような公開APIの上に構築された薄いソフトウェア層——に依存してきた。7 低リスクのタスクには機能するものの、このモデルはArup侵害のような事件をより起こしやすくするシステミックな脆弱性を導入する。7 Veriprajnaは、ラッパーの時代がエンタープライズグレードのセキュリティと両立しない理由として、データ流出、文脈的推論の欠如、そして「身体を持たない助言者」問題の三つを挙げる。7
公開APIのセキュリティ劇場
ラッパーベースの配備では、組織の最も機密性の高いデータ——財務スプレッドシート、内部メモ、幹部通信——は、サードパーティのクラウドで処理されるために企業境界を離れなければならない。7 プロバイダがデータで学習しないと約束しても、外部環境にデータが存在すること自体が、米国CLOUD法、不透明なサブプロセッサ関係、潜在的なモデルベースの持ち出しに対する脆弱性を生む。9 さらに、ラッパーは「プロンプトインジェクション」に極めて弱く、ユーザー(または攻撃者)が入力を細工してモデルに安全ガードレールを無視させ、不正なアクションを実行させることができる。8
文脈と信頼性のギャップ
LLMは確率的であり、決定論的ではない。8 それらは企業現実の根拠ある理解ではなく、学習データ中の統計的相関に基づいて最も可能性の高い「次のトークン」を予測する。8 これが「信頼性ギャップ」につながり、AIエージェントが割引を約束したり、手数料を免除したり、会社に法的拘束力を持つが事実としては誤った方法でポリシーを解釈したりする可能性がある。8 高リスク環境では、ラッパーは自らの出力を組織の独自データベースの「グランドトゥルース」に照らして検証する内在的能力を欠く。7
「身体を持たない助言者」とアクティビティクリフ
Arupのような産業・エンジニアリング企業にとって、「身体を持たない助言者」の限界は特に危険である。25 テキストベースのLLMラッパーはもっともらしい助言を生成し得るが、物理的または生物学的安全性を検証する統合フィードバックループを欠く。25 医薬化学や構造工学では、式や荷重計算のわずかな変化——「アクティビティクリフ」——が結果に不均衡に大きな変化をもたらす可能性がある(例:安全な化合物から致死毒素へ)。25 意味的距離で動作し物理法則に依らないラッパーは、これらの重大な逸脱を識別する能力が著しく低いことで知られる。25
Deep AI:主権的インテリジェンスのためのVeriprajnaフレームワーク
Veriprajnaは自らをラッパーの構築者ではなく、Deep AIソリューション——エンタープライズに主権と信頼性を回復するよう設計されたアーキテクチャ——の提供者として位置づける。7 このフレームワークは「サービスとしてのAI」から「インフラとしてのAI」へと移行する。7
柱I:インフラ所有とプライベート・エンタープライズLLM
Deep AIの基盤は、組織自身の仮想プライベートクラウド(VPC)またはオンプレミスのKubernetesクラスタ内へのプライベート・エンタープライズLLMの配備である。7 Veriprajnaは、完全な推論スタック(vLLMやTGIなどの技術を使用)をクライアントが制御するハードウェア上に直接配備する。7 これにより「主権的インテリジェンス」が境界を離れず、国際データ転送リスクやサードパーティの保持ポリシーに対する免疫を達成する。9
柱II:RBAC対応検索を備えたプライベートRAG 2.0
Deep AIは、内部セキュリティとネイティブに統合された検索拡張生成(RAG)を通じて、企業のための「セマンティック脳」を構築する。7 汎用RAGシステムとは異なり、Veriprajnaのアーキテクチャはロールベースアクセス制御(RBAC)対応である。7 従業員がSharePoint内の特定ドキュメントを閲覧する権限を持たない場合、AIシステムはその質問に答えるためにそれを取得しない。7 これにより、AIインターフェースを通じた内部の権限昇格とデータ漏洩を防ぐ。7
柱III:ニューロシンボリック「サンドイッチ」アーキテクチャ
信頼性ギャップを閉じるため、Veriprajnaは「ニューロシンボリック・サンドイッチ」を提唱する。8 この設計は、創造的なニューラルネットワーク(LLM)を決定論的・シンボリック論理の二層の間に挟む。8
- 下層(入力ロジック): ユーザープロンプトを前処理して入力を浄化し、モデルに到達する前にインジェクション攻撃を防ぐ。8
- 中間層(ニューラルネットワーク): 言語理解と推論能力を提供する。8
- 上層(シンボリック・ガード): モデルの意図を傍受し、厳格であらかじめ定義された関数(例:SQLデータベースやERPへの照会)を通じて実行する。8
これにより、AIエージェントが価格や承認ステータスを報告するとき、トークン確率に基づいて値を予測するのではなく、データベースから決定論的な値を取得することが保証される。8
| 機能 | 公開LLMラッパー | Veriprajna Deep AIソリューション |
|---|---|---|
| データ所在地 | 共有パブリッククラウド;データ流出 7 | 完全にクライアントVPC内 7 |
| 推論モデル | 純粋に確率的 8 | ニューロシンボリック(ニューラル+決定論的) 8 |
| セキュリティコンテキスト | 一般/公開データ 7 | プライベートコーパス;RBAC対応 7 |
| カスタマイズ | プロンプトエンジニアリングのみ 7 | 完全ファインチューニング(LoRA/CPT) 7 |
| 脆弱性 | プロンプトインジェクションに脆弱 8 | 多層ロジックガード 8 |
新しい多要素認証:生体認証と行動インテリジェンス
Arup事件における視覚的「確認」の失敗は、デジタル相互作用における本人確認の新たなパラダイムを必要とする。4 Veriprajnaのアプローチは、現行の生成モデルがリアルタイムでなりすますことが著しく困難なマルチモーダル信号を組み込む。23
生理学的信号の検証
ハイエンドのディープフェイク検出は現在、「心拍誘発」の顔の色変化の分析を含む。14 IntelのFakeCatcherのような技術は、人間の眼には見えないこれらの微小信号を監視し、参加者が機能する心血管活動を持つ生きた人間であることを検証する。23 合成動画では、これらの信号は通常欠如しているか、視覚的動きと時間的に不一致である。11
行動生体認証:「サイレント」ガーディアン
顔はスワップでき、声はクローンできても、個人が技術と相互作用する神経生物学的パターンは固有であり、偽造はほぼ不可能である。29
- キーストローク・ダイナミクス: タイピングの速度、リズム、圧力が、個人に固有の認識可能な「ケイデンス」を作り出す。30
- マウスおよびタッチスクリーン行動: マウス移動の頻度と流動性、またはモバイルデバイス上の特定のスワイプ速度と圧力が、ボットやなりすまし者が模倣しにくい行動プロファイルを構築する。29
- 認知行動: 行動生体認証は、ユーザーが強迫や強制の下で行動しているかどうかを検出でき、それはしばしばためらいや通常のナビゲーションパターンからの逸脱として現れる。31
上級幹部の行動ベースラインを構築することで、組織はビデオ通話中に「継続的認証」を実装できる。31 通話上の「CFO」が異常な取引を求め始め、そのタイピングやナビゲーション行動が履歴プロファイルから逸脱した場合、システムは手動レビューのためにその相互作用を自動的にフラグ付けできる。29
暗号的来歴とコンテンツ資格情報
偽物を検出するだけでなく、エンタープライズは真正なものを検証することへと移行しなければならない。35 **C2PA(Coalition for Content Provenance and Authenticity)**標準は、動画キャプチャの瞬間に暗号メタデータを埋め込むことを可能にする。23 これにより、ソースのデバイス、時刻、場所を記録するメディアの「改ざん検知可能」な履歴が作成される。35 Microsoft TeamsやZoom通話の動画フィードにこれらの資格情報がない場合、署名されていないソフトウェアパッケージと同程度の疑いで扱うことができる。35
法的・規制・ガバナンス上の含意
Arupにおける財務損失は氷山の一角であり、この事件は企業責任と指導層の受託者義務に広範な含意を持つ。2
CIOおよびCTOの受託者義務
ディープフェイク利用型詐欺の後、CIOとCTOはますます高い注意基準を求められている。38 企業役員として、彼らは「危険信号」を特定し、カリフォルニア州消費者プライバシー法(CCPA)やEU AI法が義務付けるような「合理的なセキュリティ手順」を実装する受託者義務を負う。38 ディープフェイクを意識した統制を実装しなかった場合、株主やクライアントから過失で訴えられたときに役員個人の責任が生じ得る。38
「なりすまし者ルール」と損失の配分
電信送金詐欺に関する司法指針はしばしば「なりすまし者ルール」に従い、損失は詐欺を防ぐ最善の立場にあった当事者が負担すべきであると述べる。41 Arupのケースでは、従業員が欺かれた一方で、高額取引のためのマルチチャネル検証を実装しなかった同社の失敗が主要な失敗点と見なされ得る。4 裁判所は、特定のリスクについて従業員に警告しなかったり、必要な技術的安全策を提供しなかった場合、雇用主の過失をますます認定している。37
国際標準への準拠
これらのリスクを緩和するため、組織は生体認証およびAIセキュリティに関する新興のグローバル標準に運用を整合させなければならない:
- ISO/IEC 30107-3: プレゼンテーション攻撃検出(PAD)の国際ベンチマーク。42 レベル2または3の認証は、シリコーンマスクやAIディープフェイクのような高度ななりすましに対するシステムの耐性を示す。15
- NIST AIリスク管理フレームワーク(RMF): AI固有のリスクを特定・緩和するための構造化された4ステッププロセス——Govern(統治)、Map(マッピング)、Measure(測定)、Manage(管理)——を提供する。39
- CEN/TS 18099: 「インジェクション攻撃」検出に特化した初の標準であり、ビデオ会議ストリームの保護に重要である。15
エンタープライズ・レジリエンスの戦略ロードマップ(2025–2026)
Arup事件は、認証の一形態としての「目と耳」の失敗であった。4 再発を防ぐため、Veriprajnaは人・プロセス・そして真正性という概念そのものを守ることに中心を置いた多層レジリエンス戦略を推奨する。4
ステップ1:「権限ある懐疑」の文化を確立する
組織は「直ちに従う」文化から「まず検証する」マインドセットへとシフトしなければならない。4 これには、上級指導層から来たように見えるものであっても、疑わしい要請に異議を唱える従業員を報いることが含まれる。4 研修は静的なフィッシングメールを超え、スタッフにとって技術の神秘性を解くため、動画・音声プラットフォーム上でのライブの模擬ディープフェイク攻撃を含めるべきである。4
ステップ2:必須のアウトオブバンド検証を実装する
ビデオ会議はもはや、金融取引における本人認証の「ゴールドスタンダード」ではあり得ない。4 高リスクまたは高額の指示は、独立したアウトオブバンド確認を要求しなければならない:
- 直接通話: 事前検証済みの電話番号または暗号化メッセージングプラットフォーム(例:Signal)による検証。4
- 事前合意の検証コード: 認証キーを共有するための二次的な非デジタルチャネルの使用。4
- 二重承認: 元のビデオ通話の参加者ではなかった第二の承認者を要求する。4
ステップ3:主権的Deep AIインフラへの移行
エンタープライズは、パブリッククラウドからデータとインテリジェンスを取り戻さなければならない。7 クライアント制御のVPC内へのプライベート・エンタープライズLLMへの移行は、機密コンテキストが安全に保たれることを保証する。7 これは単なるセキュリティ対策ではなく、クライアントに明確に帰属するオーダーメイドのモデル資産の作成を可能にする競争優位でもある。7
ステップ4:マルチモーダル・ライブネスおよび検出ツールの配備
ZoomやMicrosoft Teamsのようなコラボレーションツールにエンタープライズグレードのディープフェイク検出を統合する。10 これらのツールは、非同期の唇の動き、不整合な照明、または生理学的信号の欠如など、AI操作の兆候について各フレームと音声パケットをリアルタイムで分析すべきである。12
結論:信頼の新たなフロンティア
2024年2月のArup強盗は、「非公式な内部認証」時代の終わりを告げる警鐘であった。4 CFOの顔と声が15ドルと45分の労力で完全に捏造できるとき、信頼の従来のシグナルは破綻している。5 エンタープライズ・レジリエンスの未来は、生物学的・行動的・アーキテクチャ的防御の層を通じて「合成ツイン」と生きた人間を区別する能力に依存する。4
Veriprajnaは、脆弱なLLMラッパーの世界からの脱却と、堅牢で主権的なDeep AIの世界への移行を提唱する。7 インフラ所有、ニューロシンボリックな信頼性、行動インテリジェンスを組み合わせることで、組織は生成詐欺の増大する脅威に耐える「信頼のアーキテクチャ」を構築できる。7 2,500万ドルの損失はこの教訓に支払う高い代償であったが、次世代のエンタープライズセキュリティの青写真を提供する——真正性が視覚と聴覚だけでなく、物理と論理によって検証される世界である。4
| レジリエンス構成要素 | 実行可能な目標 | 望ましい成果 |
|---|---|---|
| 人材 | 行動研修とシミュレーション 4 | 「ライブ」ソーシャルエンジニアリングへの耐性 4 |
| プロセス | マルチチャネル・アウトオブバンド確認 4 | 単一障害点の無力化 4 |
| データ | プライベートVPCベースのLLMとRAG 2.0 7 | 完全な主権とデータプライバシー 7 |
| テクノロジー | リアルタイム・ライブネスと生理学的分析 18 | GANおよびインジェクション攻撃の撃破 17 |
| ガバナンス | NIST AI RMFおよびISO 30107との整合 43 | 規制リスクと受託者リスクの低減 38 |
今後数年、合成世界において本人と意図を検証する能力が、デジタル時代の決定的な要件となる。20 Arup侵害は、不作為のコストがもはや仮説的リスクではなく、2,500万ドルの現実であることを証明する。1 今すぐ主権的Deep AIアーキテクチャを実装する組織は、資本を守るだけでなく、最も貴重な資産——コミュニケーションの完全性とステークホルダーからの信頼——をも確保する。4
引用文献
- Arup Deekfake Scam Forensic Analysis – Cyber - University of Hawai'i–West O'ahu、2026年2月9日閲覧、https://westoahu.hawaii.edu/cyber/forensics-weekly-executive-summmaries/arup-deekfake-scam-forensic-analysis/
- Arup Deepfake: How An AI-Generated Deepfake Stole $25M、2026年2月9日閲覧、https://purplesec.us/breach-report/arup-deepfake/
- Incident 634: Alleged Deepfake CFO Scam Reportedly Costs Multinational Engineering Firm Arup $25 Million、2026年2月9日閲覧、https://cdn.lawreportgroup.com/acuris/files/ACR-New/AI%20Incidents%20%E2%80%A2%20Incident%20634_%20Alleged%20Deepfake%20CFO%20Scam%20Reportedly%20Costs%20Multinational%20Engineering%20Firm%20Arup%20%2425%20Million.pdf
- The Arup Deepfake Fraud - PRMIA、2026年2月9日閲覧、https://prmia.org/common/Uploaded%20files/eCyber/PRMIA%20Case%20study%20-%20ARUP.pdf
- Cybercrime: Lessons learned from a $25m deepfake attack - The World Economic Forum、2026年2月9日閲覧、https://www.weforum.org/stories/2025/02/deepfake-ai-cybercrime-arup/
- $25 Million Deepfake Scam: The Ultimate Con? - Trustpair、2026年2月9日閲覧、https://trustpair.com/blog/25-million-deepfake-scam-the-ultimate-con/
- The Illusion of Control: Securing Enterprise AI with Private LLMs - Veriprajna、2026年2月9日閲覧、https://Veriprajna.com/technical-whitepapers/enterprise-ai-security-private-llms
- The Authorized Signatory Problem: Why Enterprise AI Demands a Neuro-Symbolic "Sandwich" Architecture - Veriprajna、2026年2月9日閲覧、https://Veriprajna.com/technical-whitepapers/authorized-signatory-problem-neuro-symbolic-ai
- The Illusion of Control: Shadow AI & Private Enterprise LLMs | Veriprajna、2026年2月9日閲覧、https://Veriprajna.com/whitepapers/illusion-of-control-shadow-ai-private-enterprise-llms
- Deepsight: World's Most Accurate Deepfake Detection - Incode、2026年2月9日閲覧、https://www.incode.com/platform/deepsight
- The Sentinel's Dilemma: An In-Depth Analysis of Real-Time Deepfake Detection Services in the Era of Generative AI Fraud | Uplatz Blog、2026年2月9日閲覧、https://uplatz.com/blog/the-sentinels-dilemma-an-in-depth-analysis-of-real-time-deepfake-detection-services-in-the-era-of-generative-ai-fraud/
- Deepfake Video Call Security: How to Spot and Stop Scams、2026年2月9日閲覧、https://www.adaptivesecurity.com/blog/deepfake-video-call-security-guide
- DeepFake Detection for Human Face Images and Videos: A Survey - Monash、2026年2月9日閲覧、https://researchmgt.monash.edu/ws/portalfiles/portal/570474609/560518436_oa.pdf
- Securing Social Media Against Deepfakes using Identity, Behavioral, and Geometric Signatures - arXiv、2026年2月9日閲覧、https://arxiv.org/pdf/2412.05487?
- Deepfake Presentation & Injection Attacks: Risks in ID Authentication、2026年2月9日閲覧、https://risk.lexisnexis.com/global/en/insights-resources/article/deepfake-duo-presentation-injection-attacks
- Deepfake Detection: What is Phishing 3.0 and How Can You Prepare? - Ironscales、2026年2月9日閲覧、https://ironscales.com/blog/deepfake-detection-what-is-phishing-3.0-and-how-can-you-prepare
- Virtual camera detection: Catching video injection attacks in remote biometric systems、2026年2月9日閲覧、https://arxiv.org/html/2512.10653v1
- Liveness detection: protect yourself against fraud - Veridas、2026年2月9日閲覧、https://veridas.com/en/liveness-detection/
- Facial Liveness Detection: How It Works & Why It Matters - Mitek Systems、2026年2月9日閲覧、https://www.miteksystems.com/blog/facial-liveness-detection
- Unmasking Cybercrime: Strengthening Digital Identity Verification against Deepfakes - World Economic Forum、2026年2月9日閲覧、https://reports.weforum.org/docs/WEF_Unmasking_Cybercrime_Strengthening_Digital_Identity_Verification_against_Deepfakes_2026.pdf
- Native Virtual Camera Attacks: The Invisible Threat to Remote Identity Verification | iProov、2026年2月9日閲覧、https://www.iproov.com/blog/native-virtual-camera-attacks-invisible-threat-biometric-solution
- Cyber Risks Associated with Deepfakes - Monetary Authority of Singapore、2026年2月9日閲覧、https://www.mas.gov.sg/-/media/mas-media-library/regulation/circulars/trpd/cyber-risks-associated-with-deepfakes.pdf
- What Tools Can Detect Deepfakes in Live Meetings? - Resemble AI、2026年2月9日閲覧、https://www.resemble.ai/deepfake-detection-tools-live-video-calls/
- Deepfake Attacks: How they Work and How to Stop Them - Nametag、2026年2月9日閲覧、https://getnametag.com/newsroom/deepfake-attacks-how-they-work-how-to-stop-them
- Structural AI Safety: Latent Space Governance in Bio-Design - Veriprajna、2026年2月9日閲覧、https://Veriprajna.com/technical-whitepapers/bio-design-ai-safety-latent-space
- Cognitive Armor: Robustness Against Adversarial AI - Veriprajna、2026年2月9日閲覧、https://Veriprajna.com/technical-whitepapers/adversarial-ai-defense-cognitive-armor
- How to Use Large Language Models (LLMs) with Enterprise and Sensitive Data、2026年2月9日閲覧、https://www.startupsoft.com/llm-sensitive-data-best-practices-guide/
- What Is LLM (Large Language Model) Security? | Starter Guide - Palo Alto Networks、2026年2月9日閲覧、https://www.paloaltonetworks.com/cyberpedia/what-is-llm-security
- What is Behavioral Biometrics - LexisNexis Risk Solutions、2026年2月9日閲覧、https://risk.lexisnexis.com/insights-resources/article/what-is-behavioral-biometrics
- What is Behavioral Biometrics? - OneSpan、2026年2月9日閲覧、https://www.onespan.com/topics/behavioral-biometrics
- Behavioral Biometrics: The Game-Changer in Fighting Synthetic Identity Fraud - Innovify、2026年2月9日閲覧、https://innovify.com/insights/behavioral-biometrics-fraud-detection/
- What is Behavioral Biometrics? | IBM、2026年2月9日閲覧、https://www.ibm.com/think/topics/behavioral-biometrics
- Continuous Behavioral Biometric Authentication for Secure Metaverse Workspaces in Digital Environments - MDPI、2026年2月9日閲覧、https://www.mdpi.com/2079-8954/13/7/588
- What Is Behavioral Biometrics? - BioCatch、2026年2月9日閲覧、https://www.biocatch.com/blog/what-is-behavioral-biometrics
- Unmasking the Fakes: How AI is Powering Deepfake Detection and Video Authentication | by Nunsi Shiaki | Rectlabs Inc | Medium、2026年2月9日閲覧、https://medium.com/rectlabs/unmasking-the-fakes-how-ai-is-powering-deepfake-detection-and-video-authentication-999fe4a0f5ff
- NIST: Reducing Risks Posed by Synthetic Content An Overview of Technical Approaches to Digital Content Transparency - AI Governance Library、2026年2月9日閲覧、https://www.aigl.blog/nist-reducing-risks-posed-by-synthetic-content-an-overview-of-technical-approaches-to-digital-content-transparency/
- Who Is Liable In A Workplace Deepfake Fraud Incident? - - Saunders Law、2026年2月9日閲覧、https://www.saunders.co.uk/news/who-is-liable-in-a-workplace-deepfake-fraud-incident/
- Deepfakes: Why Legal Liability Now Lies with the CIO、2026年2月9日閲覧、https://nationalcioreview.com/articles-insights/information-security/deepfakes-why-legal-liability-now-lies-with-the-cio/
- NIST AI RMF 2025 Updates: What You Need to Know About the Latest Framework Changes、2026年2月9日閲覧、https://www.ispartnersllc.com/blog/nist-ai-rmf-2025-updates-what-you-need-to-know-about-the-latest-framework-changes/
- The State of Information Security Report 2025 | Resilience, Compliance & AI - ISMS.online、2026年2月9日閲覧、https://www.isms.online/the-state-of-information-security-report-2025/
- Lawyer Liability for Wire Transfer Fraud - American Bar Association、2026年2月9日閲覧、https://www.americanbar.org/groups/tort_trial_insurance_practice/resources/brief/2025-spring/lawyer-liability-wire-transfer-fraud/
- How to Choose a Liveness Solution That Actually Works? - Oz Forensics、2026年2月9日閲覧、https://www.ozforensics.com/id/blog/articles/how-to-choose-a-liveness-solution-that-actually-works
- Biometric Security Guide : Understanding ISO/IEC 30107 Standards - Pacific Certifications、2026年2月9日閲覧、https://blog.pacificcert.com/biometric-security-guide-understanding-iso-iec-30107/
- ISO/IEC 30107 (Biometric Presentation Attack Detection) - DuckDuckGoose AI、2026年2月9日閲覧、https://www.duckduckgoose.ai/glossary/iso-iec-30107--biometric-presentation-attack-detection
- Identy.io Facial Biometric Technology Receives NIST ISO 30107-3 Level 2 PAD Certification with Perfect Score、2026年2月9日閲覧、https://www.identy.io/identy-io-facial-biometric-technology-receives-nist-iso-30107-3-level-2-pad-certification-with-perfect-score/
- AI Risk Management Framework - NIST、2026年2月9日閲覧、https://www.nist.gov/itl/ai-risk-management-framework
- US Expands Artificial Intelligence Guidance with NIST AI Risk Management Framework、2026年2月9日閲覧、https://cdp.cooley.com/us-expands-artificial-intelligence-guidance-with-nist-ai-risk-management-framework/
- iProov Shows Deepfake Resilience Under NIST Digital ID Rules - AI-Tech Park、2026年2月9日閲覧、https://ai-techpark.com/iproov-shows-deepfake-resilience-under-nist-digital-id-rules/
- Building Deepfake-Resilient Conferencing Procedures - Reality Defender、2026年2月9日閲覧、https://www.realitydefender.com/insights/building-deepfake-resilient-conferencing-procedures
- Deepfake Doppelgangers: Scammers Hijack Zoom Calls To Drain Bitcoin Wallets、2026年2月9日閲覧、https://cyberpress.org/deepfake-zoom-scams-drain-wallets/
- Deepfake Attacks Hit Two-Thirds of Businesses - Infosecurity Magazine、2026年2月9日閲覧、https://www.infosecurity-magazine.com/news/deepfake-attacks-hit-twothirds-of/
ビジュアルでインタラクティブな体験をご希望ですか?
本ペーパーの主要な調査結果、統計、アーキテクチャを、ナビゲーション可能なセクションとデータビジュアライゼーションを備えたインタラクティブ形式でご覧いただけます。
よくあるご質問
攻撃者はどのようにディープフェイクを用いてArupから2,560万ドルを窃取したのか?
2024年2月、攻撃者は数か月をかけてYouTube、会議、企業ミーティングから公開動画を収穫し、幹部の外見、話し方、微表情を「高忠実度の合成ツイン」として複製できるGANを訓練した。偽のCFOからのスピアフィッシングメールが当初の懐疑を生んだ後、従業員はライブでインタラクティブな議論の中で複数の上級幹部のディープフェイク版を特徴とする複数参加者ビデオ会議に招待された。馴染みのある顔と声に納得し、従業員は香港の5つの銀行口座へ合計2,560万ドルとなる15件の個別送金を実行した。詐欺は本物の英国CFOへの取引後フォローアップによってのみ発覚した。
なぜ従来のサイバーセキュリティはArupディープフェイク侵害を防げなかったのか?
事件を通じてArupのデジタルインフラは完全に無傷であり、マルウェア、認証情報の窃取、不正なデータベースアクセスの証拠はなかった。攻撃は純粋に認知的であり、「技術強化型ソーシャルエンジニアリング」を通じて視覚・聴覚の手がかりへの人間の信頼を搾取した。従来の境界防御、ファイアウォール、多要素認証はネットワーク侵入を防ぐよう設計されており、ビデオ通話参加者の本人性を認証するためのものではない。攻撃者は真実と区別できない現実を捏造して同社の運用ロジックを侵害し、エンタープライズの境界が今やネットワークベースではなく認知的であることを示した。
多要素認知認証とは何か、そしてディープフェイク攻撃にどう対抗するのか?
多要素認知認証は、ディープフェイクが複製できない検証チャネルを導入することで、従来の視聴覚信頼を超えて拡張する。これには、別の安全なチャネルによるアウトオブバンド本人確認、GANアーティファクトと時間的不一致について動画ストリームを分析するリアルタイム合成メディア検出、ディープフェイクモデルが予測できない自発的行動を要求するチャレンジ・レスポンス・プロトコル、および取引要請を組織ポリシーと承認階層と照合するニューロシンボリック検証層が含まれる。この多層アプローチにより、視覚と音声の認証が破られても、取引には依然として独立した認知的検証が求められる。
確かな信頼のもとに、AIを構築する。
次世代のエンタープライズAI構築において豊富な経験を持つチームと、ぜひご一緒ください。信頼できるAI戦略の設計・構築・導入を、私たちがお手伝いします。
Veriprajna ディープテック・コンサルティング は、ヘルスケア・金融・規制対応分野における安全性重視のAIシステム構築を専門としています。当社のアーキテクチャは確立されたプロトコルに照らして検証され、包括的なコンプライアンス文書を備えています。