GraphRAG / RAGアーキテクチャ

「意味的に類似したチャンク」と「正確で完全な回答」とのギャップこそが、大半のエンタープライズRAG導入が破綻する原因です。スタンフォード大学AI Labの調査では、 正しいドキュメントが検索された場合でもRAGの回答の40%にハルシネーションが発生することが判明しています。検索は機能していましたが、グラウンディング（根拠付け）は機能していませんでした。

なぜRAGは回答ではなくドキュメントを検索してしまうのか

この問題が生じるのは、標準的なベクトル類似度では「トピックとして関連する文章」と「質問に実際に回答している文章」を区別できないためです。例えばコンプライアンスチームが「16歳未満のEU居住者に影響を与えるデータ侵害の通知要件は何か？」と尋ねた際、システムが年齢固有の規定を含まないGDPR侵害通知に関する3つのチャンクを返信した場合、その回答は一見正しそうに見えても極めて危険なほど不完全です。

当社のアプローチは、このギャップを埋めるよう設計された検索システムを構築することです。選択するアーキテクチャは、お客様のドキュメント、クエリ、および誤答に対する許容度に応じて異なります。それはクロスエンコーダ型リランカーを備えたハイブリッドBM25＋高密度ベクトル検索である場合もあれば、エンティティ抽出とコミュニティ要約を伴う完全なGraphRAGパイプラインである場合もあります。また、複雑な質問を分解し、反復的に検索を行い、生成前に自己修正を行うエージェンティック検索ループである場合もあります。当社は安易に最も複雑な選択肢をデフォルトとするのではなく、維持可能なコストでお客様の検索課題を確実に解決する構成を提案します。

クエリパターンに応じて選択される3つの検索アーキテクチャ

当社は複雑さを無条件に前提とするのではなく、お客様の実際のクエリパターンに合わせてアーキテクチャを選定します。以下の3つのパターンは、大半の本番運用のニーズをカバーしています。

リランキングを組み合わせたハイブリッド検索

これは、大半の本番RAGシステムが最初に導入すべき構成です。BM25が正確なキーワード一致（エラーコード、製品SKU、規制条項番号など）を処理し、高密度（Dense）埋め込みがセマンティックな検索意図を捉えます。 相互ランク融合（RRF、k=60） は、機械学習による融合手法につきまとうスコア正規化の問題なしに、2つの検索結果セットを統合します。

その最上位にクロスエンコーダ型リランカーを配置します： BGE-reranker-v2-m3 をGPU上で実行すれば、継続的なAPIコストゼロで50〜100msのレイテンシを実現できます。あるいは、 Cohere Rerank はマネージドインフラを求めるチームに適しています。本番環境のベンチマークにおいて、この2ステージパイプラインはすべての単一ステージ手法を上回る成果を示しています。 Anthropicのコンテキスト検索（Contextual Retrieval） 技術を上位レイヤーに適用することで、埋め込み前にドキュメントレベルのコンテキストを各チャンクの先頭に付加し、検索失敗を49%削減（リランキング併用時は67%削減）します。

グラフ拡張検索（GraphRAG）

複数のドキュメントにまたがる情報の統合や、エンティティ間の関係性に基づく推論が質問で求められる場合、ベクトル類似度だけでは不十分です。例えば法務チームが「TargetCoが事業を展開している法域において、係争中の規制関連訴訟を抱えているAcquiringCoの子会社はどれか？」と質問する場合、エンティティ解決、関係のトラバーサル（走査）、およびマルチホップ推論が必要となります。

当社はお客様のドキュメントからナレッジグラフを構築し、係り受け解析ベースの抽出技術を用いることで、 LLMベースの手法の94%の性能 をわずかなトークンコストで達成しています（詳細は 引用根拠を厳格化したGraphRAGに関する当社の研究を参照）。 マイクロソフトのGraphRAG のアプローチ（Leidenクラスタリング＋コミュニティ要約）は、コーパス全体の包括的理解を問うクエリには有効ですが、インデックス作成コストは標準的なRAGの4〜8倍に達します。当社ではこれを限定的に活用しています：

• グローバルクエリ向けのコミュニティ要約。
• エンティティ関係の質問向けのプロパティグラフ走査。
• それ以外のすべての検索向けの標準ベクトル検索。

グラフのバッキングストアとしては、 FalkorDB がサブミリ秒のコールドスタートと6,693 QPSで読み取り主体のRAGワークロードを処理する一方、 Neo4j は成熟したRBAC、クラスタリング、複雑な集計処理が必要な場合に依然として最適な選択肢です。

エージェンティック検索

2026年時点で最も能力の高いパターンであり、適切に構築するには最もコストがかかります。エージェンティック検索ループは、複雑なクエリをサブクエリに分解し、それぞれを適切な検索戦略（ベクトル、グラフ、構造化データベース）にルーティングし、結果が十分かどうかを評価し、信頼度のしきい値を満たすまで反復処理を行います。

当社はこれを LangGraph上で実装しており、そのステートマシン抽象化により、条件分岐、Human-in-the-Loopの中断ノード、確定的な監査可能性が実現します。Corrective RAG（自己修正RAG）レイヤーはクエリごとに100〜800msのレイテンシを追加しますが、検索エラーがLLMに届く前に捕捉します。このパターンは モルガン・スタンレー、PwC、ServiceNowで本番稼働していますが、検索ループの監視や調整を行う専任のMLOps体制を持たないチームにはまだ推奨されません。

埋め込みの前工程：適切なチャンキングの実現

チャンキングはRAGシステムが水面下で失敗する原因となります。単純な固定長チャンキングでは、忠実度（Faithfulness）スコアが 0.47〜0.51にとどまります。セマンティックチャンキングは 0.79〜0.82に達しますが、コーパス内の全センテンスを埋め込むコストがかかります。適切な戦略はドキュメントの性質によって決まります：

• 構造化された規制関連提出文書 — レイアウト認識パースによりセクションの階層構造を保持します。
• 表や図表を含む複合コンテンツPDF — ビジョン誘導型チャンキング（各ページを画像として扱いレイアウトを検出した上でテキスト領域を抽出）により、テキストのみのパースと比べて検索精度が8〜15%向上します。
• 長文の記述型ドキュメント — Late Chunking（遅延チャンキング）では、まずドキュメント全体をTransformerに通して全トークン埋め込みに双方向コンテキストを反映させた後、順伝播処理の後にチャンク境界を適用します。

当社では1つの手法を選定する前に、お客様の実際のクエリセットに対して3〜4種類のチャンキング戦略をテストします。評価ハーネス（RAGASの忠実度＋コンテキスト適合率メトリクス、ドメイン固有の関連性判定）は、後付けではなくパイプラインの一部として提供されます。 新規RAG導入の60%が初日から体系的な評価を組み込むようになっており、これは2025年初頭の30%未満から大幅に増加しています。当社では評価フレームワークをお客様のCI/CDに組み込み、ユーザーからのクレームによって問題が発覚するのではなく、デプロイのたびに検索品質が測定される環境を構築します。

エンタープライズRAGシステムの運用コスト

ある製造業の企業は、RAGシステムの導入に $400,000 を投じたものの、継続的な運用コストが 月額$18,000 に達し、当初予測の2倍以上であることが判明しました。見落とされていたコスト要因は「リランキング」です。埋め込みAPIのコストは 10億トークンあたり$20〜120程度です。1,000万（10M）ベクトルのベクトルDBホスティングでは、マネージドサービス（Pinecone、Weaviate Cloud）の利用はセルフホスト（Qdrant、pgvector）と比較して1.5〜3倍のコストがかかります。しかし、本番環境のクエリ量において予算を圧迫するのはリランキングです。Cohere Rerankの費用は $2 per 1,000 queriesですが、単一GPU上でセルフホストするBGE-reranker-v2-m3なら、GPUインスタンス費用は発生するものの、クエリあたりの追加費用ゼロで同等のレイテンシを実現できます。

GraphRAGはさらなるコスト要因となります。ナレッジグラフの構築では、エンティティ抽出とコミュニティ要約のために 元テキストの4〜8倍のトークン を消費します。また、保守運用には 初年度のエンジニアリング予算の40〜60% が費やされます。これは、エンティティ解決、重複排除、オントロジーの更新が一過性のセットアップではなく継続的な作業であるためです。係り受け解析ベースの抽出（LLM呼び出しの代わりに古典的NLPを使用）を活用することで、構築コストを約 90% 削減しながら、抽出品質の94%を維持します。当社では、埋め込み、ストレージ、検索、リランキング、グラフ保守を網羅した月次ランレート（運用コスト）の明示的な予測をすべてのプロジェクトで策定します。

GraphRAGの投資対効果（採用すべき場合と不要な場合）

エンティティおよび関係性をまたぐマルチホップ推論がクエリで要求される場合、グラフ拡張検索が必要となります：

• 数百件に及ぶ子会社の提出書類を精査するM&Aデューデリジェンス。
• 薬物相互作用データベースにまたがる臨床エビデンスの統合。
• サプライチェーンネットワークと規制措置を紐づけるサプライチェーンリスク分析。

GraphRAGは、ベンチマークにおいて複雑な多階層の企業クエリに対して最高の検索精度を発揮します（ 引用根拠が検証可能な法務検索の実稼働デモを参照）。一方、クエリが単一ドキュメントの参照、FAQ形式の回答、またはキーワード主導の検索である場合、GraphRAGは不要です。リランカーを備えたハイブリッド検索（BM25＋高密度ベクトル検索）を用いれば、わずかなコストと複雑さでこれらを処理できます。コーパス規模が 500万ベクトル 未満であり、質問がドキュメントの境界をまたがないのであれば、HNSWインデックスを適用したpgvectorで十分に事足ります。当社ではアーキテクチャを推奨する前にこの適合性を評価し、よりシンプルな選択肢が適している場合には率直にお伝えします。

「そもそもRAGが必要なのか？」という問いも重要です。コンテキストウィンドウが100万トークン（1M+）以上に拡大し（Gemini 3 Proは1,000万トークン）、コーパス全体をプロンプトに詰め込むことを検討するチームもあります。しかし問題となるのは、1回の100万トークンクエリで $2〜10のコストがかかる点であり、企業のクエリボリュームでは維持できません。また、公称スペックの範囲内であっても一定のしきい値を超えるとコンテキスト品質は低下します。大規模かつ変動するドキュメント群に対して反復クエリを処理するシステムにおいては、依然としてRAGが最適なアーキテクチャです。

RAGパイプラインのアタックサーフェス（攻撃対象領域）

PoisonedRAGの研究（USENIX Security 2025） では、100万件のドキュメントコーパスに巧妙に細工された5件のドキュメントを混入させるだけで、90%以上の成功率でAIの回答を不正操作できることが実証されました。検索パイプラインは、敵対的コンテンツが取り込まれる侵入経路となります。OWASPは現在、ベクトルおよび埋め込みの脆弱性（LLM08:2025）や検索ドキュメント経由のプロンプトインジェクション（LLM01:2025）をLLMの重大なセキュリティリスクとして正式に認めています。

当社では、ドキュメントの出所追跡（プロベナンス）、埋め込みレベルの異常検知、入力サニタイズの各レイヤーを検索パイプラインに組み込みます。検索されたすべての文章にはソースメタデータと信頼度スコアが付与されます。生成レイヤーは特定の文章を引用するよう制約され、検索コンテンツに根拠付け（Grounding）できない主張はそのまま出力されずフラグが立てられます。これは規制環境に導入されるあらゆるRAGシステムにおいて必須の要件であり、詳細は プライベートエンタープライズLLMのセキュリティ保護に関する当社の研究を参照してください。

提供内容

すべてのプロジェクトにおいて以下を提供します：

• お客様固有のクエリパターンとドキュメントタイプに合わせて選定された検索アーキテクチャ。
• 実際のクエリに基づいてベンチマーク検証されたチャンキングおよび埋め込み戦略。
• RAGASメトリクスとドメイン固有のテストケースを備えた本番グレードの評価ハーネス。
• 埋め込み、ストレージ、検索、リランキング、およびグラフ保守を網羅した明示的なコスト予測。
• 検索起因の攻撃に対するセキュリティ堅牢化。
• ユーザーが気づく前に検索品質の劣化を検知する監視スタック。

また、現在の構成で十分であり、より複雑な検索への投資が見合わない場合には、その旨を率直にお伝えします。