投稿者 global-ai-media 
生成AIを自社データと連携させるRAGにおいて、検索精度を向上させる「Proxy-Pointer RAG」という手法が注目されています。本記事では、文書の階層構造を活用するこの技術の仕組みと、日本企業がAI導入の実務において直面するデータ整備の課題について解説します。
RAGの検索精度向上に挑む「Proxy-Pointer RAG」
大規模言語モデル（LLM）を自社データと連携させるRAG（検索拡張生成）は、多くの日本企業で業務効率化や社内ヘルプデスクの基盤として導入が進んでいます。しかし、実運用フェーズに入ると「マニュアルの一部を誤って解釈する」「似たような別の規程を回答してしまう」といった検索精度の壁に直面することが少なくありません。
近年、この課題を解決するためのアプローチとして「Proxy-Pointer RAG」と呼ばれる手法が注目されています。これは、文書を単に細かく分割して検索するのではなく、文書が持つ「階層構造（見出しの親子関係）」を保持したまま検索の精度を高めるというものです。本稿では、この技術の仕組みと、日本企業が社内文書をAIに学習させる際の重要な示唆について解説します。
なぜ従来のRAGは社内文書の「文脈」を見失うのか
一般的なRAGシステムでは、長い文書を「チャンク」と呼ばれる数百文字程度の小さなブロックに分割し、ベクトル化（数値化）してデータベースに保存します。ユーザーが質問すると、システムは質問に最も近い意味を持つチャンクを探し出し、それをLLMに渡して回答を生成させます。
しかし、日本企業の就業規則や製造業の設計マニュアルなどは、「第1章 ＞ 第2条 ＞ 第3項 ＞ (1)」のように非常に深い階層構造を持っています。従来のチャンク分割では、この階層構造が途中で切り離されてしまいます。例えば、「交通費の支給上限は月額5万円とする」という一文だけが切り取られた場合、それが「正社員」の規程なのか「業務委託」の規程なのかという上位の文脈が失われ、誤った前提に基づく回答（ハルシネーションの一種）を引き起こす原因となります。
文書の「骨格」と「パンくずリスト」を活用する仕組み
こうした文脈の喪失を防ぐため、Proxy-Pointer RAGでは主に2つの技術的工夫を取り入れています。
1つ目は「Skeleton Tree（スケルトン・ツリー）」です。これは、LLMという推論が不確実なAIに頼るのではなく、純粋なプログラム（Pythonなど）を用いて、文書のMarkdown形式などの見出し構造から階層的なツリーを抽出するアプローチです。AIを介在させないため、処理が低コストかつ確実に行えるというメリットがあります。
2つ目は「Breadcrumb Injection（パンくずリストの付加）」です。Webサイトの上部によくある「トップ ＞ 会社情報 ＞ アクセス」のようなパンくずリストを、分割された各チャンクの先頭にメタデータとして付与します。これにより、小さな文章の塊であっても「これは『第1章 人事規程 ＞ 第2条 契約社員 ＞ 交通費』に関する文章である」という上位の文脈を保持できます。システムは、このパンくずリストを含んだデータ（Proxy：代理）を検索対象とし、実際の回答生成時には元の完全なドキュメント（Pointer：参照先）をLLMに読み込ませることで、精緻な回答を実現します。
日本企業における実務への応用とリスク・限界
この手法は、法規制・コンプライアンス対応が厳しく求められる金融機関や、膨大な技術標準・ISO文書を扱う製造業などで特に効果を発揮します。正しい前提条件（どの製品群向けのマニュアルか、どの年度の規程か）をAIが正確に把握できるようになるため、新規事業の法務確認や、若手エンジニアに向けたナレッジ検索の信頼性が大きく向上します。
一方で、このアプローチには実務上の明確な限界もあります。それは「元のドキュメントが構造化されている必要がある」という点です。MarkdownやHTML、あるいは正しく見出しスタイルが設定されたWord文書であれば容易に階層を抽出できます。しかし、見出しのフォントサイズを手動で大きくしただけのベタ書きのWord文書や、レイアウトが複雑なPDFファイルからは、階層構造を正確に抽出することが困難であり、AI導入前の「データクレンジング」に膨大な工数がかかるリスクがあります。
日本企業のAI活用への示唆
今回の動向から、日本企業の意思決定者やプロダクト担当者が実務に活かすべきポイントは以下の通りです。
1. AIの精度は「最新モデルの性能」以上に「社内データの構造」に依存する
AIの回答精度を高めるには、より賢いLLMを導入するだけでなく、読み込ませるデータの構造化が不可欠です。社内文書を新たに作成・改訂する際は、見出しや階層を明確にし、AIが機械的に読み取りやすいフォーマット（マークダウンや標準的なスタイル定義）で記述することを組織のルールとして定着させる必要があります。
2. AI処理と非AI（ルールベース）処理の適切な使い分け
文書の構造解析にLLMを使用せず、従来のプログラミング手法を用いることで、コスト削減と確実性の担保を両立させています。すべてを生成AIの推論に任せるのではなく、確実性が求められる前処理や検索部分には従来の堅牢な技術を組み合わせる「ハイブリッドな設計」が、実務におけるベストプラクティスとなります。
3. ガバナンスを見据えた文書管理の再構築
「どの規程のどの部分を根拠にAIが回答したか」を正確にトレースできる仕組みは、AIが誤った情報を提供した際の原因究明（AIガバナンス）において極めて重要です。AI導入を機に、社内に散在する暗黙知や属人的なファイル管理を見直し、デジタル時代に即した文書管理のあり方を再構築することが、AI活用の真の投資対効果（ROI）を引き出す鍵となります。