投稿者 global-ai-media 
大規模言語モデル（LLM）は、天体の軌道計算式や過去の平均的なデータについては博識ですが、「今夜、惑星がどこにあるか」というリアルタイムな事実には答えられないことがあります。この事象は、企業がAIを導入する際に直面する「知識の鮮度」と「ハルシネーション（もっともらしい嘘）」の問題を浮き彫りにしています。本記事では、この事例を起点に、日本企業がAIを活用する上で不可欠な「RAG（検索拡張生成）」や外部ツール連携の重要性について解説します。
LLMが抱える「知識の静止画」という性質
最近、ある技術ブログで興味深い指摘がなされました。「LLMは惑星の平均的な軌道半径についてはよく知っているが、今夜それぞれの惑星がどこにあるかは知らない」というものです。これは生成AIの本質的な限界を非常にわかりやすく示しています。
LLM（大規模言語モデル）は、膨大なテキストデータをもとに学習を行いますが、その学習プロセスが終了した時点で、モデルが持つ知識は「凍結」されます。つまり、LLMにとっての世界は、学習データが収集された最後の日付で止まっているのです。これを「ナレッジカットオフ（Knowledge Cutoff）」と呼びます。
人間であれば、窓の外を見たりニュースアプリを開いたりして「今」を知ることができますが、素のままのLLMにはその手段がありません。そのため、「今夜の惑星の位置」や「今日の株価」、「先月改正された日本の法律」について尋ねると、古い情報をもとに回答するか、あるいは確率的に「ありそうな答え」を捏造（ハルシネーション）してしまうリスクがあります。
日本企業における「事実」の重みとリスク
この「惑星の位置がわからない」という問題は、ビジネスの現場ではより深刻な形で現れます。例えば、カスタマーサポートAIがすでに終了したキャンペーンを案内してしまったり、法務アシスタントAIが改正前の古い法律に基づいて契約書をレビューしてしまったりするケースです。
特に日本の商習慣において、情報の正確性は信頼の根幹に関わります。欧米の一部のスタートアップ文化では「まずはリリースして走りながら修正する」ことが許容される場面もありますが、日本の多くの企業、特に金融、製造、公共インフラなどの領域では、誤情報（誤謬）に対する許容度は極めて低いのが実情です。
LLMを「全知全能の辞書」として扱い、社内業務や顧客対応にそのまま適用することは、ガバナンス上の大きなリスクとなります。AIが自信満々に語る内容は、あくまで「過去のデータの統計的な再構成」に過ぎないことを、導入担当者は強く意識する必要があります。
解決策：RAGとFunction Callingによる「外部脳」の活用
では、企業はこの問題にどう対処すべきでしょうか。現在、実務の現場で標準的になりつつあるのが、「RAG（Retrieval-Augmented Generation：検索拡張生成）」というアーキテクチャや、「Function Calling（ツール利用）」の仕組みです。
RAGは、AIに回答させる前に、信頼できる外部のデータベース（社内Wiki、最新のマニュアル、ニュースフィードなど）を検索させ、その検索結果を「参考資料」としてAIに渡す手法です。いわば、試験の際に「教科書持ち込み」を許可するようなものです。これにより、AIは学習していなかった最新情報や、社内固有の機密情報に基づいた正確な回答が可能になります。
また、Function Callingを使えば、AIが自ら「今の惑星の位置を知るためには、天文学のAPIを叩く必要がある」と判断し、計算ツールや検索エンジンを呼び出して正確な数値を引っ張ってくることができます。LLM単体に知識を詰め込むのではなく、LLMを「情報の司令塔」として使い、正確な事実は外部システムから取得するという設計が、現代のAI開発の王道です。
日本企業のAI活用への示唆
以上の議論を踏まえ、日本企業がAIプロジェクトを推進する上で意識すべきポイントを整理します。
- 「学習」と「検索」を使い分ける
自社の独自データをすべてLLMに追加学習（ファインチューニング）させようとする企業が多いですが、頻繁に変わる情報（在庫、人事、ニュース）は学習させるのではなく、RAG等の仕組みで「参照」させる方が、コストも安く情報の鮮度も保てます。 - アンカー（根拠）の明示を求める
AIの回答には必ず引用元（Reference）を提示させるUI/UXを設計してください。「AIがそう言ったから」ではなく、「社内規定の第〇条に基づき、AIがこう要約した」という形式にすることで、最終的な責任の所在を人間に残しつつ、業務効率化を図ることができます。 - 専門特化型ツールの活用
「惑星の位置」を知るのにLLMの推論を使うのではなく、計算ソフトを使うべきであるように、数値計算や厳密な論理判定が必要な業務には、生成AIだけでなく従来のルールベースのシステムや計算エンジンを組み合わせるハイブリッドな構成を検討してください。