投稿者 global-ai-media 
個人のチャット履歴を学習させない設定にしているにも関わらず、AIが過去の会話内容を参照したという報告が海外で話題になっています。生成AIの「長期記憶」やコンテキスト理解が進む中で、日本企業はプライバシー設定と実際の挙動のギャップをどう理解し、リスク管理を行うべきか解説します。
設定オフでも「過去の会話」を参照？生成AIの挙動に関する疑念
Googleの生成AI「Gemini」において、ユーザーが「個人のチャット履歴をGeminiのアクティビティとして保存・利用しない」旨の設定を行っているにも関わらず、AIが過去のチャット内容をコンテキスト（文脈）として参照しているという事象が報告されています。この報告は、AIモデルがユーザーの指示や設定をどのように解釈し、システム内部でデータをどう保持しているかという「ブラックボックス」の問題を改めて浮き彫りにしました。
近年、LLM（大規模言語モデル）のトレンドは、より長いコンテキストウィンドウ（一度に処理できる情報量）の拡大と、過去のやり取りを記憶してパーソナライズする機能の強化にあります。しかし、この利便性は同時に、「消したはずのデータが残っている」「参照してほしくない情報をAIが勝手に結びつける」というプライバシーリスクと表裏一体です。特に今回のケースのように、UI上の設定と実際のモデルの挙動に乖離がある可能性は、企業利用において看過できないリスク要因となります。
「学習への利用」と「コンテキスト利用」の混同
多くの日本のビジネスパーソンが誤解しやすい点として、データの「再学習（Training）」と「コンテキスト利用（Context/Inference）」の違いがあります。多くの企業向けガイドラインでは「学習に利用されない設定（オプトアウト）を確認すること」が推奨されています。
しかし、今回のGeminiの事例が示唆するのは、再学習への利用がオフになっていても、セッションを跨いで過去の対話履歴が「短期的な記憶（コンテキスト）」として保持され、意図せず呼び出される可能性です。これは、機密情報を扱う業務において、プロジェクトAの機密情報が、無関係なプロジェクトBの作業中にAIによって提示されてしまうような「情報混入」のリスクを示唆しています。
日本企業における「シャドーAI」とガバナンスの限界
日本企業では、現場レベルでの業務効率化ニーズが高まる一方で、全社的なAI導入が追いつかず、従業員が個人のアカウントでGeminiやChatGPTを利用する「シャドーAI」が常態化しているケースが見受けられます。「履歴設定をオフにすれば大丈夫」という性善説やツールへの過度な信頼に基づいた運用は、今回のようなプラットフォーム側の仕様変更やバグによって容易に破綻します。
また、日本の個人情報保護法や各業界のガイドラインは厳格ですが、AIの内部挙動までを完全に監査することは不可能です。したがって、コンシューマー向けサービスの無料版や個人版を利用する限り、設定のスイッチ一つに企業のセキュリティを委ねることは、経営上のリスク管理として不十分と言わざるを得ません。
日本企業のAI活用への示唆
今回の事例を踏まえ、日本企業の意思決定者やAI導入担当者は以下の点に留意して実務を進めるべきです。
- コンシューマー版とエンタープライズ版の明確な分離：
無料版や個人向けプランの設定機能（履歴オフなど）を過信せず、データが法的に保護され、学習・保存利用されないことが契約（SLA）で明記されている「エンタープライズ版」の契約を基本とするべきです。 - 「記憶させない」アーキテクチャの採用：
社内独自のAIチャットボットを構築する場合、API経由で利用し、システム側で明示的に会話履歴をリセットする（ステートレスな設計にする）か、RAG（検索拡張生成）を用いて参照データを厳密に制御する仕組みを導入することで、AIの「意図しない記憶」による事故を防げます。 - 従業員への啓蒙とガイドラインの更新：
「設定をオフにしているから安全」という認識を改めさせ、「入力したデータは一時的であれサーバーに送信・処理される」という前提で、個人情報や極秘情報の入力を禁止する運用ルールの徹底が必要です。