投稿者 global-ai-media 
ChatGPTをはじめとする生成AIがユーザーとの対話内容を「記憶」し、学習に利用することは、利便性の向上と引き換えにプライバシーや機密情報の漏洩リスクをもたらします。本記事では、個人レベルでの設定変更にとどまらず、日本企業が組織としてどのようにデータガバナンスを構築し、安全にAIを活用すべきかを解説します。
利便性とリスクのトレードオフ：AIは何を「記憶」しているのか
生成AI、特にChatGPTのようなチャットボットにおいて、「記憶」には大きく分けて二つの意味があります。一つは、そのセッション（会話）内での文脈理解に必要な「短期的な記憶（コンテキスト）」、もう一つは、将来のモデル改善のために利用される「学習データとしての蓄積」です。
元記事にあるように、個人ユーザーであれば「一時的なチャット（Temporary Chat）」機能を使ったり、設定画面から履歴とトレーニングを無効化したりすることで、ある程度の自衛が可能です。また、最近実装された「メモリ機能（ユーザーの好みや詳細情報をAIが長期記憶する機能）」も、意図せず詳細な個人情報をAIに覚えさせてしまうリスクがあるため、慎重な管理が求められます。
しかし、企業活動においては、個々の社員のリテラシーや設定変更に依存する対策では不十分です。誰か一人が設定を戻してしまえば、そこから機密情報がモデルの学習データとして吸い上げられる可能性があるからです。これは「シャドーAI（会社が許可していないツールやアカウントを社員が勝手に業務利用すること）」の問題とも直結します。
日本企業が直面する「シャドーAI」と入力データの行方
日本の多くの企業では、現場の業務効率化ニーズに対し、公式なAIツールの導入が追いついていないケースが見受けられます。その結果、社員が個人のChatGPTアカウント（無料版など）を業務に使用し、議事録の要約やメールの下書き作成を行う過程で、顧客名やプロジェクトの内部情報を入力してしまうリスクが高まっています。
一般向けの無料版やPlus版（個人有料版）のデフォルト設定では、入力データはOpenAI社のモデルトレーニングに利用される規約となっています。これは、入力した機密情報が将来的に他社のユーザーへの回答として出力される可能性がゼロではないことを意味します（実際にはフィルタリング等の対策がなされますが、リスク管理上は「流出」と同義と捉えるべきです）。
したがって、企業がまず行うべきは「全面禁止」ではなく、「安全な環境の提供」です。API経由での利用や、ChatGPT Enterprise、Azure OpenAI Serviceなどの「入力データを学習に利用しない（ゼロデータリテンション方針を含む）」契約形態を持つ環境を整備することが、ガバナンスの第一歩となります。
「メモリ機能」と実務上の落とし穴
ChatGPTの「メモリ機能」は、例えば「私はPythonでコードを書くのが好きだ」「会議の要約は箇条書きにしてほしい」といったユーザーの好みをAIが覚え、毎回指示しなくても文脈を汲み取ってくれる便利な機能です。しかし、実務においてはこれが「過学習」のような副作用をもたらす場合があります。
例えば、特定のプロジェクトAに関する前提条件をAIが強く記憶してしまった場合、全く別のプロジェクトBの相談をしているのに、プロジェクトAの制約条件を引きずった回答が生成される可能性があります。また、共有アカウント（推奨はされませんが実態として存在するケース）で利用している場合、ある社員が入力した機密情報をAIが「記憶」し、別の社員が利用した際にその情報を回答として提示してしまう「組織内情報漏洩」のリスクも想定されます。
実務担当者は、AIが何を記憶しているかを定期的に確認し、必要に応じて「記憶の消去」を行う手順を業務フローに組み込む必要があります。あるいは、業務ごとに新しいチャットルームを立ち上げ、コンテキストをリセットする習慣も重要です。
日本企業のAI活用への示唆
グローバルの動向と日本の実情を踏まえ、企業がとるべきアクションは以下の3点に集約されます。
1. 「禁止」から「管理された利用」への転換
リスクを恐れてAI利用を一律禁止にすると、社員は隠れて個人アカウント（シャドーAI）を利用し始めます。これでは逆にデータガバナンスが効かなくなります。学習データとして利用されない法人プランやAPI環境を会社として提供し、その中での利用を推奨することが最も効果的なセキュリティ対策です。
2. 入力データに関するガイドラインの策定と教育
どれだけセキュアな環境を用意しても、個人情報（PII）そのものを不必要に入力することは避けるべきです。「個人名はA氏、B氏などに置き換える（匿名化）」「機密性の高い数値はマスクする」といった、具体的な入力ガイドライン（プロンプト・エンジニアリングの一環としてのセキュリティ教育）を現場に浸透させることが重要です。
3. 「AIの記憶」に対するリセット文化の醸成
AIは使い続けると過去の文脈（コンテキスト）に引きずられます。精度の高い回答を得るため、そして情報の混在を防ぐために、タスクが完了するたびに「チャットを新しくする」、あるいは明示的に「これまでの文脈を忘れて」と指示するといった、AI操作の「作法」を組織知として蓄積していくことが求められます。