投稿者 global-ai-media 
中国の法執行機関当局者が、ChatGPTを利用する過程で機微な作戦情報を入力し、意図せず情報を漏洩させてしまったという報道がありました。この事例は、決して対岸の火事ではありません。日本企業においても、従業員の良かれと思ったAI利用が重大なセキュリティリスクとなる「シャドーAI」の問題として、改めてガバナンスのあり方が問われています。
利便性の裏に潜む「入力データ」の扱い
米国National Review誌などの報道によると、中国の法執行機関の当局者が、外国の敵対勢力や反体制派を標的とした影響力工作に関する情報をChatGPTに入力していたことが明らかになりました。この事例における最大の問題は、機密情報を扱う立場の人間であっても、LLM（大規模言語モデル）の利便性を享受するために、セキュリティ意識が希薄になり得るという点です。
生成AI、特にクラウドベースのチャットボットサービスを利用する際、最も警戒すべきリスクの一つが「入力データの二次利用」です。多くのコンシューマー向け無料版サービスでは、ユーザーが入力したプロンプトやデータが、モデルの精度向上のための学習データとして利用される規約になっていることが一般的です。つまり、機密文書の要約や、未公開プログラムのバグ修正をAIに依頼した瞬間、その情報はAIベンダーのサーバーに保存され、最悪の場合、他社への回答として出力されるリスクを孕むことになります。
日本企業における「シャドーAI」の実態
日本国内でも、現場の業務効率化ニーズは切実です。「議事録の要約」「翻訳」「コーディング補助」などで生成AIを使いたいという従業員の動機は、業務改善への意欲に基づくものであり、悪意があるケースは稀です。しかし、会社が公式なAI環境やガイドラインを提供していない場合、従業員は個人のアカウントで無料のツールを使い始めます。これが、IT部門が把握できない「シャドーAI」の問題です。
今回の海外事例は、どれほど高度な組織であっても、個人のリテラシーに依存した運用には限界があることを示唆しています。特に日本企業は、伝統的に「性善説」に基づく運用や、逆にリスクを恐れて「全面禁止」とする極端な対応を取りがちです。しかし、全面禁止は隠れた利用を助長するだけであり、実効性のある対策とは言えません。
技術的ガードレールと組織的リテラシーの向上
このリスクに対応するためには、技術とルールの両面からのアプローチが不可欠です。
技術面では、Azure OpenAI ServiceやChatGPT Enterpriseのように、「入力データを学習に利用しない（ゼロデータリテンション）」契約が可能なエンタープライズ版の導入が基本となります。さらに、機密情報（PII：個人識別情報など）が含まれるプロンプトを自動的に検知・マスク処理する「AIゲートウェイ」や「DLP（Data Loss Prevention）」ソリューションの導入も、先進的な日本企業では進み始めています。
ルール面では、経済産業省や総務省のAIガイドラインを参考にしつつ、自社のデータの機密レベルを定義し、「どのレベルの情報までならAIに入力してよいか」を具体的に示す必要があります。「社外秘は入力禁止」という抽象的なルールではなく、「顧客名、金額、ソースコードはNG」といった具体的な禁止事項の策定が求められます。
日本企業のAI活用への示唆
今回の事例を踏まえ、日本の経営層やAI推進担当者は以下の点に留意して実務を進めるべきです。
1. 「禁止」から「管理された環境の提供」への転換
リスクを恐れてAI利用を禁止すれば、現場は隠れて使い続けるか、あるいは競合他社に対して生産性で劣後することになります。安全な「サンドボックス環境」や法人契約のアカウントを会社として支給し、その環境内での利用を促すことが、結果として最も効果的なセキュリティ対策となります。
2. AIリテラシー教育の再定義
プロンプトエンジニアリングなどの活用スキルだけでなく、「LLMがどのようにデータを処理・学習するか」という仕組みの理解を深める教育が必須です。「入力した情報は漏れる可能性がある」という前提を、エンジニアだけでなく全社員に浸透させる必要があります。
3. ログ監視と監査体制の整備
会社が提供するAI環境における利用ログを適切に取得・監視する体制を整えるべきです。これにより、不適切なデータの入力があった場合に早期に検知し、当該従業員への指導やインシデント対応を行うことが可能になります。これは、内部統制やコンプライアンスの観点からも重要です。