投稿者 global-ai-media 
米デンバーの公立学校が、ChatGPTの「グループチャット機能」や成人向けコンテンツへの懸念からアクセス遮断に踏み切りました。生成AIが単なる「個人作業のアシスタント」から「コミュニケーションプラットフォーム」へと変質しつつある今、日本企業が再考すべきセキュリティと利用ガイドラインについて解説します。
教育現場での「アクセス遮断」が示唆するもの
米国デンバーの公立学校区（Denver Public Schools）が、生徒によるChatGPTへのアクセスをブロックするというニュースが報じられました。その主な理由は、AIが生成する回答の精度や著作権の問題だけではなく、新たに追加された「最大20人までのグループチャット機能」と、今後導入が計画されている「成人向けコンテンツ」への懸念です。
これまで生成AIのリスク議論といえば、情報の正確性（ハルシネーション）や機密情報の入力（情報漏洩）が中心でした。しかし、今回の事例は、生成AIのツールとしての性質が変化していることを示しています。単にテキストを生成するツールから、複数人が集う「ソーシャルな場」へと機能が拡張されたことで、いじめや不適切な情報の拡散といった、SNSに近いリスクが顕在化し始めたのです。
「作業ツール」から「コミュニケーション基盤」への変化
ChatGPTにグループチャット機能が実装されたことは、企業にとっても看過できない変化です。これまでのChatGPTは、従業員とAIの「1対1」の対話であり、入力されたデータのリスク管理は比較的シンプルでした。しかし、グループチャットが可能になれば、そこは社外のプラットフォーム上にある「会議室」となります。
例えば、プロジェクトメンバーがChatGPT上のグループチャットで議論を行い、そこに議事録や顧客データをアップロードする状況を想像してください。これは実質的に、会社が管理していない「シャドーIT（許可されていないITツール）」のチャットツールで業務を行っているのと同義です。SlackやMicrosoft Teamsのように企業の管理下にあるツールとは異なり、ログの監査やアクセス権限の制御が難しくなる恐れがあります。
日本企業が直面する「機能アップデート」のジレンマ
日本の多くの企業では、生成AIの利用ガイドラインを策定し、導入を進めています。しかし、SaaS型で提供されるAIサービスは、予告なく機能が追加・変更されます。今回の「グループチャット機能」のように、当初の想定（個人の業務効率化）を超えた機能が突然実装されることは珍しくありません。
特に日本企業は、一度定めたルールを遵守する意識が高い反面、ルールの改定に時間がかかる傾向があります。「機密情報は入力しない」というルールはあっても、「AI上で多人数での会議を行わない」という規定を持っている企業はまだ少ないでしょう。また、コンシューマー版（個人アカウント）とエンタープライズ版（企業契約）の機能差分やポリシーの違いを現場が正しく理解していない場合、意図せずセキュリティホールが生まれる可能性があります。
日本企業のAI活用への示唆
今回のデンバーの事例は、教育機関特有の問題ではなく、AIを利用するすべての組織に対する警鐘です。日本企業は以下の3点を意識してガバナンスを見直すべきです。
1. ガイドラインの「動的」な見直し
生成AIの機能は週単位で進化します。半年前のガイドラインはすでに陳腐化している可能性があります。特に「コミュニケーション機能」「ファイル共有機能」といった、情報共有範囲を広げる機能追加には敏感になり、速やかに利用可否を判断する体制が必要です。
2. エンタープライズ版の徹底と機能制御
業務利用においては、個人版ではなく、管理者側で機能を制御できる「ChatGPT Enterprise」や「Microsoft Copilot for Microsoft 365」などの法人契約を徹底すべきです。これにより、学習へのデータ利用を防止するだけでなく、不要な機能（例えば社外との共有など）をポリシーで制限することが可能になります。
3. ネットワークレベルでの対策と教育
PCやスマートフォンのブラウザから利用できるSaaSは、物理的な遮断が困難です。デンバーの学校のように一律遮断することは、業務効率化の機会損失にもつながります。したがって、プロキシやCASB（Cloud Access Security Broker）などのセキュリティソリューションを活用し、認可されたテナント（企業アカウント）のみアクセスを許可するなどの技術的対策と、従業員へのリテラシー教育をセットで進めることが重要です。