投稿者 global-ai-media 
Microsoft Copilot Studioの普及により、現場主導のAI活用が進む一方で、新たなセキュリティリスクが浮上しています。Microsoftが公開したAIエージェントに関するセキュリティリスク（Top 10）と検出手法を題材に、日本企業が直面する「野良AI」問題や、イノベーションを阻害しないガバナンスのあり方について解説します。
民主化されるAI開発と「市民開発者」の責任
生成AIの活用フェーズは、単にチャットボットと対話する段階から、自社データや特定の業務プロセスを組み込んだ「カスタムAIエージェント」を開発する段階へと移行しています。特にMicrosoft Copilot Studioのようなローコードツールの登場は、プログラミング知識を持たない業務部門の担当者（市民開発者）が、自らの手で業務改善AIを作成することを可能にしました。
これは日本の現場が得意とする「カイゼン」活動と非常に親和性が高い一方で、セキュリティの観点からは新たな攻撃面（アタック・サーフェス）の拡大を意味します。従来のシステム開発であればIT部門が厳格に管理していたセキュリティ要件が、現場主導の開発では見落とされがちになるからです。
AIエージェント特有のセキュリティリスク
Microsoftが指摘する「AIエージェントのセキュリティリスク Top 10」や、それに対応する検出クエリ（Advanced Hunting Community Queries）の公開は、この領域のリスクがもはや理論上のものではなく、実務上の脅威になっていることを示唆しています。
AIエージェントにおけるリスクは、従来のソフトウェア脆弱性とは質が異なります。代表的なものには以下のようなリスクが含まれます。
- プロンプトインジェクション：悪意ある入力によってAIの指示を上書きし、本来許可されていない動作をさせる攻撃。
- データ流出（Data Exfiltration）：AIエージェントがアクセス権を持つ社内ドキュメント（SharePoint等）から、機密情報を回答として外部や権限のないユーザーに提示してしまうリスク。
- 不適切なプラグイン実行：AIが外部APIや社内システムに対して、意図しない操作（メール送信、データ更新等）を実行してしまうリスク。
Microsoftはこれらの挙動を検知するために、セキュリティポータル上での高度なハンティングクエリ（KQLなどを用いたログ分析）を推奨しています。これは、AIの挙動をブラックボックス化せず、「誰が、どのAIエージェントを使って、どのようなデータにアクセスしたか」を監査可能な状態に置くことの重要性を示しています。
日本企業における「野良AI」とガバナンスの課題
日本企業、特に歴史ある組織においては、かつてExcelマクロ（VBA）が現場の業務効率化に貢献した一方で、作成者が退職した後に誰もメンテナンスできない「野良マクロ」が大量に放置され、業務リスクとなった苦い経験があります。AIエージェントも同様に、適切なガバナンスがなければ「野良AI」化する懸念があります。
また、日本企業は欧米に比べて「性善説」に基づく運用や、曖昧な権限設定（「とりあえず部長級まで閲覧可能」など）が残っているケースが少なくありません。LLM（大規模言語モデル）は、こうした曖昧なアクセス権限の隙間を突いて、本来見せるべきでない情報を要約して提示してしまう能力を持っています。
したがって、単にツールを導入するだけでなく、認証基盤（Entra ID等）と連携した厳格なアクセス制御と、AIの入出力をモニタリングする仕組みが不可欠です。しかし、リスクを恐れて「全面禁止」にすれば、現場の生産性向上やイノベーションの芽を摘むことになります。必要なのは「ガードレール」を設けた上での自由な開発環境です。
日本企業のAI活用への示唆
AIエージェントの普及期において、意思決定者やエンジニアが意識すべき点は以下の3点に集約されます。
1. ログ監査と可視化の徹底
AIエージェントの利用ログは、単なる利用状況の把握だけでなく、セキュリティインシデントの予兆検知に利用する必要があります。Microsoft Defender等のセキュリティ基盤と連携し、異常なプロンプト操作や大量のデータアクセスを検知できる体制（SIEM/XDRの活用）を整えてください。
2. 市民開発者へのセキュリティ教育
現場の担当者に対し、ツールの使い方だけでなく「何を作ってはいけないか」「どのようなデータを扱う際にリスクがあるか」というAIセキュリティ教育を実施することが重要です。特に「社外秘データ」と「個人情報」の取り扱いについては、明確なガイドラインを策定してください。
3. AIエージェントのライフサイクル管理
作成されたAIエージェントに対し、「作成者」「管理者」「利用範囲」「更新頻度」を明確にし、一定期間利用されていないエージェントは棚卸し・削除するルールを設けてください。これにより、管理不能な「野良AI」の増殖を防ぎ、セキュリティとガバナンスを維持した持続可能なAI活用が可能になります。