投稿者 global-ai-media 
クラウドセキュリティの世界的権威であるCSA（Cloud Security Alliance）の最新動向から、企業のAI導入が単なる生成AI利用から自律的な「エージェント型AI」へと進化している現状が浮き彫りになりました。本稿では、この技術的シフトに伴う新たなリスクと、日本企業が直面するガバナンスの課題について、実務的な観点から解説します。
生成AIの普及と「エージェント型AI」の台頭
CSA（Cloud Security Alliance）が扱う最新のテーマにおいて注目すべき点は、企業の関心が単なるテキスト生成を行うLLM（大規模言語モデル）の利用から、より複雑なタスクを自律的に遂行する「エージェント型AI（Agentic AI）」へと移行しつつあることです。
エージェント型AIとは、ユーザーの指示に基づき、AIが自ら計画を立て、外部ツール（Web検索、社内データベース、API連携など）を操作してタスクを完了させるシステムを指します。従来のチャットボットが「回答を生成する」だけであったのに対し、エージェント型AIは「行動する」ことが可能です。これは業務効率化の観点では大きな飛躍ですが、セキュリティの観点では攻撃対象領域（アタックサーフェス）が拡大することを意味します。
日本国内でも、RAG（検索拡張生成）システムや社内APIと連携したAIアシスタントの開発が進んでいますが、AIが誤った判断で不適切なデータを参照したり、意図しないメールを送信したりするリスクへの対策は、まだ十分とは言えません。
組織を悩ませる「シャドーAI」とデータガバナンス
多くの日本企業において、現場部門がIT部門の許可を得ずに無料のAIツールや未承認のSaaSを利用する「シャドーAI」の問題が顕在化しています。業務効率化へのプレッシャーが高い日本の現場では、便利なツールがあれば公式な承認プロセスを待たずに利用してしまう傾向があります。
CSAなどのグローバルな調査でも、組織のガバナンスが技術の進化に追いついていない現状が指摘されています。特に、機密情報や個人情報が意図せずパブリックなAIモデルの学習データとして利用されてしまうリスクは依然として高く、利用規約（ToS）の確認不足や、オプトアウト設定の不備が散見されます。
日本の商習慣において、情報の取り扱いは極めてセンシティブです。しかし、「リスクがあるから全面禁止」というアプローチをとれば、シャドーAIは地下に潜り、かえって実態把握が困難になります。重要なのは、利用を禁止することではなく、安全な利用環境（サンドボックス環境や企業向けプランの契約）を提供し、その範囲内での利用を促すことです。
セキュリティ担当者と事業部門の連携不足
AIガバナンスにおけるもう一つの課題は、セキュリティチーム、法務部門、そして実際にAIを活用したい事業部門（プロダクト開発や業務改革チーム）の間のサイロ化です。
従来型のセキュリティ対策は、境界防御やアクセス制御が中心でしたが、AI時代には「プロンプトインジェクション（AIを騙して不適切な出力をさせる攻撃）」や「モデルの幻覚（ハルシネーション）」といった新しいタイプのリスクへの対応が求められます。これらは従来のファイアウォールでは防げません。
日本企業では、責任分界点が曖昧になりがちです。CISO（最高情報セキュリティ責任者）がAIのリスクをどこまで負うのか、あるいはCDO（最高デジタル責任者）やAI推進室が主導するのか。この役割分担を明確にしないままプロジェクトを進めると、リリース直前のセキュリティチェックで手戻りが発生したり、重大な脆弱性を見落としたまま運用を開始したりする事態を招きます。
日本企業のAI活用への示唆
グローバルなAIセキュリティの動向と日本の現状を踏まえ、以下の3点を実務上の指針として提案します。
1. 「全面禁止」から「ガードレール付きの許可」への転換
シャドーAIを防ぐ最良の方法は、公式に安全な環境を提供することです。Azure OpenAI ServiceやAmazon Bedrockなどを活用し、入力データが学習に利用されない環境を整備した上で、利用ガイドラインを策定してください。ガイドラインは「べからず集」にするのではなく、「こうすれば安全に使える」というイネーブリング（実現支援）の視点で作成することが、現場のコンプライアンス意識を高めます。
2. エージェント型AIへの段階的な権限委譲
AIに社内システムへのアクセス権や操作権（書き込み、送信など）を与える場合は、最小権限の原則を徹底してください。最初は「読み取り専用」から始め、AIの挙動が予測可能であることを確認した上で、段階的に操作権限を与えます。また、重要な意思決定や外部へのアクションには必ず人間が介在する「Human-in-the-Loop」のプロセスを組み込むことが、現時点での最適解です。
3. AI・セキュリティ・法務のクロスファンクショナルチームの組成
AIガバナンスはIT部門だけでは完結しません。著作権法や個人情報保護法改正への対応（法務）、AI倫理やブランド毀損リスク（広報・経営企画）、技術的脆弱性（セキュリティ・エンジニア）の観点を統合する必要があります。日本企業特有の「縦割り」を打破し、AIプロジェクトの初期段階からこれらのステークホルダーが参加する体制を構築してください。