投稿者 global-ai-media 
生成AIの活用が単なる対話から自律的な「AIエージェント」へと進化する中、セキュリティリスクも新たな局面を迎えています。米Gen Digital社の動向を端緒に、自律型AIが抱える脆弱性やなりすましリスクに対し、日本企業がセキュリティガバナンスやアイデンティティ管理においてどう向き合うべきかを解説します。
AIエージェントの台頭と「行動するAI」のリスク
生成AIのトレンドは、人間がチャットで問いかけて答えを得る段階から、AIが自律的にタスクを計画・実行する「AIエージェント」の段階へと移行しつつあります。これに伴い、セキュリティの焦点も変化しています。
Gen Digital（Norton、Avast、LifeLockなどを傘下に持つサイバーセキュリティ企業）がAIエージェントのセキュリティとアイデンティティ保護に注力している背景には、AIが日常生活や業務プロセスに深く入り込むにつれ、従来のアンチウイルスやファイアウォールでは防げないリスクが顕在化している事実があります。
AIエージェントは、APIを通じてメール送信、スケジュール調整、さらには決済処理などを実行する権限を持つ場合があります。ここで懸念されるのが、プロンプトインジェクション（悪意ある命令を紛れ込ませる攻撃）や、AIエージェント自体の脆弱性を突いた攻撃です。単に誤った情報を出力するハルシネーションとは異なり、AIが「誤った行動」を自律的に行うことで、金銭的被害や情報漏洩が即座に発生するリスクが高まっています。
「本人性」の証明と組織的な詐欺への対策
元記事でも触れられている通り、組織的な詐欺（Scams）の手口はAIによって高度化しています。特に「アイデンティティ（本人性）」の保護は、今後のAIセキュリティの中核となります。
ディープフェイク技術を用いた音声や映像による「なりすまし」は、企業の経理担当者や経営層を標的とした詐欺（BEC：ビジネスメール詐欺の進化版）として現実の脅威となっています。また、AIエージェントがユーザーに代わってWebサービスにアクセスする際、「そのアクセスが正当なユーザーの代理であるか」をどう証明するかという認証の課題も浮上しています。
日本企業においては、リモートワークの普及とともにゼロトラストセキュリティ（すべてのアクセスを疑って検証する考え方）の導入が進んでいますが、今後は「人間だけでなく、AIエージェントのアイデンティティをどう管理・認証するか」が、ITガバナンスの重要なテーマとなるでしょう。
日本企業における実務的な課題とガバナンス
日本国内では、多くの企業がRAG（検索拡張生成）を用いた社内ナレッジ検索システムの構築を進めていますが、次のステップとして業務自動化（エージェント化）を検討する企業も増えています。
しかし、日本の組織文化や商習慣を鑑みると、AIエージェントの導入には慎重な設計が求められます。例えば、厳格な稟議制度や承認プロセスが存在する中で、AIエージェントにどこまでの決済権限や承認権限を持たせるのか。また、AI事業者が遵守すべきガイドラインや個人情報保護法との整合性をどう取るかといった課題です。
便利だからといって安易にAIエージェントに社内システムの広範なアクセス権限（Admin権限など）を与えてしまうと、ひとたびAIが乗っ取られた際に甚大な被害をもたらします。日本企業特有の「責任の所在を明確にする文化」において、AIの自律的な行動に対する責任分界点をあらかじめ定めておくことが不可欠です。
日本企業のAI活用への示唆
AIエージェントの活用とセキュリティ対策を両立させるために、以下の視点が重要となります。
1. 最小特権の原則をAIにも適用する
従業員に対するのと同様に、AIエージェントに対しても必要最小限の権限のみを付与する設計が必要です。参照のみ可能なのか、更新や削除も可能なのかをタスクごとに厳格に管理しましょう。
2. 人間による承認フロー（Human-in-the-loop）の維持
特に金銭が絡む処理や外部への情報発信など、リスクの高いタスクについては、AIエージェントが準備までを行い、最終的な実行ボタンは人間が押すというプロセスを、当面の間は維持すべきです。
3. アイデンティティ管理の強化
AIによるなりすまし詐欺への防御として、多要素認証（MFA）の徹底はもちろん、通常とは異なる振る舞い（アクセス元の変化や大量のデータダウンロードなど）を検知する仕組みを強化する必要があります。AIエージェント時代を見据え、人対人の信頼だけでなく、システム的な認証基盤の整備が急務です。