投稿者 global-ai-media 
AI同士が自律的に連携する「エージェント社会」の到来が目前に迫る中、新たなセキュリティ脅威が浮上しています。ボット専用のネットワークに人間が密かに混入し、AIエージェントを乗っ取るリスクの実態とは。米国での実験事例を起点に、日本企業が備えるべきAIガバナンスとセキュリティ設計について解説します。
チャットボットから「エージェント」へ、変化する攻撃対象
生成AIの活用は、人間がAIに質問する「チャットボット」の段階から、AIが自律的にタスクを遂行する「AIエージェント」の段階へと移行しつつあります。これに伴い、AIエージェント同士がAPIを通じて対話し、情報を交換したり取引を行ったりする「ボット間ネットワーク」が形成され始めています。
しかし、The Vergeなどが報じた最近の実験事例は、この新しいエコシステムに重大な脆弱性があることを示唆しています。「Moltbook」のようなAIボット向けのソーシャルネットワークにおける実験では、データベースの不備を突くことで、悪意ある第三者が他者のAIエージェントを「不可視かつ無期限に」制御下に置くことが可能であることが実証されました。
これは単なるバグの話ではありません。企業が業務効率化のために配備したAIエージェントが、気づかないうちに外部の攻撃者に乗っ取られ、組織内部の情報を流出させたり、不正なトランザクションを実行させられたりするリスクを意味します。
「人間によるなりすまし」という逆説的な脅威
従来、AI分野における懸念といえば「AIが人間になりすますこと（ディープフェイクなど）」でした。しかし、AIエージェント経済圏においては、「人間がAIになりすます」ことが新たな脅威となります。
AIエージェント同士の通信は、相手もまたプログラムであるという前提の高速かつ大量のやり取りに基づいています。もし、その通信経路に人間（ハッカー）がAIのふりをして介入した場合、正規のAIエージェントは相手を疑う術を持たず、機密情報を渡してしまう恐れがあります。これは、日本企業が重視してきた「性善説」に基づくシステム設計が通用しない領域であり、ゼロトラスト（何も信頼しない）アプローチがAI間の通信にも求められることを示しています。
サプライチェーン攻撃としてのAIエージェント
日本国内でも、SaaS製品や社内システムにLLM（大規模言語モデル）を組み込む動きが加速しています。今後、自社のAI購買担当エージェントが、サプライヤーのAI販売担当エージェントと自動交渉するといったシナリオも現実味を帯びてくるでしょう。
ここで問題となるのが、サプライチェーン・セキュリティです。もし取引先のAIエージェントが既に何者かに乗っ取られていた場合、そこから送られてくるプロンプト（命令文）によって、自社のAIが「プロンプトインジェクション攻撃」を受ける可能性があります。結果として、自社のシステムが不正操作されたり、顧客データが漏洩したりするリスクがあります。
日本の商習慣において、企業間の信頼関係は非常に重要ですが、AIエージェントを介した取引においては、相手企業のセキュリティ体制そのものが自社のリスクに直結します。
日本企業のAI活用への示唆
今回の事例は、AIエージェントの実装を進める日本企業の意思決定者やエンジニアに対し、以下の重要な示唆を与えています。
1. AIエージェントの「本人確認」技術の導入
人間に対する認証（ID/パスワード、多要素認証）と同様に、AIエージェントに対しても厳格なアイデンティティ管理が必要です。mTLS（相互TLS認証）のような技術を用い、通信相手が正規のAIエージェントであり、かつ改ざんされていないことを暗号学的に保証する仕組みが、システム設計の必須要件となります。
2. 「Human-in-the-loop」の再定義と堅持
完全な自律化を急ぐあまり、人間の監視プロセスを排除することは危険です。特に決済や個人情報へのアクセスが伴う重要なアクションについては、AIが起案し、人間が最終承認する「Human-in-the-loop」の構成を維持すべきです。これは、日本の組織文化における「稟議・承認」のプロセスをAI時代に合わせてアップデートすることと同義です。
3. AIガバナンスにおける「ボット間通信」の考慮
現在策定が進んでいる多くのAIガイドラインは、対人間（Human-to-AI）のリスクに焦点を当てがちです。しかし、今後は「AI-to-AI」のリスク評価をガバナンス・フレームワークに組み込む必要があります。AIが外部システムと連携する際の権限範囲を最小限に留める（最小権限の原則）など、具体的な技術的ガードレールの設置が急務です。