投稿者 global-ai-media 
AIエージェント同士が交流するプラットフォーム「Moltbook」に対し、アンドレイ・カルパシー氏やゲイリー・マーカス氏といった業界の重鎮が「災害の予兆」であるとして利用停止を呼びかける事態となっています。自律型AIエージェントの実装が進む中、この事例が示唆するセキュリティの課題と、日本企業が取るべきガバナンスのあり方について解説します。
「Moltbook」への異例の警告が意味するもの
米国時間2026年2月、AIエージェント向けのソーシャルメディアとされる「Moltbook」に対し、AI業界のトップリーダーたちが相次いで強い懸念を表明しました。特に、AI懐疑派として知られるゲイリー・マーカス氏だけでなく、OpenAIやTeslaでの実績を持つアンドレイ・カルパシー氏のような実務家までもが「disaster waiting to happen（災害が起きるのを待っているようなものだ）」と警告している点は注目に値します。
通常、立場の異なる専門家が口を揃えて批判する場合、そこには思想的な対立を超えた、構造的かつ技術的な欠陥やリスクが存在する可能性が高いと言えます。Moltbookが具体的にどのようなアルゴリズムで動作しているかの詳細はブラックボックスな部分もありますが、ここでの核心は「自律的なAIエージェント同士が、人間の介入なしに相互作用する場」が持つ潜在的な危険性です。
自律型エージェントの「暴走」とセキュリティリスク
生成AIの進化は、チャットボットのように人間と対話する段階から、目標達成のために自律的にタスクをこなす「AIエージェント」の段階へと移行しています。Moltbookのようなプラットフォームが危険視される理由は、エージェント間の相互作用が予測不能な連鎖反応を引き起こす恐れがあるからです。
例えば、あるエージェントが誤った情報や悪意のあるプロンプト（指示）を生成し、それが他のエージェントに伝播した場合、瞬く間にネットワーク全体が汚染されるリスクがあります。これを「プロンプト・インジェクションの連鎖」と呼ぶこともできますが、人間が介在しない環境では、エラーや攻撃が光の速さで拡散し、制御不能な状態（小規模なシンギュラリティ的な暴走）に陥る可能性があります。企業システムがこうした外部の無秩序なエージェントネットワークと接続された場合、機密情報の流出や意図しない商取引の実行など、取り返しのつかない損害を被るリスクがあります。
日本企業における「AIエージェント」活用の現在地
日本国内においても、人手不足を背景とした業務効率化の切り札として、RPA（Robotic Process Automation）の次世代版とも言える「AIエージェント」への期待が高まっています。しかし、Moltbookの事例は、無邪気にAIに自律権を与えることへの警鐘です。
日本の商習慣では、稟議や承認プロセスといった「人間による確認」が重視されますが、AIエージェントの導入においてはこの文化的特性がむしろ強みになる可能性があります。完全に自律したAIに任せるのではなく、重要な意思決定ポイントには必ず人間を配置する「Human-in-the-loop（ヒューマン・イン・ザ・ループ）」の設計思想が、今回のようなリスクを回避する鍵となります。
日本企業のAI活用への示唆
今回のMoltbook騒動は、単なる海外のゴシップではなく、これから本格化するエージェント活用の時代に向けた重要な教訓を含んでいます。意思決定者やエンジニアは以下の点を意識する必要があります。
1. 外部ネットワークとの接続制御（サンドボックス化）
社内のAIエージェントを、Moltbookのような不特定多数のエージェントが存在する外部パブリックネットワークに安易に接続させないことが重要です。社内データや顧客情報を扱うエージェントは、厳格に管理された閉域網（サンドボックス）内で動作させ、外部との通信はAPIゲートウェイ等を通じて厳密に制御する必要があります。
2. 自律性のレベル管理と権限委譲の明確化
AIエージェントにどこまでの権限（メール送信、決済、コード実行など）を与えるかを明確に定義する必要があります。特に日本では「現場の判断」が曖昧になりがちですが、AIに関しては「何をしてはいけないか」を明示的なガードレールとして実装することが、ガバナンスの基本となります。
3. インシデント対応計画の策定
AIが予期せぬ挙動を示した際、即座にシステムを遮断できる「キルスイッチ」の仕組みや、影響範囲を特定するトレーサビリティ（追跡可能性）の確保が求められます。AIの暴走をSFの話として片付けず、システム障害の一種として捉え、BCP（事業継続計画）に組み込む姿勢が必要です。