投稿者 global-ai-media 
GoogleのGemini CLIに、ファイル変更を制限し計画策定のみを行う「プランモード」が追加されました。この機能アップデートは、日本企業がAIエージェントを安全かつ実務的にシステムへ組み込むための重要なヒントを示しています。
生成AIエージェント化に伴う「過剰な自律性」のリスク
昨今の生成AIの進化により、単なるチャットボットを超えて、自律的にタスクを実行する「AIエージェント」への注目が集まっています。ソフトウェア開発やインフラ運用の現場でも、CLI（コマンドラインインターフェース：テキスト入力でコンピュータに直接命令を下すツール）を通じてAIがコードを生成し、直接ファイルを書き換えたりシステムの設定を変更したりする試みが進んでいます。
しかし、こうしたAIの自律性には大きなリスクが伴います。AIが誤った判断（ハルシネーション）をした場合、重要なソースコードを破壊してしまったり、意図しないシステム変更を引き起こしたりする可能性があるからです。特にセキュリティやコンプライアンス、既存システムへの影響を重んじる日本のエンタープライズ企業において、「AIにどこまでの権限を与えるか」は、自動化を推進する上での大きな壁となっています。
Gemini CLIが導入した「プランモード」とは
こうした課題に対する一つの解として注目したいのが、Googleが提供するGemini CLIに新たに導入された「プランモード（Plan mode）」です。情報によると、このモードを有効にすると、Gemini CLIは読み取り専用（Read-only）のツールに制限され、システム内のいかなるファイルも直接変更できなくなります。
代わりにAIが実行するのは、自らの内部的な「計画（プラン）」の策定と更新のみです。エンジニアになじみ深いインフラ構成管理ツール「Terraform」のプラン機能のように、「もしこの操作を実行したら、システムはどのように変更されるか」を事前に提示する役割に徹します。これにより、ユーザーはAIがこれから行おうとしている作業内容を、システムに影響を与えない安全な状態で確認することができます。
日本の組織文化に合致する「Human-in-the-loop」のアプローチ
この「AIに計画だけを立案させ、実行前に人間がレビューする」という仕組みは、「Human-in-the-loop（人間の介在）」と呼ばれるAIガバナンスの基本原則の一つです。これは、段階的な承認プロセスやフェイルセーフ（障害発生時にも安全な側に制御を保つ仕組み）を重視する日本の組織文化と非常に相性が良いアプローチと言えます。
日本企業がAIを活用して業務効率化やシステム開発を進める際、「AIにすべてを任せる（フルオートメーション）」か「リスクを恐れてAIを使わない」の極端な二択になりがちです。しかし、プランモードのようなガードレールを設けることで、「AIを高度なドラフト作成者や計画立案者として活用し、最終的な意思決定と実行のトリガーは人間が引く」という現実的なワークフローを構築できます。これにより、意図せぬシステム障害のリスクをコントロールしながら、AIの恩恵を安全に享受することが可能になります。
日本企業のAI活用への示唆
今回のアップデートから、日本企業は以下の点をAI導入の実務や自社プロダクト開発に活かすべきです。
第1に、AIシステムへの権限付与における「最小権限の原則」の徹底です。AIエージェントに社内システムやデータベースへのアクセス権を与える際は、最初は「読み取り専用」から始め、安全性が確認された領域から段階的に権限を拡大していくステップ・バイ・ステップのアプローチが推奨されます。
第2に、AIの出力結果に対する検証プロセスをシステムや業務フローに組み込むことです。AIが生成したコードや設定変更のスクリプトは、ブラックボックス化させず、実行前に必ず差分を確認できる仕組みを標準化することで、品質とガバナンスを担保できます。
生成AIの実運用フェーズでは、能力の高さだけでなく、「いかにリスクを制御し、人間と安全に協調できるか」が問われます。ツール選定や自社サービスへのAI組み込みを検討する際は、このような制約・ガバナンス機能の有無を重要な評価基準として設定することが求められます。