投稿者 global-ai-media 
大規模言語モデル（LLM）が自律的に計画・実行を行う「エージェンティックAI」の業務適用が現実味を帯びる中、ニュージーランドのサイバーセキュリティ機関（NCSC）が導入に関する指針を発表しました。本記事ではこのグローバルな動向を紐解きながら、日本の商習慣や組織文化を踏まえた安全なAI活用のあり方を解説します。
自律的に動く「エージェンティックAI」の台頭
これまで多くの企業が導入を進めてきた生成AIは、主に人間が入力したプロンプト（指示）に対してテキストや画像を生成する「対話型」が主流でした。しかし現在、世界のAI開発のトレンドは「エージェンティックAI（Agentic AI）」へと移行しつつあります。
エージェンティックAIとは、単に回答を返すだけでなく、自ら周囲の状況やデータを「感知（Sense）」し、達成すべき目標に向けて手順を「計画（Plan）」し、外部のツールやシステムを操作して「実行（Execute）」する自律型のAIシステムを指します。たとえば、「来週の顧客向け提案資料を作成し、関係者に共有して」という指示だけで、AIが顧客データを参照し、資料を生成し、メールシステムを操作して送信するといった一連のタスクをこなすことが期待されています。
ニュージーランドNCSCが示すサイバーセキュリティの指針
こうした自律型AIは、業務の飛躍的な効率化をもたらす一方で、システムに与える権限が大きくなるため、新たなセキュリティリスクを生み出します。この課題に対し、ニュージーランドの国家サイバーセキュリティセンター（NCSC-NZ）はいち早く、各セクターにおけるエージェンティックAIの導入（デプロイメント）に関する期待事項とガイドラインを示しました。
NCSCが特に注視しているのは、LLMエージェントがシステムにアクセスし、自律的に操作を行う際のリスクです。AIがハルシネーション（もっともらしい嘘や誤情報）を起こしたまま誤った計画を実行してしまったり、悪意のあるプロンプト・インジェクション（AIを騙して不正な操作をさせる攻撃）を受け、社内の機密データを外部に送信してしまったりする危険性があります。そのため、AIに対する権限の最小化や、自律的な振る舞いに対する厳格な監視体制が不可欠であると警鐘を鳴らしています。
日本の組織文化と商習慣を踏まえた導入のアプローチ
この動向は、日本企業にとっても対岸の火事ではありません。日本国内でエージェンティックAIを社内業務や自社プロダクトに組み込む場合、日本の法規制（個人情報保護法や著作権法）や、独自の商習慣・組織文化を考慮したリスク対応が求められます。
日本のビジネス環境では品質に対する要求が高く、AIの誤作動による顧客への悪影響やコンプライアンス違反に対して非常にセンシティブです。そのため、AIにすべてを委ねる「完全自律型」をいきなり顧客接点や基幹システムに導入することは、実務上推奨されません。システムが暴走した際の責任の所在が不明確になり、社内の稟議や監査を通過することが困難になるためです。
現実的なアプローチとしては、社内の限定的な情報収集や定型業務の自動化など、影響範囲の小さい領域からスモールスタートを切ることが重要です。また、完全自動化を目指すのではなく、最終的な意思決定の直前に人間が確認・承認を行う「Human-in-the-loop（人間の介在）」のプロセスを設計に組み込むことが、日本企業のガバナンス基準を満たすための鍵となります。
日本企業のAI活用への示唆
エージェンティックAIの導入に向けた要点と、日本企業の実務への示唆は以下の通りです。
1. システム権限の「最小特権の原則」を徹底する：AIエージェントには、業務実行に必要な最低限のシステムアクセス権限のみを付与してください。万が一AIが誤作動やサイバー攻撃を受けた場合でも、被害を局所化できる「ゼロトラスト」の考え方を前提とすることが重要です。
2. 「Human-in-the-loop」を前提とした業務設計：日本の商習慣における品質担保や責任の所在を明確にするため、重要なアクション（決裁、対外的な情報発信、重要データの更新など）には、システムが自動実行する前に人間による承認プロセスを挟むワークフローを構築してください。
3. AIの動作ログの取得と監査体制の構築：AIが何を感知し、どのような計画を立てて実行したのかを後から追跡できるよう、詳細なログを取得・保管する仕組みが必要です。これは、総務省・経済産業省が示す「AI事業者ガイドライン」等のガバナンス要件への対応や、インシデント発生時の原因究明に直結します。
エージェンティックAIは、業務効率化や新規サービス開発において強力な推進力となります。過度なリスク回避に陥るのではなく、適切なガバナンスとセキュリティの枠組みを自社内で整備し、プロダクトや業務への組み込みを戦略的に進めていくことが求められています。