投稿者 global-ai-media 
フランスの大手電機・防衛企業タレス（Thales）が、自律型AIやLLMアプリケーションを保護する「AI Security Fabric」を発表しました。生成AIの活用が「対話」から「自律的なアクション」へと進化する中、日本企業が直面する新たなセキュリティリスクと、実運用時（ランタイム）の保護の重要性について解説します。
タレスによる「AI Security Fabric」発表の背景
防衛・セキュリティ領域で世界的な実績を持つタレス（Thales）が、新たなセキュリティソリューション「AI Security Fabric」を発表しました。このソリューションの核心は、急速に普及が進む大規模言語モデル（LLM）と、それらを活用した「Agentic AI（自律型AIエージェント）」に対し、実運用時（ランタイム）のセキュリティ保護機能を提供する点にあります。
これまでAIのセキュリティといえば、学習データの汚染防止や、モデル自体の脆弱性診断が主でした。しかし、AIが単なるチャットボットを超え、社内システムや外部ツールと連携して自律的にタスクをこなす「エージェント」へと進化するにつれ、稼働中の振る舞いを監視し、不正な命令や予期せぬ挙動をリアルタイムで防ぐニーズが急増しています。タレスの動きは、こうした市場の変化を象徴するものです。
「Agentic AI」と「ランタイムセキュリティ」が重要になる理由
ここで重要なキーワードとなるのが、Agentic AI（自律型AIエージェント）です。これは、人間が細かく指示を出さなくても、AIが自ら計画を立て、APIを通じてメール送信やデータベース操作、外部サイトへのアクセスといった「行動」を実行できるシステムを指します。
日本企業においても、業務効率化のためにRAG（検索拡張生成）や社内APIと連携したAIエージェントの開発が進んでいます。しかし、AIが「行動」できるということは、リスクも増大することを意味します。例えば、悪意あるユーザーが巧妙なプロンプト入力（プロンプトインジェクション）を行い、AIを騙して機密情報を外部に送信させたり、不適切な契約処理を実行させたりする恐れがあります。
従来のファイアウォールや境界防御だけでは、正規のAI利用に見せかけた攻撃を防ぐことは困難です。そのため、AIが稼働している最中（ランタイム）に、入出力の内容やAIの呼び出し履歴を常時監視し、不審な挙動があれば即座に遮断する「AI専用のランタイムセキュリティ」が不可欠となります。
日本企業におけるリスク管理とガバナンスへの示唆
タレスのような、特に欧州に基盤を持つセキュリティベンダーがこの分野に注力していることは、日本企業にとっても重要な意味を持ちます。EU AI法（EU AI Act）をはじめとする厳格な規制への対応が念頭にあるため、単なる機能要件だけでなく、コンプライアンスやガバナンスの観点が色濃く反映されているからです。
日本の組織文化として、AI導入には「安心・安全」が最優先される傾向があります。しかし、過度なリスク回避はイノベーションの停滞を招きます。今回のようなランタイムセキュリティ技術を活用することで、「AIに自由な権限を与えつつ、逸脱した行動はシステム側で強制的に止める」というガードレールの構築が可能になります。これにより、現場には利便性を提供し、経営層にはガバナンスの担保を示すことができるようになります。
日本企業のAI活用への示唆
今回のタレスの発表を起点に、日本のAI活用担当者が押さえておくべき要点は以下の通りです。
- 「対話」から「行動」へのシフトに備える：
AI活用はチャットによる質疑応答から、業務を代行するエージェント型へと移行しつつあります。これに伴い、情報漏洩リスクだけでなく、AIが誤った「操作」を行うリスク（例：誤発注、データの誤削除）への対策を計画に盛り込む必要があります。 - 静的防御から動的防御への転換：
モデル導入前のテストだけでなく、稼働中のAIを監視する「ランタイムセキュリティ」の仕組みを検討してください。特に顧客向けのAIサービスや、社内重要データにアクセスできるAIエージェントにおいては必須の要件となりつつあります。 - セキュリティを「ブレーキ」ではなく「ガードレール」と捉える：
厳格すぎる禁止ルールはAIの利便性を損ないます。適切な監視ツールを導入することで、「万が一の際はシステムが止める」という担保を作り、現場が安心してAIを活用できる環境（ガードレール）を整備することが、DX推進の鍵となります。