投稿者 global-ai-media 
AIセキュリティ企業のGreyNoiseによると、構成ミスのあるプロキシサーバーを経由してLLMサービスを不正利用する攻撃が急増しており、短期間で9万件以上の攻撃セッションが観測されています。本稿では、企業のAI活用において見落とされがちな「接続経路」の脆弱性に焦点を当て、日本企業が取るべき対策とガバナンスのあり方を解説します。
LLMそのものではなく「入り口」が狙われている
生成AIのビジネス活用が加速する中、攻撃者の手口も変化しています。TechRadar等の報道によると、AIセキュリティ企業のGreyNoiseは、大規模言語モデル（LLM）へのアクセスを提供する「プロキシ（中継サーバー）」の不適切な設定（Misconfigured proxies）を狙った攻撃が急増していると報告しました。観測されただけで9万件以上の攻撃セッションが確認されています。
これは、ChatGPTやClaudeといったLLMのモデル自体の脆弱性を突く攻撃ではありません。企業がAPIを利用するために構築したインフラの「鍵の閉め忘れ」を狙うものです。具体的には、外部からアクセス可能な状態で放置されたプロキシサーバーを発見し、そこに埋め込まれたAPIキーを勝手に利用したり、企業のクレジット（課金枠）を使って自分たちのタスクを処理させたりする手口です。
なぜ日本企業で「プロキシ」がリスクになるのか
日本企業、特にエンタープライズ環境において、LLMを利用する際は直接アクセスさせるのではなく、独自の「プロキシ」や「ゲートウェイ」を挟む構成が好まれます。これには主に2つの理由があります。
- 個人情報・機密情報のフィルタリング： プロンプトに含まれる個人情報（PII）をLLMに送信する前にマスク処理するため。
- ログ管理とコスト統制： 社員の利用状況を監視し、部門ごとのAPI利用料を管理するため。
しかし、こうした中間サーバーを急いで構築する過程で、セキュリティ設定が疎かになるケースが散見されます。特に、PoC（概念実証）段階でクラウド上に安易に立ち上げたサーバーが、認証なしでインターネットに公開されたまま放置されているケースや、Dockerコンテナの設定ミスによりポートが開放されているケースなどが典型例です。これを「LLMjacking（LLM乗っ取り）」と呼ぶこともあり、企業の計算リソースや予算が攻撃者に「ただ乗り」されるリスクがあります。
想定される実害と「踏み台」にされるリスク
プロキシの設定ミスによる被害は、単なる「API利用料の増大」にとどまりません。以下のような深刻なリスクが考えられます。
第一に、自社の信頼性の毀損です。攻撃者が企業の有料APIアカウントを悪用し、スパムメールの生成やフィッシング詐欺の文面作成、マルウェアコードの生成などを行う可能性があります。APIプロバイダー（OpenAI等）から見れば、その不正なリクエストは「御社の正規のアカウント」から発信されたものに見えるため、最悪の場合、アカウント停止処分や法的責任を問われる可能性があります。
第二に、情報の流出です。プロキシが乗っ取られるということは、そのサーバーを経由する正当な社内データのやり取りも、攻撃者に傍受される可能性があることを意味します。機密情報のフィルタリングを行うはずの場所が、逆に情報流出の穴になってしまっては本末転倒です。
日本企業のAI活用への示唆
今回の事例は、AIモデルの性能や精度ばかりに目を奪われ、足元のインフラセキュリティがおろそかになっている現状への警鐘と言えます。日本企業の実務担当者は以下の点を見直すべきです。
1. PoC環境と「野良AI」の棚卸し
日本企業では、現場主導で立ち上げたPoC環境が、正式なセキュリティ審査を経ずにインターネット上に放置されているケースが多々あります。IT部門が把握していない「野良AIサーバー」が存在しないか、早急にインベントリ（資産台帳）を作成し、不要なエンドポイントを閉鎖する必要があります。
2. 認証・認可の厳格化
プロキシサーバーを設置する場合は、必ず強固な認証（OIDCなど）を必須とし、アクセス元IPアドレスを社内ネットワークやVPNに限定するなどの制限を設けてください。「とりあえず動く」状態での公開は、攻撃者にとって格好の標的です。
3. API利用の異常検知（アノマリー検知）
APIの利用量や利用パターンをモニタリングし、業務時間外の急激なスパイク（利用急増）や、通常とは異なるプロンプト傾向を検知できる仕組みを導入すべきです。これにより、万が一認証が突破された場合でも、被害を最小限に抑えることが可能になります。
AI活用は「モデル選び」から「運用（LLMOps）とガバナンス」のフェーズへと移行しています。便利な技術を安全に使い続けるために、地味ですが確実なインフラ管理がこれまで以上に求められています。