投稿者 global-ai-media 
生成AIのセキュリティ議論において、プロンプトインジェクションによる誤作動ばかりが注目されがちですが、いま水面下で深刻化しているのが「モデルそのものの窃取」です。GoogleのGeminiをはじめとする高度なLLMに対し、ハッカーたちはその学習データや推論ロジックを盗み出そうと攻撃を仕掛けています。自社の独自ノウハウをAIに学習させている日本企業にとって、この「モデル抽出攻撃」は極めて重大な経営リスクとなり得ます。
モデル抽出攻撃（Model Extraction Attack）とは何か
AIセキュリティの文脈において、従来のサイバー攻撃とは異なる脅威として浮上しているのが「モデル抽出攻撃（Model Extraction）」です。これは、API経由で大量かつ巧妙なクエリ（プロンプト）をLLMに送信し、その出力結果を分析することで、モデルの内部パラメータに近い挙動を再現したり、学習に使用された機密データを復元（抽出）したりする手法を指します。
元記事にあるGoogleの脅威分析担当者の発言、「もしあなたのLLMが、100年分の取引の極意（secret thinking）を学習していたとしたら」という問いかけは、この問題の本質を突いています。サーバーに侵入してファイルをコピーするのではなく、正規の利用窓口であるチャットやAPIを通じて、AIの「知能」や「記憶」そのものを少しずつ吸い出す行為と言えます。
日本企業が直面する「知的財産」のリスク
多くの日本企業が現在、DX（デジタルトランスフォーメーション）の一環として、社内に蓄積された膨大な技術文書、熟練工のノウハウ、あるいは独自の商習慣に基づいた顧客対応データをLLMに学習（ファインチューニング）させようとしています。これは「匠の技」をデジタル化する素晴らしい取り組みですが、セキュリティの観点からは「企業秘密の塊をAPIで公開している」状態にもなり得ます。
もし、競合他社や悪意ある攻撃者が、公開された（あるいは社内から漏洩したアクセス権を用いた）AIモデルに対してモデル抽出攻撃を行い、その「匠の技」を模倣したクローンモデルを作成できてしまったらどうなるでしょうか。長年培ってきた競争優位性が、一夜にして無力化される恐れがあります。これは単なるセキュリティインシデントを超え、経営基盤に関わる知的財産権の侵害問題です。
RAGとファインチューニングの使い分けによる防衛
このリスクに対抗するため、実務的な観点では「データを持たせる場所」の設計が重要になります。すべての機密データをモデルの重み（パラメータ）として学習させるファインチューニングは、回答精度を高める一方で、モデル自体が機密情報の塊となるため、抽出攻撃のリスクが高まります。
一方、RAG（検索拡張生成）アーキテクチャを採用し、モデル自体は汎用的なものを使いつつ、機密データは外部の検索データベースに保持させる方法は、リスク分散に有効です。データベース側であれば、従来の厳格なアクセス制御やログ監視が適用しやすく、モデルが盗まれたとしても、知識ベースそのものが抜かれるわけではないからです。日本企業が得意とする「すり合わせ」の文化をAIに適用する場合でも、すべてをモデルに統合するのではなく、システム全体でのガバナンスを設計する必要があります。
APIレート制限とモニタリングの重要性
技術的な防衛策として、APIのレート制限（利用回数制限）や、入力・出力のモニタリングは必須です。モデル抽出攻撃は通常、人間では不可能な頻度やパターンでクエリを送信します。異常なアクセスパターンを検知し、即座に遮断する仕組み（AIファイアウォールなど）の導入が推奨されます。
また、出力に電子透かし（ウォーターマーク）を入れる技術も研究が進んでいますが、決定的な防御策はまだ確立されていません。そのため、「攻撃されることを前提」とした、多層防御の考え方が不可欠です。
日本企業のAI活用への示唆
今回のGoogle Geminiへの攻撃事例や専門家の警告を踏まえ、日本企業がAI活用を進める上で考慮すべきポイントを整理します。
- 「学習データ＝資産」という認識の徹底： AIモデル構築に使うデータが、流出した場合に経営に打撃を与えるレベルの機密情報（コアコンピタンス）かどうかを分類してください。
- アーキテクチャによるリスク回避： 機密性の高いノウハウは、安易にモデル自体に学習（ファインチューニング）させず、RAG構成で参照させる、あるいは完全に閉域網（オンプレミスやVPC）内のモデルでのみ利用するなど、データの重要度に応じたアーキテクチャを選定してください。
- レッドチーミングの実施： 本番環境への展開前に、攻撃者視点でAIモデルの脆弱性を検証する「レッドチーミング」を実施し、プロンプト経由で機密情報が引き出せないかテストすることを推奨します。
- 利用規約と法的保護： 技術的な防御に加え、利用規約でのリバースエンジニアリング禁止条項の明記や、不正競争防止法に基づく営業秘密としての管理体制（アクセス制限など）を強化し、法的な抑止力を確保することも重要です。