投稿者 global-ai-media 
手軽にローカル環境でLLMを動作させられるツール「Ollama」のサーバーが、世界中で約17万5000台もインターネット上に無防備に公開されていることが判明しました。本記事では、この事例を単なる海外のセキュリティ事故としてではなく、日本企業における「シャドーAI」のリスクや、自社インフラでLLMを運用する際に不可欠なガバナンスの観点から解説します。
開発者の支持を集める「Ollama」と、その落とし穴
昨今、機密情報の保護やコスト削減、あるいはレイテンシの改善を目的として、ChatGPTなどのパブリッククラウド型AIではなく、自社サーバーやローカル環境で大規模言語モデル（LLM）を動かしたいというニーズが急増しています。その中で、エンジニアの間でデファクトスタンダードに近い地位を確立しつつあるのが「Ollama」です。複雑な環境構築をせずとも、コマンド一つでLlama 3やMistralといった最新モデルを稼働させられる利便性が最大の魅力です。
しかし、最新のセキュリティ調査によると、世界130カ国で約17万5000台ものOllamaサーバーが、認証なしでインターネットからアクセス可能な状態で放置されていることが明らかになりました。これは、開発者が検証目的（PoC）でクラウド上のインスタンスや外部公開サーバーにOllamaを立ち上げ、適切なアクセス制限（ファイアウォール設定や認証層の導入）を行わずに放置してしまった結果であると推測されます。
「LLMjacking」：計算リソースのただ乗りと情報漏洩
こうした無防備なサーバーが攻撃者に発見された場合、どのようなリスクがあるのでしょうか。元記事でも指摘されているのが「LLMjacking（LLMジャッキング）」という攻撃手法です。これは、攻撃者が他人のAIインフラを勝手に利用し、自身の悪意あるタスク（スパムメールの生成、フィッシングサイトのコード作成、あるいは別のサイバー攻撃の自動化など）を処理させるものです。被害を受けた企業は、意図しない大量の計算リソース（GPUコストや電気代）を負担させられるだけでなく、攻撃の踏み台として加担してしまう恐れがあります。
さらに深刻なのは、情報漏洩のリスクです。もしそのサーバーがRAG（検索拡張生成）などの仕組みと連携しており、社内ドキュメントへのアクセス権を持っていた場合、外部からのプロンプト入力によって社外秘情報が引き出される可能性があります。また、ファインチューニングされた独自モデルが盗み出される知的財産侵害のリスクも無視できません。
日本企業における「シャドーAI」の温床
この問題は、日本の組織においてこそ注意が必要です。DX推進やAI活用の号令のもと、各現場のエンジニアやデータサイエンティストが「まずは試してみる」という姿勢で、AWSやGoogle Cloud、あるいは社内の遊休サーバーを使って独自にLLM環境を構築するケースが増えています。
日本企業の組織文化として、現場の自発的な改善活動は推奨される一方、IT部門によるガバナンスが追いついていない「シャドーIT」ならぬ「シャドーAI」が発生しやすい土壌があります。「テスト環境だから大丈夫だろう」「IPアドレスを知っている人しかアクセスしないだろう」という性善説や油断が、企業のネットワーク境界に穴を開けることになります。
Ollama自体は素晴らしいツールですが、デフォルト設定ではローカル利用（localhost）を想定していることが多く、これをそのままサーバー用途で公開することにはリスクが伴います。Nginxなどのリバースプロキシによる認証設定や、VPN経由でのアクセス制限といった、従来のWebサーバーと同様、あるいはそれ以上の堅牢なセキュリティ設計が求められます。
日本企業のAI活用への示唆
今回の事例を踏まえ、日本企業が自社管理下でLLMを活用する際に留意すべきポイントを整理します。
1. AIインフラの資産管理と可視化
社内で誰が、どのクラウドサービスやサーバーでLLMを稼働させているかをIT部門が把握できる体制が必要です。無許可のAIサーバーが公開されていないか、定期的なポートスキャンや資産棚卸しを実施し、「野良AIサーバー」を排除する運用が求められます。
2. 「とりあえず公開」の禁止と認証の義務化
開発・検証環境であっても、インターネット経由でアクセス可能な状態にする場合は、必ずBasic認証やIP制限、VPN接続を必須とするポリシーを徹底してください。LLMはAPIを通じて容易に操作できるため、従来のWebアプリ以上に「認証」が重要になります。
3. オンプレミス・ローカルLLM利用ガイドラインの策定
パブリッククラウド（SaaS）の利用ガイドラインを整備している企業は多いですが、ローカルLLM（オープンソースモデル）の利用に関する規定はまだ未整備な企業が目立ちます。OSSのモデルを利用する際のリスク対応や、インフラ設定のベストプラクティスを社内エンジニア向けに周知し、安全にイノベーションを加速できる環境を整えることが重要です。