投稿者 global-ai-media 
Hugging Faceなどのモデル共有プラットフォームにおいて、数十万件に及ぶ「安全でないモデル」の存在が指摘されています。本記事では、オープンソースAIの利便性の裏に潜むサプライチェーンリスクの実態と、日本企業が安全にAI活用を進めるための具体的なガバナンスについて解説します。
AI開発における「サプライチェーンリスク」の顕在化
近年、オープンソースの大規模言語モデル（LLM）やAIエージェントの開発が急速に進んでいます。これに伴い、Hugging Faceなどのモデル共有プラットフォームは、エンジニアや研究者にとって不可欠なインフラとなりました。しかし、海外メディアの報道などによると、Hugging Face上には約35万件の「安全でないモデルの問題（unsafe model issues）」が存在し、AIエージェントのスキルを共有するClawHubのレジストリにも300件以上の悪意あるスキルが含まれていることが指摘されています。
これは、ソフトウェア開発においてライブラリやパッケージにマルウェアが混入する「サプライチェーン攻撃」が、AIの領域にも及んできたことを意味します。誰でも自由にモデルを公開・ダウンロードできるオープンな環境は、イノベーションを加速させる一方で、悪意のある攻撃者にとっても格好の標的となっています。
マルウェアが混入する仕組みとビジネスへの影響
AIモデルを利用する際、特定のファイル形式（Pythonの標準的なデータ保存形式であるPickleなど）を用いると、モデルを読み込むだけで悪意のあるプログラムが実行されてしまう脆弱性が存在します。攻撃者はこれを利用し、有用なAIモデルを装ってマルウェアを仕込みます。また、AIエージェントが外部ツールと連携するための「スキル」や「プラグイン」に、機密データを密かに外部へ送信するコードが埋め込まれるケースも確認されています。
開発現場のエンジニアが、業務効率化や新規事業のプロトタイプ作成のために、十分な検証を行わずにこれらのモデルやコードをダウンロードして実行してしまうと、社内ネットワークへの侵入や情報漏洩につながる恐れがあります。特に、本番環境のプロダクトに組み込まれた場合、自社だけでなく顧客企業をも巻き込む重大なセキュリティインシデントに発展するリスクがあります。
日本の組織文化・商習慣に潜む落とし穴
こうしたリスクに対し、日本企業ならではの注意点があります。第一に、開発現場とセキュリティ部門・法務部門の「分断」です。AIの進化スピードに追従するため、現場主導でアジャイルに検証が進む一方で、全社的なセキュリティ基準やAIガバナンスの整備が後手に回っているケースが散見されます。「オープンソースだから安全だろう」という思い込みは非常に危険です。
第二に、外部ベンダーへの開発委託（SIer文化）によるブラックボックス化です。自社のプロダクトや社内システムに組み込まれたAI機能が、どのようなオープンソースモデルをベースに構築されているのか、委託元である企業が詳細を把握していないことが少なくありません。万が一、利用中のモデルに悪意のあるコードが含まれていた場合、責任の所在が曖昧になるだけでなく、インシデント発生時の原因究明や対応が大幅に遅れる可能性があります。
日本企業のAI活用への示唆
オープンソースAIの活用は、日本企業がグローバルな競争力を維持する上で避けては通れません。リスクを過度に恐れて活用を止めるのではなく、以下のような実務的な対策とガバナンス体制の構築が求められます。
1. モデルの出所と安全性の確認プロセスを組み込む：社内で利用するAIモデルやコードは、出所が信頼できるものに限定し、導入時にセキュリティスキャンを実施するフローを定着させましょう。また、プログラムの実行を伴わない安全なファイル形式（Safetensorsなど）を優先して使用することが推奨されます。
2. AIの「部品表（AI BOM）」の管理を徹底する：自社開発か外部委託かを問わず、プロダクトに組み込まれているAIモデル、バージョン、依存ライブラリをリスト化し、透明性を確保することが重要です。これにより、新たな脆弱性が発見された際の迅速な影響範囲の特定が可能になります。
3. 現場と管理部門が連携したAIガバナンスの構築：AI技術は従来のソフトウェアとは異なる特有のリスクを持ちます。法務、セキュリティ、エンジニアの各部門が連携し、日本の法規制を遵守しつつ、安全に実験と実装を繰り返すことができる社内ガイドラインを策定・継続的にアップデートしていくことが不可欠です。