投稿者 global-ai-media 
AIの性能が飛躍的に向上する中、その強力さゆえに一般公開が危ぶまれるモデルの存在が指摘されています。本記事では、セキュリティベンダーも注視するAnthropicのモデル「Mythos」の事例を起点に、日本企業が直面するAIの悪用リスクと、それに備えるためのガバナンス対策について解説します。
「公開するには強力すぎる」AIモデルのジレンマ
Anthropic社が開発したモデル「Claude Mythos Preview（通称：Mythos）」は、AIの性能において「段階的な飛躍」を遂げたと評価されています。しかし、サイバーセキュリティ企業のMalwarebytes社は、このモデルについて「一般公開するには強力すぎる」との見解を示しています。大規模言語モデル（LLM：大量のテキストデータを学習し、高度な言語処理を行うAI）の歴史において、モデルの性能が上がりすぎたために悪用を懸念して公開が見送られたり、限定的な公開に留められたりするケースは過去にも存在しました。今回のMythosに関する指摘も、AIがもたらす「デュアルユース（業務効率化などの善用と、サイバー攻撃などの悪用の両面を持つ性質）」のジレンマを改めて浮き彫りにしています。
高度化するAIがもたらす新たなセキュリティ脅威
Mythosのように高度な論理的推論やコーディング能力を持つAIは、ソフトウェア開発やデータ分析などの業務を劇的に効率化するポテンシャルを秘めています。しかし、その能力が攻撃者の手に渡れば、高度なマルウェア（悪意のあるソフトウェア）の生成や、システムの脆弱性を突く攻撃コードの自動生成に悪用されるリスクがあります。また、日本企業にとって特に警戒すべきは、ソーシャルエンジニアリング（人間の心理的な隙を突く攻撃）の高度化です。これまでの不審なメールやビジネスメール詐欺（BEC）は、不自然な日本語の表現から直感的に怪しいと気付けるケースが少なくありませんでした。しかし、最新のLLMは、日本特有の「お世話になっております」といったビジネス上の定型文や、稟議制度などの組織文化を踏まえた、極めて自然で巧妙な文面を生成することが可能になっています。
日本企業に求められるガバナンスとセキュリティの再定義
このような脅威に対抗するため、日本企業は従来の「社内外の境界線を守る」というセキュリティモデルから、すべてのアクセスや振る舞いを常に検証する「ゼロトラスト」の考え方をさらに徹底する必要があります。同時に、AIを利用した攻撃には、防御側もAIを活用して対抗するアプローチが不可欠です。社内ネットワークの異常検知や不審な通信のフィルタリングに最新の機械学習を組み込むことで、未知の脅威に対する防御力を高めることができます。また、社内におけるAIガバナンスの体制構築も急務です。従業員がAIツールを安全に活用するためのガイドラインを整備し、入力してよいデータの分類（機密情報や個人情報の取り扱い）や、AIの出力結果を必ず人間が検証する「ヒューマン・イン・ザ・ループ」のプロセスを業務フローに組み込むことが求められます。
日本企業のAI活用への示唆
第一に、強力なAIモデルの登場による悪用リスクを過度に恐れ、AIの活用そのものを一律に制限することは、グローバルなビジネス競争において大きな機会損失となります。高度なAIを自社のプロダクトや社内業務に安全に組み込むためには、技術的な防御策の導入と同時に、従業員のAIリテラシーを底上げする教育投資が不可欠です。第二に、外部から持ち込まれる情報（メールや指示書など）が「AIによって生成された精巧な偽物かもしれない」という前提に立ち、業務における承認や確認のプロセスを見直すことが重要です。日本の商習慣に根ざした「人間同士の信頼」をベースとするコミュニケーションは、今後、AIによるなりすまし攻撃の標的になりやすいという認識を持ち、システムとルールの両面から堅牢な組織体制を築いていくことが実務上の鍵となります。