投稿者 global-ai-media 
AIモデルのハッキング能力が急速に向上しており、研究者たちが警鐘を鳴らしています。「現在の性能が、今後のAIにとって『史上最低』のレベルになるだろう」という言葉は、技術進化の凄まじさと、防御側が直面する未来の厳しさを示唆しています。本稿では、AIによる攻撃の高度化が日本のビジネス環境に及ぼす影響と、企業が講じるべき実務的な対策について解説します。
AIによる攻撃能力の進化と「民主化」
米国Axios等の報道によると、スタンフォード大学の研究者やOpenAIなどの開発企業は、AIモデルがハッキング（サイバー攻撃）のスキルを着実に習得しつつあることに懸念を示しています。ここで重要なのは、現在のAIモデルが脆弱性を発見したり、コードを悪用したりする能力を持っていることだけではありません。「現在のAIツールの性能は、将来振り返れば『最も低性能』な状態である」という事実です。つまり、攻撃能力は今後、指数関数的に向上していくことが確実視されています。
これまで高度なサイバー攻撃には、専門的な知識と経験を持つ攻撃者の存在が必要でした。しかし、生成AIやLLM（大規模言語モデル）の進化は、攻撃の「民主化」を引き起こしつつあります。高度なコーディング能力を持つAIエージェントが悪意あるユーザーの手に渡れば、複雑な脆弱性スキャンやエクスプロイト（攻撃用プログラム）の作成が、専門知識を持たない層でも実行可能になるリスクがあります。
「日本語の壁」の崩壊とソーシャルエンジニアリングの高度化
日本企業にとって特に警戒すべきは、AIによる「言語の壁」の突破です。これまでのフィッシングメールやビジネスメール詐欺（BEC）は、不自然な日本語によって見破れるケースが多く存在しました。しかし、最新のLLMは流暢かつ文脈に即した日本語を生成します。日本の商習慣や丁寧語、尊敬語を完璧に使いこなし、上司や取引先になりすます攻撃が増加すれば、従業員が目視で真偽を判定することは極めて困難になります。
また、日本企業特有の組織構造やサプライチェーンの複雑さも狙われます。AIエージェントは公開情報から組織図や取引関係を瞬時に分析し、最もセキュリティが手薄な関連会社や部門（サプライチェーンの弱点）を標的にした攻撃シナリオを自動生成する可能性があります。
AIにはAIで対抗する：防御側における活用の視点
一方で、この技術進化は防御側にとっても強力な武器となります。人手不足が深刻な日本のセキュリティ現場において、AIは「自律的な防御システム」としての役割を期待されています。
具体的には、「AIレッドチーミング」の導入が挙げられます。これは、AIに自社のシステムを攻撃させ、脆弱性を洗い出す手法です。人間が数日かけて行うペネトレーションテスト（侵入テスト）を、AIであれば24時間365日、休むことなく継続的に実施できます。攻撃AIの進化に合わせて防御AIも進化させることで、セキュリティパッチの適用やログ監視の自動化など、MLOps（機械学習基盤の運用）の考え方をセキュリティ運用（SecOps）にも適用していく必要があります。
日本企業のAI活用への示唆
AIモデルのハッキング能力向上を受け、日本企業の意思決定者やエンジニアは以下の観点で対策を進めるべきです。
- 「日本語だから安全」という神話の放棄：
言語の壁による防御効果は消滅しました。従業員教育においては、不自然な日本語を探すことよりも、メールの文脈や送金指示のプロセス自体に疑いを持つ「ゼロトラスト」的な思考の定着が求められます。 - セキュリティ人材不足をAIで補完する：
国内のセキュリティ専門家は不足しています。AIを活用した脆弱性診断ツールや、コード生成時のセキュリティチェック機能を開発・導入プロセスに組み込み、限られた人的リソースを高度な判断業務に集中させる体制を構築してください。 - AIガバナンスと攻撃面管理（ASM）の統合：
自社が開発するAIサービスが、意図せず攻撃者に悪用されるリスク（ジェイルブレイクなど）も考慮する必要があります。AIの倫理規定やガバナンス策定の中に、具体的なセキュリティ耐性のテスト（レッドチーミング）を必須項目として盛り込むことが推奨されます。
AIの進化は脅威ですが、同時に防御の近代化を促す好機でもあります。リスクを正しく恐れ、テクノロジーを防御の最前線に配置することが、今後の企業経営における必須条件となるでしょう。