投稿者 global-ai-media 
最新の調査によると、ChatGPTはOpenAI自社製の動画生成AI「Sora」による偽動画の92%を見抜くことができませんでした。この事実は、AI生成コンテンツの真贋判定をAIのみに頼ることの危険性を示唆しています。日本企業が直面するディープフェイクのリスクと、技術的な限界を踏まえた現実的なガバナンス対策について解説します。
「作った本人」でも見抜けない？ AI検知精度の現状
生成AIの進化に伴い、フェイクニュースやなりすまし動画（ディープフェイク）への懸念が世界的に高まっています。これに対抗する手段として「AIでAIを見抜く」技術への期待も大きいですが、現実はそれほど甘くありません。NewsGuardが行った調査によると、主要なチャットボットAIの多くが、AIによって生成された偽動画を識別することに失敗しました。
特に衝撃的なのは、OpenAIのChatGPTが、同じくOpenAIが開発した動画生成AI「Sora」によって作成された動画の92%を「AI生成である」と見抜けなかったという点です。自社開発のモデル同士であっても、生成されたコンテンツの真贋判定は極めて困難であることが浮き彫りになりました。これは特定のベンダーの技術力不足というよりも、現在の生成技術の品質向上が、検知技術の進化を上回るスピードで進んでいることを示しています。
いたちごっこが続く技術的背景
なぜこれほど検知が難しいのでしょうか。技術的な観点から言えば、生成AIモデルは「人間が見ても違和感のない（本物らしい）データ」を作るように学習されています。つまり、モデルの性能が上がれば上がるほど、その出力は統計的にも本物のデータに近づき、機械的な特徴（アーティファクト）が消失していきます。
日本国内のエンジニアや研究者の間でも、「生成と検知はいたちごっこである」という認識は一般的です。新しい検知アルゴリズムが開発されても、それを回避するように生成モデルが再学習・調整されれば、検知精度はすぐに低下します。したがって、企業がセキュリティ対策として「AI検知ツール」を導入する場合、それ単体で100%のリスクを防げるという過信は禁物です。
日本企業におけるリスクと「人」によるガバナンス
日本国内でも、著名人の映像や音声をAIで加工した「偽の投資広告」や詐欺サイトへの誘導が社会問題化しています。企業にとっても、経営者のディープフェイクを用いた「CEO詐欺（送金指示など）」や、自社製品に関する偽情報の拡散によるブランド毀損は、もはや対岸の火事ではありません。
今回の調査結果が示唆するのは、AIによる自動フィルタリングだけでは不十分だという現実です。特に日本の商習慣において重視される「信頼」を守るためには、技術的な防御壁に加え、組織的な確認プロセスが不可欠です。例えば、重要な意思決定や広報活動において、情報の一次ソースを確認するアナログな手順を組み込むことや、従業員に対するリテラシー教育（疑わしい動画や音声に対する警戒心の醸成）が急務となります。
日本企業のAI活用への示唆
以上の動向を踏まえ、日本企業のリーダーや実務担当者は以下のポイントを意識して対策を進めるべきです。
1. 検知ツールへの過度な依存を避ける
AI検知ツールは補助的な手段として活用し、最終的な判断は人間が行う「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」の体制を維持してください。特にコンプライアンスに関わる領域では、AIの判定ミス（偽陽性・偽陰性）を前提としたワークフローが必要です。
2. 出所証明技術（C2PA/OP）への注目と対応
「後から偽物を見抜く」ことの限界を受け、コンテンツの作成元を証明する技術（Originator Profile: OPやC2PAなど）の重要性が増しています。日本国内でもメディアや広告業界を中心にOP技術の標準化が進んでいます。自社が発信する公式情報には電子透かしや署名を付与し、真正性を担保する仕組みの導入を検討すべき時期に来ています。
3. 危機管理広報のアップデート
自社のなりすまし動画が拡散された際、どのように否定し、ステークホルダーに正しい情報を伝えるか。従来のSNS炎上対策に加え、生成AIによる偽情報拡散を想定したクライシスマネジメントのガイドラインを策定しておくことが推奨されます。