投稿者 global-ai-media 
アート業界において、AIを用いた来歴文書（プロベナンス）の偽造が巧妙化し、専門家による真贋判定さえも困難になりつつあります。この事象は単なる美術界の問題にとどまらず、契約書や証明書の信頼性を前提とするあらゆるビジネス領域への警告です。AIによる「生成」と「検知」のいたちごっこが続く中、日本企業はどのように情報の信頼性を担保すべきか、技術とガバナンスの両面から解説します。
精巧化するAI偽造と「いたちごっこ」の限界
最近の報道（ForkLog等）によると、アート市場において生成AIを活用した文書偽造が新たな脅威として浮上しています。美術品の価値を決定づける重要な要素である「来歴文書（作品がどのような所有者の手を経てきたかを示す記録）」が、大規模言語モデル（LLM）によってもっともらしい文体やフォーマットで偽造されているのです。
これまで鑑定士や専門家は、自身の知識やAIツールを駆使して文書の真偽を検証してきましたが、攻撃側もまた最新のLLMを用いて防御側の検知パターンを学習・回避しており、検証はますます困難になっています。これはサイバーセキュリティにおける攻撃と防御の関係と同様、典型的な「いたちごっこ」の様相を呈しています。
なぜLLMは「嘘の文書」を作るのが得意なのか
技術的な観点から見ると、現在のLLMは「事実を述べる」ことよりも「もっともらしいテキストを生成する」ことに最適化されています。特定の時代の文体、専門用語、公的文書のフォーマットなどを学習データから再現することは、生成AIにとって極めて容易なタスクです。
この特性が悪用されると、人間が見ても、あるいは従来のルールベースの検知システムを通しても「違和感のない」偽造文書が作成されます。特に、過去のデータが乏しいアナログな領域や、情報の非対称性が強い領域（アート、骨董、あるいは未公開株の取引情報など）では、参照すべき「正解データ」へのアクセスが難しく、AIによる捏造が見過ごされるリスクが高まります。
ビジネス文書全般への波及リスク
この問題はアート業界特有のものではありません。日本国内の一般企業においても、以下のような領域でAIによる文書偽造リスクが現実味を帯びています。
- 金融・取引審査：請求書、領収書、銀行の残高証明書の偽造による不正融資や架空取引。
- 採用・人事：職務経歴書や学位証明書の精巧な偽造、あるいはリファレンス（推薦状）の捏造。
- サプライチェーン：品質保証書や原産地証明書の偽造による、規格外製品の混入。
特に日本では、紙の書類をPDF化してメールでやり取りする商習慣が依然として根強く残っています。画像生成AIやLLMを組み合わせれば、スキャンデータ特有の「ノイズ」や「劣化」さえも再現可能であり、画面上の目視確認だけで真偽を判定するのは限界に近づいています。
「AI検知ツール」への過度な依存は危険
企業が対策を検討する際、「AIで作られたものを検知するAIツール」の導入が最初に思い浮かぶかもしれません。しかし、実務的な観点からは、これに過度な期待を寄せるのは危険です。
AI検知ツールは、誤検知（人間が書いたものをAIと判定してしまう）や、検知漏れ（AIが書いたものを見逃す）のリスクを常に抱えています。また、オープンソースのLLMをファインチューニング（追加学習）させたり、意図的にノイズを混入させたりすることで、検知を回避する方法は日々編み出されています。検知ツールはあくまで「補助的な手段」であり、決定的な証拠能力を持たせることは難しいのが現状です。
日本企業のAI活用への示唆
AIによる偽造技術の進化を前提とした場合、日本企業の意思決定者や実務担当者は、以下の3つの視点で対策と活用を進める必要があります。
1. 「性善説」に基づいた業務プロセスの見直し
日本の商習慣は、取引先や提出書類を信頼する「性善説」で成り立っている側面が強くあります。しかし、生成AIの普及により、誰もが低コストで高品質な偽造が可能になった今、重要な意思決定に関わる文書については、ゼロトラスト（何も信頼しない）の考え方を取り入れる必要があります。具体的には、提出されたPDFの内容確認だけでなく、発行元への「原本確認」や「API連携によるデータ照合」のプロセスを業務フローに組み込むことが重要です。
2. 電子署名・タイムスタンプ等の暗号技術の再評価
AIによる検知には限界があるため、確実なのは「生成・検知」の土俵ではなく、「暗号技術による証明」の土俵で戦うことです。日本でも普及しつつある電子署名（eシール含む）やタイムスタンプ、あるいは真正性を担保する技術（Originator Profile技術など）の採用を加速させるべきです。「誰が」「いつ」作成し、「改ざんされていないこと」を数学的に証明できる基盤への投資は、AI時代における必須のコストとなります。
3. 人間の専門性と「違和感」の重要性
最後に、人間の役割についてです。AIは過去のパターンを模倣することには長けていますが、文脈の矛盾や、実世界の物理的な制約（ロジスティクスの矛盾など）を見抜く点では、依然として経験豊富な人間に分があるケースも多いです。AIツールを導入して自動化を進める一方で、最終的な承認プロセスには、その業務に精通した人間（Human-in-the-Loop）を配置し、AIが見逃す「微細な違和感」を検知できる体制を維持することが、ガバナンスの観点から推奨されます。