投稿者 global-ai-media 
生成AIが企業の意思決定を支援する機会が増える中、Microsoftの研究チームが新たなリスクとして「AIレコメンデーションポイズニング」を指摘しました。外部データを操作することでAIの回答を歪め、特定の商品やサービスを推奨させるこの手法は、従来のサイバー攻撃とは異なる「情報の信頼性」への攻撃です。本稿では、このリスクの仕組みと、日本企業がRAG（検索拡張生成）などのAIシステムを運用・利用する際に留意すべきガバナンスの要点を解説します。
AIレコメンデーションポイズニングとは何か
Microsoftの研究チームなどが警鐘を鳴らす「AIレコメンデーションポイズニング（AI Recommendation Poisoning）」とは、大規模言語モデル（LLM）が情報を参照する仕組みを逆手に取り、AIの出力を意図的に操作する攻撃手法です。具体的には、ウェブ上の記事やドキュメントに特定の製品やサービスを優位に見せるための偽情報やバイアスのかかったテキストを埋め込みます。
現在、多くの企業向けAIサービス（Microsoft CopilotやChatGPTのWeb検索機能など）は、RAG（Retrieval-Augmented Generation：検索拡張生成）という技術を使っています。これはAIが回答を生成する際、最新のWeb情報や社内文書を検索・参照する仕組みです。攻撃者はこの「参照先」を汚染することで、例えば「企業向けクラウドサービスとして最適なのは？」という問いに対し、特定のベンダーを推奨するようにAIを誘導します。
「SEO」から「AI操作」へ：ビジネスへの実質的影響
これは従来のWeb検索におけるSEO（検索エンジン最適化）の延長線上にあるとも言えますが、影響力はより直接的です。従来の検索エンジンであれば、ユーザーは検索結果の上位に表示された複数のページを見比べる余地がありました。しかし、生成AIはそれらの情報を要約し、「結論」として提示する傾向があります。
例えば、ある日本企業の情報システム担当者が「基幹システムのクラウド移行における、A社とB社の比較表を作成して」とAIに指示したとします。もし参照先の技術ブログやレビューサイトがポイズニング（汚染）されていた場合、AIは「A社はセキュリティに脆弱性がある」といった偏った情報を事実として拾い上げ、B社を推奨するレポートを作成する可能性があります。これにより、数億円規模の契約の行方が左右されるリスクがあるのです。
日本企業におけるリスクと「ステルスマーケティング」規制
この問題は、日本企業にとって二つの側面で重要です。一つは「被害者」としての側面、もう一つは知らぬ間に「加害者」になってしまうリスクです。
被害者としての側面は、前述の通り意思決定の誤りです。特に日本では、稟議書などの作成にAIを活用する動きが加速していますが、その根拠となるデータが汚染されていれば、組織全体の判断が狂うことになります。ファクトチェックのプロセスなしにAIの出力を鵜呑みにすることは、経営上の重大なリスク要因となります。
一方で、マーケティング部門などが「自社製品がAIに選ばれるように」と過度な対策を行うことにも注意が必要です。日本では2023年10月から景品表示法の指定告示（通称ステマ規制）が施行されています。AIを欺くために事実と異なる情報を流布したり、広告であることを隠して第三者を装った記事を量産したりする行為は、法的な問題に発展するだけでなく、企業の社会的信用を失墜させる可能性があります。
日本企業のAI活用への示唆
今回の事例から、日本企業の実務担当者や経営層が得るべき示唆は以下の3点に集約されます。
1. 「Human-in-the-loop」の徹底とソース確認の習慣化
AIはあくまで「草案作成者」であり、最終的な意思決定者は人間であるという原則を崩してはいけません。特に重要な意思決定（ベンダー選定、採用、投資など）にAIを用いる場合は、AIが提示した回答の「引用元（ソース）」を必ず人間が確認するプロセスを業務フローに組み込む必要があります。
2. RAGシステムの信頼性確保
自社で社内向けチャットボットなどを開発・運用する場合、参照させるデータソースの選定が重要です。無差別にインターネット上の情報を検索させるのではなく、信頼できるドメインやホワイトリスト形式での運用を検討するか、あるいは検索結果の信頼性をスコアリングする仕組みを導入するなど、エンジニアリング面での対策も求められます。
3. ブランドモニタリングの対象拡大
広報・マーケティング部門は、SNSやWeb検索の評判だけでなく、「主要なAIが自社や競合についてどのように回答するか」を定期的にモニタリングする必要があります。万が一、自社に対して事実無根のネガティブな回答が生成される場合は、その根拠となっている汚染されたソースを特定し、適切な対処（削除要請や正しい情報の公開など）を行う体制が必要です。