投稿者 global-ai-media 
大規模言語モデル（LLM）が意図しない回答を生成するのを防ぐため、「やってほしくないこと」を明示する「アンチゴール」というプロンプト手法が注目されています。本記事では、XMLタグを用いた具体的なプロンプトの構造化と、日本企業がAIを実業務やプロダクトに組み込む際のガバナンスへの応用について解説します。
生成AIの予期せぬ挙動を制御する「アンチゴール」とは
ChatGPTやClaude、Geminiといった大規模言語モデル（LLM）を業務で活用する際、多くの実務者が直面するのが「AIが指示以上のことを勝手に行ってしまう」という課題です。簡潔な回答を求めたのに関係のない背景情報を長々と出力したり、要約を依頼したのに原文にない推測（ハルシネーション）を付け加えたりするケースがこれに該当します。
こうした予期せぬ挙動を防ぐための有効なプロンプト（AIへの指示文）手法として、「アンチゴール（Anti-goal）」の明示が推奨されています。AIに対して「何をすべきか（ゴール）」を指示するだけでなく、「何をしてはいけないか、どのような結果を避けるべきか（アンチゴール）」をセットで定義することで、出力のブレやリスクを大幅に抑えることが可能です。
XMLタグを活用したプロンプトの構造化
アンチゴールをAIに正確に認識させるための実務的なテクニックとして、プロンプト内に「XMLタグ」を用いる方法があります。XMLタグとは、<goal>〜</goal> のようにテキストをマークアップ（意味づけ）するための記号です。
LLMはもともと、ウェブ上の膨大なHTMLやXMLデータを学習しているため、タグで囲まれた情報の構造を理解するのが得意です。例えば、単に文章で「他社の製品について言及しないでください」と書くよりも、<anti-goal>競合他社の製品名やサービス名に言及すること</anti-goal> とタグで明確に区切ることで、AIは「ここは守るべき制約事項である」と強く認識しやすくなります。
日本企業における実務への応用
日本のビジネス環境においては、品質の担保やコンプライアンス（法令遵守）、ブランドイメージの保護が非常に重視されます。そのため、アンチゴールの設定は日本企業のAI活用において極めて重要です。
例えば、カスタマーサポート向けのAIチャットボットを開発する場合、「自社の規約に基づく回答をする」というゴールに加え、「法的な助言や断定を行わない」「過度な謝罪をして会社の責任を不当に認めない」といったアンチゴールをXMLタグで設定します。これにより、日本の商習慣や法規制において致命的となり得るリスクをプロンプトの段階で軽減できます。
また、社内業務の効率化においても、契約書や稟議書のチェックAIに対して「原文の表現を勝手に改変しない」というアンチゴールを設けることで、日本の組織文化で求められる厳密な文書管理に対応しやすくなります。
リスクと限界——プロンプトエンジニアリングの落とし穴
一方で、アンチゴールの多用にはリスクや限界もあります。「やってはいけないこと」を過剰に設定しすぎると、AIは指示の矛盾を引き起こしたり、極端に保守的になって「お答えできません」という回答を連発したりするようになります。
また、プロンプトの工夫（プロンプトエンジニアリング）だけでAIの暴走を100%防ぐことは不可能です。悪意のあるユーザーが意図的にAIを騙す「プロンプトインジェクション」などの攻撃に対しては、アンチゴールだけでは不十分です。実環境にAIを導入する際は、システムの入出力を監視するフィルター（ガードレール）の導入や、最終的な判断を人間が行う「Human-in-the-loop（ヒューマン・イン・ザ・ループ）」のプロセスなど、システム・運用両面からの対策を組み合わせる必要があります。
日本企業のAI活用への示唆
今回の「アンチゴール」とXMLタグの活用から得られる、日本企業への実務的な示唆は以下の3点です。
1. リスク管理の言語化：AIに業務を任せる際は、単に「何をしてほしいか」だけでなく、現場の暗黙知となっている「絶対にやってはいけないタブー」を洗い出し、明文化（アンチゴール化）するプロセスが不可欠です。
2. プロンプトの構造化による品質安定：業務やプロダクトにAIを組み込むエンジニアやプロダクト担当者は、自然言語の羅列ではなく、XMLタグなどを活用してプロンプトを構造化し、検証可能な形（バージョン管理など）で運用することが求められます。
3. 多層的なガバナンスの構築：プロンプトによる制御は強力ですが万能ではありません。組織としてAIの出力限界を理解し、システム的なガードレールと人間の確認プロセスを併用した、多層的な品質保証・コンプライアンス体制を築くことが、安全なAI活用の鍵となります。