投稿者 global-ai-media 
システム開発の上流工程である要件定義や業務モデリングにおいて、大規模言語モデル（LLM）を活用する試みが進んでいます。本記事では、経験の浅い担当者がLLMの出力を参考にした際の影響についての研究をもとに、日本企業が直面する課題と実践的な対応策を解説します。
LLMが「ドメインモデリング」に与える影響とは
システム開発において、対象となる業務領域（ドメイン）の概念やルールを整理し、構造化する作業を「ドメインモデリング」と呼びます。要件定義やシステム設計の根幹をなす重要な工程ですが、業務に対する深い理解と高度な抽象化スキルが求められるため、経験の浅い担当者にとってはハードルの高い作業です。近年、このモデリング作業の負荷を下げるために、ChatGPTなどの大規模言語モデル（LLM）を活用して「たたき台」を作成させるアプローチが注目されています。
海外の研究において、経験の浅いモデラー（初心者）がゼロからモデルを構築する場合と、LLMが生成したモデルを参考（リファレンス）として用いる場合を比較する実験が行われました。このような研究から見えてくるのは、LLMの活用が必ずしも手放しの品質向上をもたらすわけではないという実態です。
初心者を待ち受ける「もっともらしさ」の罠
一般的に、LLMが生成したモデルを参考にすることで、初期のアイデア出しや一般的な概念の網羅性は高まり、作業スピードが向上する傾向があります。しかし同時に、大きなリスクも潜んでいます。それは、AIの出力が「もっともらしく」見えるがゆえに、初心者がその内容を鵜呑みにしてしまう現象です。
LLMは一般的な知識をベースに尤度（もっともらしさ）の高い回答を生成するため、特定の企業が持つ独自の業務フローや、例外的な処理といった「ドメイン特有の文脈」をしばしば見落とします。経験の浅い担当者は、LLMが提示した洗練された（ように見える）構造に引っ張られ、実際の業務要件とは異なる不適切なモデルをそのまま採用してしまう「アンカリング効果」に陥りやすいことが指摘されています。
日本の組織構造とシステム開発における課題
この問題は、日本企業のITプロジェクトにおいてより深刻な影響を及ぼす可能性があります。日本では、IT人材の不足から、業務部門の若手社員や、業務知識を持たない外部のITベンダーが要件定義を主導するケースが少なくありません。さらに、日本の商習慣においては「暗黙の了解」や「長年の慣習による例外処理」が多く存在し、業務プロセスがベテラン社員に属人化している傾向があります。
このような環境下で、経験の浅い担当者がLLMに依存して業務モデリングを行うとどうなるでしょうか。LLMは欧米型の標準的なビジネスプロセスを出力しがちであり、日本固有の複雑な商流や、組織特有の承認プロセスなどが抜け落ちたシステム要件が定義されてしまうリスクがあります。結果として、開発の後戻り（手戻り）や、現場で使われないシステムを生み出す原因となり得ます。
リスクを抑え、LLMの恩恵を最大限に引き出す実務アプローチ
では、実務においてどのようにLLMを活用すべきでしょうか。重要なのは、LLMを「正解を出力するツール」ではなく、「思考の壁打ち相手」や「抜け漏れを防ぐためのチェックリスト作成機」として位置づけることです。LLMに最初のたたき台を作らせることは業務効率化において有効ですが、それをそのまま採用するのではなく、批判的に検証するプロセスが不可欠です。
具体的には、経験の浅い担当者がLLMを用いて作成したモデルに対して、業務を熟知したドメインエキスパート（現場のベテラン担当者）やシニアエンジニアが必ずレビューを行う体制を構築することが求められます。また、AIの出力結果が事実に基づいているかを検証するAIガバナンスの観点からも、出力の根拠を社内ドキュメントと照らし合わせるルールの徹底が必要です。
日本企業のAI活用への示唆
・要件定義やモデリングにおけるLLM活用は、作業の初速を上げる一方で、AIの「もっともらしい誤り」に初心者が引きずられるリスクを伴います。
・特に日本企業特有の「属人化した業務プロセス」や「複雑な商習慣」はLLMが捉えきれないことが多く、標準的なモデルをそのまま適用すると現場との乖離が生じます。
・このリスクを回避するためには、LLMの出力を鵜呑みにしない組織文化の醸成と、業務に精通したベテランによるレビュー体制（ヒューマン・イン・ザ・ループ）の構築が不可欠です。
・LLMはあくまで「思考の補助ツール」として捉え、最終的なシステムの品質と要件の妥当性に対する責任は人間が担うという、健全なAIガバナンスをプロジェクトに組み込むことが成功の鍵となります。