投稿者 global-ai-media 
企業の独自データをLLMに学習させる際、これまでの知識や汎用的な能力が失われる「壊滅的忘却」が大きな課題となっています。MITやチューリッヒ工科大学（ETH Zurich）の研究チームが提案する新たな手法をもとに、日本企業が直面するAIカスタマイズのリスクと、品質を維持しながら自社専用AIを構築するための実務的なポイントを解説します。
企業の独自AI構築におけるジレンマ
生成AIの導入が進む日本企業において、次のフェーズとして注目されているのが「自社データを用いたLLM（大規模言語モデル）のカスタマイズ」です。RAG（検索拡張生成）による外部知識の参照だけでなく、ファインチューニング（追加学習）によって、専門用語や業界特有の言い回し、あるいは企業独自の「型」をモデル自体に定着させたいというニーズが高まっています。
しかし、ここで技術的な壁となるのが「壊滅的忘却（Catastrophic Forgetting）」と呼ばれる現象です。特定のタスクやデータセットに適応させようと追加学習を行うと、モデルが元々持っていた一般的な言語能力や論理的推論能力、あるいは以前学習した知識が失われてしまう現象を指します。例えば、社内マニュアルを学習させた結果、一般的なビジネスメールの作成能力が低下したり、セキュリティに関するガードレール（安全性基準）が弱体化したりするといったリスクです。
「On-Policy Training」による解決のアプローチ
MIT（マサチューセッツ工科大学）、Improbable AI Lab、チューリッヒ工科大学（ETH Zurich）の研究者たちは、この課題に対処するための新たなアプローチを提案しています。彼らが着目したのは、モデルのパラメータ更新における「On-Policy Training（方策オン学習）」の活用です。
技術的な詳細を平易に言えば、新しいデータを学習させる際に、単に正解データに合わせるだけでなく、モデルが現在持っている知識構造（ポリシー）と大きく乖離しないように調整しながら学習を進める手法です。これにより、モデルは新しい専門知識を獲得しつつも、過去に獲得した汎用的な能力や安全性の基準を維持しやすくなります。
これは、新入社員教育に例えるなら、新しい業務知識を教え込む際に、これまで培ってきた一般的な社会常識や基礎能力を否定せず、それらを土台としてスキルを積み上げるようなものです。従来の手法では、新しい業務を詰め込むあまり、基本的な挨拶やマナーを忘れてしまうような事態が起きていたと言えます。
日本企業における「品質」と「専門性」の両立
日本のビジネス現場では、AIに対して「正確性」と「文脈に応じた適切な振る舞い」の両方が強く求められます。例えば、金融機関や製造業において、専門的な法規制や技術仕様を学習させる必要がありますが、同時に顧客対応における丁寧な敬語表現や、コンプライアンス遵守の姿勢が崩れることは許されません。
今回の研究事例は、LLMを「育てる」プロセスにおいて、単にデータを投入すればよいわけではないことを示唆しています。特に、日本語のようなハイコンテクストな言語環境や、厳格な品質基準を持つ日本企業においては、追加学習による性能劣化（リグレッション）のリスク管理が、AIプロジェクトの成否を分ける重要な要素となります。
日本企業のAI活用への示唆
今回の研究動向を踏まえ、日本企業がAI活用を進める上で留意すべき点は以下の3点に集約されます。
1. 追加学習（ファインチューニング）の適用判断を慎重に
自社専用モデルを作りたいという意欲は重要ですが、安易な追加学習はモデルの基礎能力を損なう可能性があります。まずはRAGやプロンプトエンジニアリングで対応可能か検討し、どうしてもモデル自体の挙動を変える必要がある場合にのみ、ファインチューニングを選択すべきです。その際も、今回のような「忘却」のリスクがあることを前提に計画を立てる必要があります。
2. 回帰テスト（リグレッションテスト）の導入
ソフトウェア開発と同様に、LLMの運用においても「新しい学習を行った結果、以前できていたことができなくなっていないか」を確認するテスト工程が必須です。特に、ハルシネーション（嘘の回答）の増加や、倫理的なガードレールの欠如が発生していないか、定期的に評価するMLOps（機械学習基盤）の体制構築が求められます。
3. 「特化」と「汎用」のバランス管理
「何でもできるAI」を目指すのではなく、特定の業務に特化させるのか、あるいは汎用的なアシスタントとして使うのか、目的を明確に切り分けることが重要です。特化型モデルを作る場合は、汎用能力の低下がある程度許容されるのか、あるいは今回の研究のような高度な学習手法を取り入れて両立を目指すのか、技術的な実現可能性とコストを見極める意思決定が必要となります。