投稿者 global-ai-media 
生成AIの導入において、多くの企業が「プロンプトエンジニアリング」に注力していますが、LinkedInはそれを「実用化のスタート地点にすら立てない（Non-starter）」と判断しました。なぜ彼らは巨大な汎用モデルへの依存をやめ、小規模モデル（SLM）に舵を切ったのか。その技術的背景と、日本の開発現場が「PoC（概念実証）疲れ」から脱却するためのエンジニアリング視点を解説します。
「魔法の呪文」だけではプロダクトは動かない
生成AIブームの初期、私たちは「いかに上手くAIに指示を出すか」、つまりプロンプトエンジニアリングに熱狂しました。しかし、世界最大級のプロフェッショナルネットワークであるLinkedInの実装事例は、ビジネスの現場、特に大規模なプロダクト運用において、プロンプトだけでは限界があるという冷徹な事実を突きつけています。
元記事によれば、LinkedInの開発チームは、求人クエリや候補者のプロフィールをリアルタイムで解釈するためにLLM（大規模言語モデル）の活用を試みました。しかし、単に巨大なモデルにプロンプトを投げるだけのアプローチは、本番環境では機能しなかったといいます。その主な理由は「レイテンシ（応答遅延）」と「コスト」、そして「制御の難しさ」にあります。
日本の企業でも、社内チャットボットであれば数秒の待ち時間は許容されますが、ECサイトの検索やWebサービスのリコメンデーション機能において、ユーザーを数秒待たせることは致命的です。汎用的な巨大モデルはあまりに重く、すべての処理を委ねることは、ユーザー体験とインフラコストの両面で現実的ではないのです。
汎用LLMから「特化型小規模モデル（SLM）」への回帰
LinkedInが見出した突破口は、「小規模モデル（Small Models）」へのシフトでした。これは、何でも知っている巨大なLLM（GPT-4のようなモデル）を使うのではなく、特定のタスクに特化してトレーニングまたはファインチューニング（微調整）された、より小さく軽量なモデルを組み合わせるアプローチです。
近年、MicrosoftのPhiシリーズやGoogleのGemmaなど、高性能なSLM（Small Language Models）が登場しています。これらはパラメータ数が少ないため、処理が高速で、運用コストも安く抑えられます。LinkedInの事例は、複雑な推論が必要な「思考」の部分と、高速な処理が求められる「実務」の部分を切り分け、後者に小規模モデルを適用することの重要性を示唆しています。
これは、AI開発が「魔法のような対話」から、従来の機械学習エンジニアリングの領域である「データパイプラインの整備」や「モデルの最適化」へと回帰していることを意味します。プロンプトを工夫するよりも、良質な自社データで小型モデルを再学習させる方が、結果として精度が高く、挙動も予測可能なシステムが構築できるのです。
日本企業における「適材適所」のAIアーキテクチャ
この「小規模モデルへのシフト」は、日本企業にとって非常に親和性が高い戦略と言えます。その理由は、大きく分けて「データガバナンス」と「日本語の文脈」の2点にあります。
まず、日本の商習慣や法規制において、顧客データや機密情報を外部の巨大クラウドAPIに送信することに抵抗感を持つ企業は少なくありません。しかし、小規模モデルであれば、自社のプライベート環境（オンプレミスやVPC内）で動かすことが現実的になります。これにより、情報漏洩リスクを最小限に抑えながらAIを活用できます。
次に、業務特有の日本語のニュアンスです。汎用モデルは一般的な日本語は得意ですが、業界専門用語や社内用語、日本独特の「阿吽の呼吸」のような文脈理解には限界があります。自社の過去データを使って小規模モデルをファインチューニングすることで、汎用モデルよりもはるかに「わかっている」AIを、低コストで運用することが可能になります。
日本企業のAI活用への示唆
LinkedInの事例は、AI活用が「お試し」フェーズから「エンジニアリング」フェーズへ移行したことを示しています。日本のビジネスリーダーやエンジニアは、以下の点を意識してプロジェクトを進めるべきでしょう。
- プロンプトに固執せず、アーキテクチャを見直す
プロンプトの調整だけで精度が出ない場合、モデル自体の選定や、RAG（検索拡張生成）、ファインチューニングへの切り替えを早期に検討してください。 - 「大は小を兼ねる」の誤解を捨てる
最高性能の巨大モデルが常に正解ではありません。タスクの難易度に応じ、コストと速度のバランスが良い「身の丈に合ったモデル（SLM）」を選定することが、ROI（投資対効果）を高める鍵です。 - 自社データの整備が最大の差別化要因
小規模モデルを賢くするのは、良質な教師データです。AIモデルそのものの開発競争に参加するのではなく、自社独自の業務データやナレッジを、AIが学習可能な形式で蓄積・整備することにリソースを集中させてください。