投稿者 global-ai-media 
多くの日本企業で生成AIのPoC（概念実証）が進む一方、本番運用への移行には依然として高いハードルが存在します。SalesforceのCTOが指摘するAI導入の最大の課題、「ラストワンマイル」問題とは何か。確率的に動作するLLMと、確実性が求められる企業ロジックのギャップを埋めるための現実的なアプローチを解説します。
「ラストワンマイル」の正体：確率と決定論の対立
生成AIブームから時間が経過し、多くの企業がチャットボットや文書要約などの実証実験を行っています。しかし、そこから基幹システムへの組み込みや、顧客向けサービスとしての本格展開（本番運用）に進む段階で、多くのプロジェクトが足踏みをしてしまいます。SalesforceのCTO、Krishna Prasad氏はこの現象を「ラストワンマイル」の課題として指摘しています。
この課題の本質は、「確率的（Stochastic）なLLM」と「決定的（Deterministic）な企業ロジック」の相性の悪さにあります。
大規模言語モデル（LLM）は、その仕組み上、次に来る単語を確率に基づいて予測します。そのため、同じ入力を与えても毎回異なる回答が出力される可能性があり（非決定的）、時に事実に基づかない「ハルシネーション（幻覚）」を起こします。一方で、企業の業務プロセス——例えば在庫管理、請求金額の計算、法務チェックなど——は、いつ誰が実行しても同じ結果になる「正確性」と「再現性」が絶対条件です。
「クリエイティブだが気まぐれなAI」を、「厳格でミスの許されない業務フロー」にどう統合するか。これがラストワンマイルの正体です。
日本企業における「100%の精度」への期待と現実
特に日本のビジネス環境において、この問題は深刻です。日本の商習慣や組織文化は「品質への厳しい要求」と「ミスの許容度の低さ」によって特徴づけられます。「95%の精度で正しい回答をするAI」は技術的に見れば優秀ですが、現場の実務担当者からすれば「残りの5%で嘘をつくかもしれないシステムは怖くて使えない」という判断になりがちです。
顧客対応における「おもてなし」の精神や、製造業における「カイゼン」文化は日本の強みですが、AI導入においてはこれが心理的な障壁となる場合があります。LLMに完璧な論理的整合性を求めすぎると、プロンプトエンジニアリングだけでは解決できず、プロジェクトが頓挫してしまうのです。
解決へのアプローチ：AIに「計算」をさせない
このラストワンマイルを乗り越えるためには、LLMの役割を再定義する必要があります。Prasad氏の示唆や近年のMLOps（機械学習基盤の運用）のトレンドを踏まえると、以下のアプローチが有効です。
- 推論と実行の分離（Function Calling / Agents）：
計算やデータベース検索、APIの実行といった「確実性」が必要なタスクは、LLM自身に行わせるのではなく、従来のプログラム（コード）に任せる構成にします。LLMは「ユーザーの意図を理解し、どのツール（関数）を使うべきか判断する」という司令塔の役割に徹し、実際の処理は決定的なロジックを持つプログラムが行います。 - グラウンディング（Grounding）の強化：
社内規定や製品マニュアルなど、信頼できる外部データを参照させるRAG（検索拡張生成）の精度を高め、AIが回答する際の根拠を明確にします。 - 人間による監督（Human-in-the-Loop）：
最終的な意思決定や、顧客への送信前チェックなど、リスクの高いプロセスには必ず人間を介在させます。
日本企業のAI活用への示唆
Salesforceの指摘するラストワンマイル問題を踏まえ、日本企業がAIの実装を進める上で意識すべき点は以下の通りです。
- 過度な「全自動化」を避ける：
最初から100%の自律動作を目指さず、まずは「AIが下書きを作成し、人間が承認する」というコパイロット（副操縦士）型から定着を図るべきです。これにより、日本企業が重視する品質と責任の所在を担保できます。 - 適材適所のアーキテクチャ設計：
LLMは「言語のインターフェース」として優秀ですが、「論理エンジン」としては不完全です。既存のITシステムやデータベースと連携させ、正確さが求められる処理は従来システムに任せる「ハイブリッドな構成」が、実務適用の鍵となります。 - リスク許容度のゾーニング：
社内向けのナレッジ検索など「多少の間違いが許容される領域」と、自動発注や対外的な契約関連など「ミスが許されない領域」を明確に分け、後者には厳格なガードレール（安全対策）と人間によるチェックを義務付けるルール作りが重要です。
技術の進化を待つだけでなく、今の技術の「得意・不得意」を正しく理解し、自社の業務フローにどう安全に組み込むかという設計力が、今の日本のリーダーやエンジニアに求められています。