投稿者 global-ai-media 
従来のソフトウェア開発は「入力に対して常に同じ結果が返る」という確実性を前提としていましたが、生成AIとAIエージェントの台頭により、その常識が覆されつつあります。Google Cloud幹部が指摘する「ソフトウェアのグレート・リセット」とは何か。不確実性を受け入れつつ、実務で成果を出すための新たな評価指標とマインドセットについて解説します。
「決定論的」から「確率論的」への転換
Google Cloudの幹部がFortune誌の記事で語った「ソフトウェアのグレート・リセット（Software's great reset）」と「確実性の終焉（The end of certainty）」という言葉は、現在のAI開発の核心を突いています。これまでのITシステムは、プログラムされたルール通りに動作する「決定論的（Deterministic）」なものでした。同じ入力があれば、100%同じ出力が得られることが品質の証であり、バグは撲滅すべき対象でした。
しかし、大規模言語モデル（LLM）を基盤とするAIエージェントは「確率論的（Probabilistic）」に動作します。文脈やわずかな条件の違いによって、出力結果は変動します。これは従来のエンジニアリングにおける「バグ」ではなく、生成AIの「仕様」であり特性です。この不確実性を排除しようとするのではなく、いかに管理（マネジメント）し、実用的な水準に落とし込むかが、これからの開発の主戦場となります。
AIエージェントの品質を測る新しい「ものさし」
不確実なAIをビジネスで活用するためには、評価指標（メトリクス）の再定義が必要です。元記事でも触れられているように、AIエージェントの評価においては以下の3つの観点が重要視され始めています。
- 事実の一貫性（Factual Consistency）：AIが生成した内容が、参照すべきデータソースや事実に基づいているか。いわゆる「ハルシネーション（もっともらしい嘘）」をどれだけ抑制できているか。
- 意思決定までの時間短縮（Time to Decision）：AIの回答によって、人間が次のアクションを起こすまでの時間をどれだけ短縮できたか。単なる回答速度ではなく、業務プロセス全体の効率化を問う指標です。
- タスク完了率（Task Completion Rate）：ユーザーの意図した目的（例：会議の予約、資料の要約、コードの修正）を、最後まで自律的に完遂できた割合。
従来のソフトウェアテストにおける「合格/不合格」の二元論ではなく、「タスク完了率85%なら実用フェーズへ移行し、残りは人間が補完する」といった、確率に基づいた判断が求められます。
日本企業が直面する「100%品質」の壁と現実解
日本の企業文化、特に製造業や金融業などの厳格な品質管理が求められる現場において、この「確率論的な挙動」は受け入れ難い側面があります。「間違った回答をする可能性があるシステムなど導入できない」という声は、多くのDX推進担当者が直面する壁でしょう。
しかし、人間であっても業務ミスはゼロではありません。AI活用においては、「システムとしての無謬性（誤りがないこと）」を目指すのではなく、「リスクを許容範囲内に収めるガバナンス」と「人間による監督（Human-in-the-Loop）」をプロセスに組み込むことが現実解となります。
例えば、顧客対応の完全自動化を目指すのではなく、オペレーター支援ツールとして導入し、最終確認は人間が行うフローにする。あるいは、社内向けナレッジ検索のように、誤りがあった際のリスクが比較的低い領域から「タスク完了率」の実測値を積み上げていくアプローチが有効です。
日本企業のAI活用への示唆
「確実性の終焉」は、決してソフトウェア品質の低下を意味するものではありません。それは、ソフトウェアが扱える領域が「定型業務」から「曖昧さを含む知的業務」へと広がったことを意味します。日本企業がこの変化を乗りこなし、AIエージェントを実務に定着させるためのポイントは以下の通りです。
- 「100%」の呪縛からの解放：AIに完璧を求めず、確率的な挙動を前提とした業務フロー（人間によるチェック体制など）を設計する。
- 評価指標の転換：従来のシステムテスト（バグの有無）に加え、RAG（検索拡張生成）の精度評価や、業務完了率といったビジネスインパクトに直結するKPIを設定する。
- スモールスタートと継続的な改善：不確実性が高いからこそ、大規模な要件定義で固めるのではなく、アジャイルにプロトタイプを作り、実際のデータで「ハルシネーション率」や「有用性」を計測しながらチューニングを続ける「MLOps/LLMOps」の体制を整える。