投稿者 global-ai-media 
デジタルヘルス分野でのChatGPT活用が進む中、カナダの理学療法士が「AIはツールであり、人間の評価や支援は代替できない」と指摘しました。本稿では、この事例を起点に、ヘルスケア領域における生成AIの限界と可能性、そして日本の厳しい法規制下で企業が取るべき現実的な活用戦略について解説します。
「AIドクター」の幻想と現実的な限界
OpenAIのChatGPTをはじめとする大規模言語モデル（LLM）が、医療・ヘルスケア分野の情報アクセスを劇的に変えつつあります。これまで専門書や論文に埋もれていた知識が、一般ユーザーにも対話形式で容易に引き出せるようになったことは大きな進歩です。
しかし、元記事で紹介されているオンタリオ州の理学療法士の指摘は、AI活用の核心を突いています。記事によれば、ChatGPT Healthのようなツールはあくまで「ツール」であり、専門家による評価やサポートを代替するものではないとされています。
特に理学療法や整形外科的な領域では、患者の歩き方、筋肉の張り、関節の可動域などを物理的かつ三次元的に評価する必要があります。現在のLLMはテキストや画像を処理できても、触診や微妙な動作のニュアンスを読み取ることはできません。ここには、どれほどAIが進化しても残る「フィジカルな壁」と「文脈理解の限界」が存在します。
ハルシネーションリスクと日本の法規制
日本国内でヘルスケアAIを開発・導入する際、最も留意すべきは「ハルシネーション（もっともらしい嘘）」のリスクと、日本の「医師法」および「薬機法（医薬品医療機器等法）」との兼ね合いです。
生成AIは確率的に次の単語を予測する仕組みであり、事実の正確性を保証しません。医療相談において、存在しない治療法や誤った用量を提示することは、生命に関わる重大なリスクとなります。このため、AIの回答をそのままユーザーに提示するサービス設計は、現時点では極めて危険です。
また、日本では医師法第17条により、医師以外の者が医行為（診断・治療など）を行うことが禁じられています。AIが「あなたは〇〇病です」「この薬を飲んでください」と断定的な回答をすれば、無資格診療とみなされるリスクがあります。したがって、日本企業が目指すべきは「診断」ではなく、あくまで「情報提供」や「受診勧奨」、あるいは医師の業務をサポートする「事務効率化」の領域となります。
国内における現実的な活用シナリオ
では、リスクを回避しつつ、どのような価値創出が可能でしょうか。日本の商習慣やニーズを踏まえると、以下のような活用が現実的かつ有望です。
一つ目は、「医療従事者の業務支援（Co-pilot）」です。電子カルテの入力補助、紹介状の要約作成、最新論文の検索・サマリー作成などにLLMを活用することで、医師や看護師が患者と向き合う時間を増やすことができます。これは「医師の働き方改革」という社会的課題にも直結します。
二つ目は、「ウェルネス・未病領域での伴走支援」です。診断に至らないレベルの健康相談や、生活習慣改善のコーチングであれば、適切なガードレール（安全策）を設けた上でAIを活用可能です。例えば、食事画像から栄養素を推定しアドバイスする、メンタルヘルスの一次受けとして傾聴を行う、といったサービスは既に国内でも芽が出始めています。
日本企業のAI活用への示唆
今回の事例と国内事情を踏まえ、日本の意思決定者やプロダクト担当者は以下の点に留意してプロジェクトを進めるべきです。
1. 「代替」ではなく「拡張」と定義する
AIを「医師や専門家の代わり」として位置付けるのではなく、彼らの能力を拡張するツール、あるいはユーザーが専門家にたどり着くまでの「橋渡し」として設計してください。プロダクトの免責事項を記載するだけでなく、UX（ユーザー体験）の中で「これは医療判断ではない」ことを明確に伝える工夫が不可欠です。
2. Human-in-the-Loop（人間による確認）の徹底
特に医療情報を取り扱う場合、AIの出力結果を専門家が確認するプロセス（Human-in-the-Loop）を業務フローに組み込むか、あるいは参照元が信頼できるガイドラインや公的情報に限られるようRAG（検索拡張生成）の精度を高める必要があります。丸投げの自動化は事故の元です。
3. 要配慮個人情報のガバナンス
ヘルスケアデータは、個人情報保護法における「要配慮個人情報」に該当する場合が多くあります。パブリックなLLMに安易にデータを送信せず、Azure OpenAI Serviceなどのセキュアな環境を利用すること、そしてデータの利用目的を利用者に明確に通知・同意取得することが、企業のコンプライアンスとして求められます。