クリニックのAI電話対応は「症状の話が出た瞬間に人へ渡す」設計で決まる

この記事には広告（アフィリエイト）を含みます

クリニックの電話が鳴り止まない。受付スタッフが会計対応をしながら受話器を取り、保留にして、また別の電話が鳴る。この状況を改善するためにAI電話対応（音声自動応答や、AIが文章を生成して応答するボイスボット）を検討する医療機関が増えています。

ただ、医療機関の電話は一般的なコールセンターとは決定的に違う点があります。かかってくる電話の中に、医療行為の入口になりうるものが混ざっているということです。「予約を取りたい」と「胸が苦しいんですけど、今日行ったほうがいいですか」が、同じ番号に同じようにかかってきます。

この記事では、一般的な問い合わせ分類の話は省き、医療機関に固有の二点、「症状・受診要否の相談にAIを答えさせない線引き」と「急ぎの電話を確実に人へ逃がす経路」に絞って、設計の考え方をまとめます。

なぜ「症状の相談」だけは特別扱いが必要なのか

医療法や医師法では、診断や治療方針の判断は医師の業務として位置づけられています。患者から「この症状はどの科にかかればいいか」「様子を見ていいか」と聞かれたとき、受付スタッフであっても判断を述べることは避け、医師や看護師に取り次ぐ運用をしているクリニックが多いはずです。

AIを導入するということは、この電話の一次受けを機械に置き換えるということです。つまり人間のスタッフに許していない判断を、AIに許してしまう設計になっていないかを確認する必要があります。

ここで厄介なのが、大規模言語モデル（LLM：大量の文章を学習し、問いかけに対して自然な文章を生成するAI）の性質です。LLMは「わかりません」と言うよりも、それらしい答えを組み立てることを得意とします。症状を聞かされれば、聞かれていなくても一般論を返してしまう可能性があります。

たとえば次のような場面です。患者が「3日前から熱が38度あって、今日は咳も出ます。予約は取れますか」と話したとき、AIが「お大事になさってください。発熱と咳でしたら内科の受診が適切かと思います」と返したとする。善意の応答ですが、これは振り分けの判断を含んでおり、人間の受付が通常なら踏み込まない領域です。しかも電話の録音は残ります。

したがって設計の出発点は、応答を上手にすることではなく、症状に関する言葉が出た瞬間に、AIが自分で答えようとしないように作り込むことです。

AIに任せる範囲と、任せてはいけない範囲

医療機関の電話内容を、AIへの委任可否という軸で整理すると次のようになります。

予約について「条件付き」としたのは、予約枠の設計そのものが診療内容と結びついているクリニックが多いからです。「発熱外来の枠」「健診枠」「処置枠」などを分けている場合、AIが枠を選ぶために症状を聞かざるを得なくなります。この構造は要注意です。

現実的な逃げ方は二つあります。一つは、AIには一般枠の予約だけを扱わせ、特別な枠が必要そうな場合は人へ回す。もう一つは、患者自身の申告をそのまま枠に対応させる設計です。後者は「発熱の症状がある方は1番を、それ以外の方は2番を」のように、AIが判断せず患者の選択をそのまま受け取る形にします。AIが症状を解釈して振り分けるのではなく、患者の申告を記録して人へ渡す、という向きにするのがポイントです。

「人へ逃がす経路」を先に作る

導入検討では「AIがどこまで答えられるか」に関心が向きがちですが、医療機関で先に設計すべきは逆側、エスカレーション（AIから人へ対応を引き継ぐこと）の経路です。ここが弱いまま導入すると、急ぎの患者がAIと押し問答する最悪の状況が起きます。

転送トリガーは広めに、迷ったら人へ

AIが人へ渡す条件は、厳密な判定を目指さず、疑わしきは転送に倒します。具体的には次のような条件を設定します。

• 身体部位の名称（胸、頭、お腹、腰など）と不調を示す語が同時に出た
• 「痛い」「苦しい」「息が」「血が」「倒れ」「意識」「けいれん」「動けない」など、緊急性を示唆しうる語を検知した
• 「どうしたらいいですか」「行ったほうがいいですか」など、判断を求める形の問いかけ
• 同じ質問を2回繰り返した、またはAIが2回連続で意図を取れなかった
• 声のトーンや発話速度から焦りが疑われる（対応している製品の場合）

誤転送が増えることを心配するかもしれませんが、医療機関では誤って人に回すコストより、誤ってAIが答えてしまうリスクのほうが大きいと考えるべきです。運用しながら転送率を見て、明らかに不要なものだけを後から削る順序が安全です。

「人へ」が繋がらないときの行き先を決めておく

転送すると決めても、昼休みや診療終了後、スタッフが全員処置に入っている時間帯があります。ここを空欄にしないことが重要です。想定すべき状況と行き先の例を挙げます。

• 診療時間内・スタッフが埋まっている：折り返し用に名前と番号を取得し、折り返し待ちの一覧に積む。待ち人数や目安時間を伝える
• 昼休み・診療時間外：緊急の可能性がある内容と判断されたら、自動音声で救急相談の案内に切り替える
• 休診日：当番医・救急の案内を冒頭で明示し、予約関連だけAIが受ける

救急の案内としては、消防庁の救急安心センター事業（#7119）や、こども医療電話相談事業（#8000）があります。ただし#7119は全国一律で実施されているわけではなく、地域によって提供状況が異なります。自院の所在地で利用できるか、自治体や消防本部の案内を確認したうえで文言に入れてください。緊急性が高いと思われる場合は119番への案内を明示する、という方針も併せて決めておきます。

個人情報と記録の扱いで押さえるべき点

AI電話対応では通話が録音され、文字起こしされ、外部のAIサービスに送られることがあります。ここで扱われるのは要配慮個人情報に当たりうる情報です。個人情報保護法では、病歴などは本人の同意なく取得することが原則として制限される類型として扱われています。また医療分野では、個人情報保護委員会と厚生労働省による「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」が実務上の拠り所になります。

導入時に確認しておきたいのは次の点です。

• 音声データ・文字起こしデータの保存場所と保存期間。国外サーバに保存される構成か
• 入力したデータがAIモデルの再学習に使われない契約になっているか
• 委託先との間で個人データの取扱いに関する契約が結ばれているか、再委託先まで把握できるか
• 患者への告知。通話冒頭で録音とAI応答であることを伝えているか
• 院内のプライバシーポリシー・利用目的の掲示にAI対応の記載を追加したか

加えて、厚生労働省の「医療情報システムの安全管理に関するガイドライン」は、電子カルテや予約システムと連携させる場合に参照すべき文書です。AI電話が予約システムと繋がる構成なら、ベンダーにこのガイドラインへの対応状況を質問しておくとよいでしょう。

小さく始めて範囲を広げる手順

いきなり全時間帯・全用件をAIに任せる必要はありません。次の順序なら、リスクを抑えながら効果を確認できます。

1. 時間外・休診日だけから始める。もともと誰も取れていない時間なので、AIが取りこぼしても現状より悪化しにくい
2. 用件は診療時間案内と予約の変更・キャンセルに限定する。新規予約より難易度が低い
3. 2〜4週間、通話ログを全件スタッフが確認する。AIが答えてはいけない内容に答えていないかを目視でチェックする
4. 問題がなければ、診療時間内の溢れ呼（話し中で取れなかった電話）の受け皿として拡大する
5. その後、新規予約や持ち物案内へ範囲を広げる

特に3番の全件確認は省略しないでください。AIの応答は平均的には自然でも、想定外の発話に対してどう振る舞うかは実際のログを見ないとわかりません。確認の際は、「症状に触れた通話が何件あり、そのうち何件が正しく人へ渡ったか」という指標を持つと判断しやすくなります。

まとめ

クリニックのAI電話対応で最初に決めるべきは、応答の精度ではなく線引きです。整理すると次の三点に集約されます。

• 症状・受診要否・薬に関する話が出たら、AIは答えずに人へ渡す。人間の受付に許していない判断を、AIに許さない
• 逃がす経路を先に作る。診療時間内・昼休み・時間外・休診日それぞれで、人が出られないときの行き先を空欄にしない。#7119や#8000は地域の提供状況を確認したうえで案内に組み込む
• 録音と文字起こしは要配慮個人情報を含む前提で扱う。保存場所、再学習の有無、委託契約を導入前に確認する

明日からできることとしては、まず直近1週間にかかってきた電話を、冒頭の表の分類で数えてみてください。症状相談や急ぎの電話が全体の何割を占めるかが見えると、AIに任せられる部分の実際の大きさと、転送経路にかけるべき手間の量が具体的に判断できます。この数字がないまま製品比較に入ると、デモで見た応答の滑らかさに引っ張られてしまいます。医療機関では、滑らかに答えないことのほうが価値になる場面がある、という前提から設計を始めるのが安全です。

あわせて読みたい: 介護記録の AI 要約は「清書」ではなく「下書き」に使うと定着する

この記事は、AI で下書きを作り、益山康秀（運営者）が内容を確認して公開しています