生成AI（文章を自動で作る AI）が医療や介護の現場で出した答えは、そのまま記録や説明に使ってはいけません。使えるのは、出典（どの文書に書いてあるか）・日付（いつ時点の情報か）・適用範囲（目の前の患者や利用者に当てはまるか）の3点を人が確かめた後だけです。この3点は、慣れれば1件あたり数分で回せます。この記事では、その確認を「習慣」として業務に埋め込む具体的なやり方を書きます。
AIの答えをそのまま使ってよいのはどこまで？
まず前提の整理です。生成AIは、学習した大量の文章をもとに「次に来そうな言葉」をつないで答えを作ります。そのため、事実かどうかに関係なく、もっともらしい文章が出てきます。この、実在しない情報をそれらしく答えてしまう現象を「ハルシネーション（幻覚）」と呼びます。存在しない通知番号、実際とは違う加算の算定要件、廃止された様式の名前などが、堂々とした文体で出てくるのが典型です。
ここで大事なのは、「AIは間違えるから使うな」ではなく、答えの種類によって扱いを変えることです。同じAIの出力でも、文章の体裁を整えただけのものと、制度の解釈を述べたものとでは、リスクがまったく違います。
| AIの答えの種類 | そのまま使えるか | 確かめる先 |
| 文章の言い換え・要約の下書き | 人が元の記録と突き合わせれば使える | 自施設の元記録 |
| 一般的な疾患・ケアの説明 | 説明の骨子としてのみ。数値や用量は不可 | 学会の診療ガイドライン、公的機関の情報 |
| 薬の情報（用量・相互作用・禁忌） | 使えない。必ず原典を確認 | 添付文書（PMDAの医療用医薬品情報検索） |
| 制度・報酬・加算の要件 | 使えない。検索の手がかりまで | 厚生労働省の通知・Q&A、保険者や自治体の案内 |
| 個別の患者・利用者への判断 | 使えない。有資格者の判断事項 | 担当医、担当ケアマネジャー、サービス担当者会議 |
特に最後の行は制度上の線引きでもあります。厚生労働省は、AIを用いた診断・治療支援プログラムについて、最終的な判断の責任は医師が負うという趣旨の通知を医政局から出しています。介護分野でも、居宅サービス計画の作成はケアマネジャーの業務として運営基準に位置づけられており、AIが作った文面をそのまま計画にするという発想は成り立ちません。AIは下書き役までで、判断の主体は人のままです。この考え方は介護記録の AI 要約は「清書」ではなく「下書き」に使うと定着するでも書いたとおりです。
習慣1：出典を名指しで聞き返す
1つめの習慣は、答えを受け取ったら必ず「それはどの文書の、どこに書いてありますか」と聞き返すことです。そして、聞き方をあらかじめ決めておきます。
明日から使える指示文の例です。
- 「根拠となる文書名、発出元、該当する条・項・問番号を示してください。特定できない場合は『不明』とだけ答え、推測で文書名を作らないでください」
- 「あなたの回答のうち、原典で確認が必要な箇所に印を付け、確認すべき文書名を一覧にしてください」
この聞き方の利点は2つあります。第一に、AIが出典を出せない部分が浮かび上がること。第二に、出典が出た場合でも、それが本当に実在するかを人が検索して確かめる手順が自然に発生することです。通知番号やQ&Aの問番号までAIが答えたとしても、それ自体が作り話である可能性があります。番号をそのまま検索窓に入れて、発出元の公式サイトで現物に当たるまでが1セットです。
なお、社内文書や公式サイトを検索してから答える仕組み（RAG、検索で見つけた文書を根拠にAIに答えさせる方式）を使っている場合でも、この習慣は省けません。参照した文書が古い版であることや、似た名前の別文書を拾うことがあるためです。表示された参照元のファイル名と日付を、必ず目で見てください。
習慣2：「いつ時点の情報か」を必ず確かめる
2つめは日付です。医療・介護は改定の多い分野です。診療報酬・介護報酬の改定、加算の新設や廃止、様式の変更、薬の添付文書の改訂は、いずれも定期的に起こります。AIの学習データには時点があり、改定前の内容を自信たっぷりに答えることがあります。
確かめ方は単純で、次の2つを並べるだけです。
- AIが答えた内容の「時点」：「この回答は何年何月時点の制度を前提にしていますか」と聞く。答えられない場合は、時点不明として扱う
- 原典の「最終更新日」：確認先のページに表示されている発出日・更新日・改訂年月を見る
この2つがずれていたら、原典を優先します。原典側のほうが新しければ、AIの答えは捨てます。たとえば次のような場面です。加算の算定要件をAIに聞いて「この研修の修了が必要」と返ってきたが、最新の通知では経過措置の期限が変わっていた——こうした食い違いは、AI固有の問題というより、改定の多い分野で起きる当たり前のことです。だからこそ、日付の確認を「AI特有の作業」ではなく「いつもの確認」として扱うほうが続きます。
現場で回すなら、確認先の公式ページを部署の共有ブラウザにブックマークしておくのが早道です。医薬品であればPMDA（独立行政法人医薬品医療機器総合機構）の医療用医薬品情報検索、介護保険の運用であれば厚生労働省の「介護保険最新情報」やWAM NET、自治体の指定・指導関係のページ。この5つ程度を1つのフォルダにまとめておくだけで、確認にかかる時間がかなり縮みます。
習慣3：目の前の人に当てはまるかを分けて考える
3つめが、実務では一番落とし穴になります。出典も日付も正しい答えが、目の前の患者・利用者には当てはまらないというケースです。
AIは、こちらが伝えていない条件を考慮できません。伝えていない併存疾患、伝えていない家族の事情、伝えていない保険の種別、伝えていない自治体独自の運用。これらは「一般論としては正しいが、この人には使えない答え」を生みます。
そこで、答えを受け取ったら次の順で分解します。
- 一般論として正しいか（習慣1・2で確認済みか）
- この人の条件に当てはまるか（年齢、要介護度、保険種別、併存疾患、同居家族、居住自治体）
- 当てはまらない条件が1つでもあれば、人に確認する（担当医、管理者、保険者、ケアマネジャー）
ここで併せて注意したいのが、条件を詳しく書こうとして患者・利用者の個人情報をそのままAIに入力してしまうことです。どこまで入れてよいかを事前に線引きしておく必要があります。この論点はAIに個人情報を入れる前に決める5つのこと──「全面禁止」より「線引き」が業務を回すで整理しています。実務上は、氏名・生年月日・住所などを外し、「80代女性、要介護2、独居」のように属性だけで聞く運用が扱いやすいはずです。
3つの習慣を、どう手順に埋め込む？
習慣は「気をつける」では定着しません。記録の様式に埋め込むのが確実です。おすすめは、AIを使った業務の記録欄に次の3項目を追加することです。
| 欄 | 記入内容 | 記入例 |
| 根拠 | 確認した原典の名称とページ・問番号 | 厚生労働省 介護保険最新情報 Vol.◯◯ 問3 |
| 確認日 | 原典を実際に開いた日 | ◯月◯日 |
| 確認者 | 原典を見た人の氏名 | ◯◯（介護支援専門員） |
たった3行ですが、効果は大きいです。第一に、書けないときは「まだ確認していない」と自分で気づけます。第二に、後から誰かが同じ疑問を持ったとき、原典に直接たどり着けます。第三に、監査や指導の場面で「AIが言ったから」ではなく「この文書に基づいて判断した」と説明できます。介護の計画書AI下書きは記録3行で守れるで書いた考え方と同じで、守りの記録は短いほど続きます。
導入の手順としては、以下の進め方が現実的です。
- 対象を絞る：まず「制度・報酬」と「薬」の2分野だけを3習慣の必須対象にする。全業務に広げると形骸化します
- 聞き方のひな形を1枚配る：習慣1の指示文を印刷して端末の横に置く
- 確認先のブックマークを共有する：公式サイトを5つ程度、全員同じフォルダに
- 2週間後に振り返る：記入漏れが多い欄があれば、欄を減らすか、確認先を増やす
まとめ
医療・介護の現場でAIの答えをそのまま使ってよいかという問いへの答えは、「文章の下書きはよい、判断と事実は確認してから」です。確認は3つだけ覚えれば足ります。
- 出典：文書名・発出元・該当箇所を聞き返し、現物に当たる。出せないなら「不明」と扱う
- 日付：AIの前提時点と、原典の更新日を並べる。ずれたら原典を優先
- 適用範囲：一般論として正しくても、目の前の人の条件に当てはまるかを別に判断する
この3つを記録様式の3行に落とし込めば、確認は「追加の仕事」ではなく「いつもの手順」になります。AIを使わない理由を探すより、確認を速く正確に回す仕組みを作るほうが、現場の負担は確実に軽くなります。
この記事は、AI で下書きを作り、益山康秀（運営者）が内容を確認して公開しています
