「何でもAIに流す」のをやめた——アルゴリズムとAIを使い分ける医療現場の設計

AIが話題になるほど、「これもAIにやらせよう」「あれもAIで」と考えたくなります。僕も開業してClaude Codeで業務ツールを作り始めたころは、そうでした。でも現場で使ってくるうちに、いま増えているのはむしろ逆の判断です。「ここはAIに流さない」と決めることが、設計のいちばん大事な部分になってきました。

確定できることは、アルゴリズムで

医療には、答えが決まっている計算がたくさんあります。検査値から腎機能の指標を出す、採血の数字を時系列で並べて傾きを見る、公開されているリスクスコアを当てはめる——こうしたものは、すべて公知の計算式です。入力が同じなら、答えも同じ。ここにAIを挟む必要はありません。

確定した計算は、決まった式（アルゴリズム）で処理します。速いし、ブレないし、なぜその数字になったかを後から説明できます。AIに任せるのは、文章を書く、候補を挙げる、ばらつきのある情報を整理するといった、判断やことばが要る場面だけにしています。

なぜ使い分けるのか

医療でいちばん困るのは、同じ条件なのに答えが変わることです。確定した計算をAIに通すと、まれに表現が揺れたり、もっともらしい別の数字を返したりすることがあります。小さなズレでも、医療では見過ごせません。

だから、確実に決まることは確実に決まる方法で処理して、AIはその外側に置く。「AIを使わない」というのも、立派な設計判断だと考えるようになりました。全部をAIで動かすより、結果が安定して、検証もしやすくなります。

三省二ガイドラインを"読んでから"作る

もうひとつ、最初に決めているのが患者データの扱いです。医療情報の取り扱いには、国が示しているガイドライン（いわゆる三省二ガイドライン）があります。ツールを作る前にこれを読んでおくと、「どの処理でAIを使い、どの処理では使わないか」「データをどこに置くか」の線引きが、後付けでなく最初から引けます。

基本にしているのは、患者に関わるデータが院外に不用意に出ない構成です。クラウドのAIを使う場面も、データを保持しない設計（ZDR）を前提に組んでいます。こうしておくと、あとから「この処理は大丈夫だったか」と問い直すときに、構成をたどるだけで確認できます。ルールを読んでから作るのと、作ってから合わせにいくのとでは、後の安心感がまるで違いました。

AIは下書き、確定するのは人

使い分けの延長で、もうひとつ崩さないようにしていることがあります。AIが出すのはあくまで下書きで、最終的に確定するのは医師だ、という形です。たとえば書類の文章も、レセプトの病名の候補も、AIに全部決めさせず、こちらが見て選び、直してから確定します。完全自動にしないことで、間違いをそのまま流さずに済みます。

この数か月で変わってきたこと

正直に書くと、最初は「動くものをとにかく作る」ことに夢中でした。いまは少し変わって、どこでAIを使い、どこでは使わないかを見極めること、そして一度作ったものを壊れにくく保つことに、時間を使うようになりました。作る速さより、長く安心して使えるかどうか。やっていることの中身も、この数か月でずいぶん変わった気がします。

まとめ

AIは便利ですが、何でもAIに流せばいいわけではありませんでした。確定できることはアルゴリズムで、判断が要るところだけAIで。そして患者データの扱いは、ルールを読んでから設計する。地味ですが、この使い分けこそが、医療でAIを使ううえでいちばん大事な土台だと感じています。

※この連載では、開業2年目の内科クリニックでの、AIを使った業務改善の実際を書いています。ツールはClaude Codeで内製し、患者データの扱いは三省二ガイドライン・ZDR準拠の設計を基本にしています。

ひろつ内科クリニック受診予約はこちらから
https://wakumy.lyd.inc/clinic/hg08874