前回、「これでは使えない」と言われた日の話を書きました。

そこから私たちは、精度や機能よりも、診療の流れを守ることを優先するようになりました。

ですが、もう一つ、避けて通れない問いがありました。

医療AIは、どこまで踏み込むべきなのか。

「できること」は、どんどん増えている

生成AIの進化は速い。

会話を要約し、文脈を理解し、それらしい評価や提案まで出せるようになってきました。

技術的に言えば、診断らしき文章を書くことも可能です。

だからこそ、「どこまで任せるか」という問いは、避けられません。

任せられることと、任せてはいけないこと

私たちは、開発の早い段階で一つの線を引きました。

AIにできることは多い。でも、判断は任せない。

AIがまとめる。AIが整える。AIが材料を提示する。

そこまではいい。

しかし、診断や最終的な評価は、人が行う。

その原則は、揺らがせないと決めました。

「それらしく見える」ことの怖さ

AIの文章は、とても自然です。

だからこそ、それらしく書かれた文章を見たとき、人は安心してしまう。

しかし医療では、「それらしい」は危険です。

事実と推測。所見と解釈。確定と仮説。

それらが混ざってしまうことは、避けなければなりません。

主導権は、常に人にある

医療AIが前に出すぎると、医師の思考を奪ってしまう可能性があります。

一度「自動で出てくる」ことに慣れてしまうと、確認はしていても、思考の深さは変わるかもしれない。

それは決して怠慢ではありません。人間の自然な反応です。

だからこそ、AIは補助であり、代替ではない。

主導権は、常に人にある。

この設計思想は、今も変わっていません。

技術の限界ではなく、意図的な線引き

ときどき聞かれます。「もっと自動化できるのでは？」

技術的に可能なこともあります。

でも、それを“やらない”選択もある。

それは限界ではなく、意図的な線引きです。

向き合う相手を間違えないために

第1回で書いた言葉を、もう一度思い出します。

「パソコンと向き合うために医師になったんじゃない」

医療AIが進化しても、向き合うべき相手は変わりません。

患者と医療者。

AIは、その間で静かに支える。

踏み込みすぎないことも、設計の一部だと考えています。

おわりに

医療AIにできることは、これからも増えていくでしょう。

だからこそ、「どこまでやるか」よりも、「どこで止めるか」を決めることが重要になる。

私たちは、踏み込めるから踏み込むのではなく、守るために線を引く。

それを続けていきたいと思っています。