kanaVoを作り始めたころ、私はどこかで「いけるかもしれない」と思っていました。アルゴリズムも試した。機械学習も試した。そしてLLMに辿り着き、技術的な可能性も見えてきた。だから、正直に言えば、「これは評価してもらえるはずだ」と思っていました。
そんな私の目を覚ましてくれたのは、静かな一言でした。実際に現場で試していただいたときのことです。フィードバックは、とても率直でした。
「これ、便利だけど、今は使えないですね」
強い否定ではありません。怒りもありません。でも、その一言は重かったです。

何がダメだったのか

理由を聞くと、答えはシンプルでした。
「少し待たされる」
「微妙な言い回しを直したくなる」
「診療の流れが一瞬止まる」
その「少し」が積み重なると、外来では使えないのでした。
私は、「ほんの数秒」「ほぼ正確」「少し修正するだけ」と思っていました。
でも、少しが積み重なると、現場では使えなくなってしまいます。
このズレに、はじめて気づきました。

正しさよりも、流れだった

私たちは、精度を上げることに意識が向いていました。
より正確に。より整った文章に。より賢く。
しかし、医療現場で問われていたのは、そこではありませんでした。
必要だったのは、診療の流れを止めないこと、思考を中断させないこと、余計な操作を増やさないことでした。
言い換えるなら、「正しさ」よりも「流れ」が大切だと気付かされました。
この視点は、大きな転換点になりました。

削るという決断

そこから、方向を変えました。簡単に言うと、要素や機能を足すのではなく削っていきました。
もう少し詳しく言うなら、考えさせすぎない、出力を重くしない、過剰な補完をしないでした。
この引き算が、思っていた以上に難しかったです。

「あ、これなら使えそうですね」

修正を重ね、再び試してもらう。また直す。
その繰り返しの中で、少しずつ皆さまの反応が変わっていきました。
そして、「あ、これなら使えそうですね」という言葉を頂きました。
この言葉を初めて聞いたとき、ようやくスタートラインに立てた気がしました。

医療AIは、机の上では完成しない

この経験から学んだのは、医療AIは開発室では完成しないということでした。
現場で試し、否定され、修正し、また試す。
その積み重ねでしか、医療者の約に立つものは実現しないという当たり前のことに気づけました。

次に見えてきた問い

では、医療AIはどこまで踏み込むべきなのか。
どこから先は、人に委ねるべきなのか。
次回は、私たちがAIに「させない」と決めたことについて、書きたいと思います。