何が起きたか
今月、JAMA（Journal of the American Medical Association）に「Will Autonomous AI Exceed AI-Physicians as the Best Medical Care?（自律型AIはAI併用医師を超えて最良の医療になるか）」という論文が掲載されました。著者はEzekiel Emanuel、Vinod Khosla、Neal Khosla、およびEmanuelの研究者です。
主張はシンプルかつ挑発的です。2024年1月1日以降に発表された医療AI関連論文をレビューした結果、医療は「AI単独が、医師にも医師＋AIのハイブリッドにも勝る転換点」に急速に近づいている、と。対象は問診（medical history）、診断確定、必要な検査の特定、治療の処方、慢性疾患管理の5業務。時期は2030年ごろで、著者ら自身が「不穏だが、ありそうに思える（unsettling but seems probable）」と表現しています。
最も物議を醸すのは、臨床医は介入を控えるべきだという一節です。理由は「humans in the loop degrade AI performance（人間が介在するとAIの性能が落ちる）」。安全策として常識化していた「必ず人間が最終判断する」という設計思想を、性能の観点から真っ向から否定した点にこの論文の新規性があります。
なぜこの論文が重要なのか
注目すべきは、著者の一人が「転向者」であることです。Emanuelは腫瘍内科医であり、Ari EmanuelとRahm Emanuelの兄弟としても知られる医療政策の重鎮ですが、本人いわく2010年代の会議でKhoslaから「2035年までにAIが医師の仕事の85%をやる」と言われた際、「ふざけるな、医師の仕事は複雑すぎる」と一蹴していました。
転機は約1年前。友人でUCSF内科トップのRobert Wachterから著書『A Giant Leap』のゲラを受け取ったことでした。同書は「ファーストクラスの医療＝AIと医師の協働、エコノミークラスの患者＝ほぼAI単独」と描いていました。Emanuelはこれを読んで、むしろKhoslaが正しいのではと考え始め、共著を持ちかけたと語っています。つまりこの論文は、批判者が実証を追いかけた末に立場を変えた記録でもあります。
一方でKhoslaの主張自体は新しくありません。2012年のTechCrunch寄稿「Do We Need Doctors or Algorithms?」、2016年の101ページに及ぶ論考と、10年以上同じ旗を掲げてきました。変わったのは主張ではなく、医学界の権威が隣に立ったことです。
反論の中身と、利益相反
AMA CEOのJohn Whyteは有力な反対論者です。批判の焦点は方法論で、レビュー対象の一部が盲検実験ではなくシミュレーションであり、すべてが論文の結論を支持しているわけではない、という指摘です。Whyteは「AMAもこれらのツールの可能性は認めるが、医師が統括するケアプランの文脈で使われる必要がある」と述べています。
実データ側の反証もあります。2026年2月のNature論文は、実際のケースでは多くの患者が大規模言語モデルとうまく対話できず、その専門知識を引き出せなかったと報告しました。モデルの能力と、患者が引き出せる能力は別物だということです。
また、利益相反の開示も論文に記載されています。Neal Khoslaは、AIで患者を診療しつつ処方や複雑案件のために医師スタッフを抱えるオンライン企業Curai Healthを経営し、Vinod Khoslaは関連投資を持ち、Emanuelには助成金とコンサルティングの開示があります。主張の当否とは別に、読む側が織り込むべき前提です。
「ドアマンの誤謬」と、脱スキル化
名指しで批判されたWachter自身は「彼らの議論は重要だ」と一定の理を認めつつ、「もはやそれを石板に刻むことはできない。人間が性能を台無しにする場面もあるだろう」と述べます。それでも、厳しい予後を告げる、最良の治療経路へ患者を導くといった、訓練された医師固有の資質は残ると主張します。
ここで彼が持ち出すのが「ドアマンの誤謬」です。自動ドアの登場でドアマンは消えると思われたのに、実際にはAmazonの荷物を受け取り、ペットに餌をやり、住人の話を聞くなど多くの仕事をこなしている。「医師版のドアマンの誤謬が見つかるだろう。AIの診断を受け入れつつ、価値ある他の機能を数多くこなす医師の世界は想像できる」というわけです。
もう一つの論点が「de-skilling（脱スキル化）」です。AIに依存した医師が自らの判断力と知識を失い、それがかえってAIの浸透を加速させる。Whyteは、医学部や研修プログラムが研修医にこれらのツールの使用を許すかを議論していると明かします。「問診と診察のやり方を学んだことがなければ、どうやって身につけるのか」。他方、これほど強力なツールを無視すること自体が一種の医療過誤だという反論も併記されています。
Vinod Khoslaは、短期的には外科と救急で医師は必要だが、専門知識と判断においては概ね不要になる、せいぜいAIと議論して性能を高める役割だろうと述べます。Neal Khoslaは移行はすでに始まっており、今後数年でAIに処方の規制許可が下りると見ています。記事は『The Pitt』のDr. Robbyが研修医に問診する場面や『House』を引き合いに、診断の名人芸がAIに置き換わったとき、人間側に残る価値は共感と高EQのコミュニケーションだと整理します。Bill Gatesが近著論考で、AIの予後説明を患者に伝える医師のような仕事を「human-reserved（人間専用）」に指定して経済的破綻を防ぐ案に触れたのも、同じ問題意識の裏返しです。
Emanuel自身の反問が、この論争を一言で言い当てています。「ChatGPTの登場から4年も経っていない。我々は4年後の予測をしている。AIが医師よりはるかに進んでいないと思うか？」そして「AIが引き継いだら、医師には何が残るのか？」——後者の問いは、医療以外の専門職にもそのまま向けられています。
💼 事業会社視点：これは自社にどう効くか
日本企業が読むべきは医療の話ではなく、「human in the loop（人間の最終確認）は本当に品質を上げているのか」という問いが、権威ある専門職領域で公然と提起された点です。多くの日本企業のAI導入は「必ず人が承認する」を免罪符に設計されており、精度検証を省く口実になっています。自社のAI業務フローで、人間のチェックが実際にエラーを減らしたのか、レビュー前後の誤り率を測っている経営者はどれだけいるでしょうか。測っていないなら、それは安全設計ではなく責任回避の設計です。
業界別に見ると、受託開発・SIerは最も直撃を受けます。「AI＋レビュアー」を単価根拠にしてきたモデルは、レビューが品質を上げている証拠を出せなければ値崩れします。今から工程別の欠陥検出率を計測し、人間が効く工程（要件定義、顧客との合意形成）に人を寄せる再配置が必要です。SaaSは逆に好機で、AMAのWhyteが求める「専門家が統括するケアプラン」の枠組み、すなわち監査ログ・根拠提示・責任分界の実装が、規制産業向けの参入障壁になります。ECはNature論文の「患者はLLMからうまく専門知識を引き出せなかった」という結果が重要で、AI接客の失敗は多くがモデル性能ではなく利用者の質問力側にあります。UI側で意図を引き出す設計に投資すべきです。
全社的にはde-skillingへの手当てが要ります。若手が生成AI前提で育つと、判断の型そのものを学ぶ機会を失う。AI禁止ではなく「まず自分で結論を出してからAIに当てる」順序をレビュー要件に組み込むのが現実的な打ち手です。