何が主張されたか
JAMAに掲載された論考は、医学的推論において自律型AIが「医師＋AI」のどの組み合わせよりも優れた成績を出すようになると予測し、規制当局がhuman-in-the-loop（人間の確認を必須とする）要件をルールに書き込むことに反対しています。筆頭著者のエゼキエル・エマニュエル氏はペンシルベニア大学の生命倫理学者で、オバマ政権の医療改革を設計した一人。米国医療政策における重量級の論者です。
論考は、医学の中核的推論タスクを5つ——問診、診断、検査選択、ガイドラインに沿った治療、慢性疾患管理——と定義し、2024年以降のほとんどの研究でAI単独が医師と同等かそれ以上だったと整理します。具体例として、Googleの対話システムAMIEが模擬患者との会話でほぼ全カテゴリでプライマリケア医を上回ったこと、Microsoftの診断オーケストレーターが予算制約下で正解診断に到達した割合が医師の約4倍かつ低コストだったことを挙げます。377の複雑症例では、ChatGPT o3が正しい診断を第一候補に挙げた割合が60％、20人の内科医は15.9％でした。
なぜ「人間が確認する」ことが逆効果になりうるのか
論考の核心は、性能の順位が逆転した後の話です。106件の実験を対象としたメタ分析によれば、人間とAIの組み合わせが有効なのは人間のほうが優れている場合で、AIのほうが優れている場合には人間が誤った箇所でシステムを覆すため、結果はむしろ悪化します。診断推論ではGPT-4単独が92％、GPT-4を使える医師が76％という数字も引かれています。安全網だったはずの確認役が、エラーの発生源に変わるという構図です。
著者らはこれをチェスの歴史になぞらえます。1997年にDeep Blueがガルリ・カスパロフを破った後、しばらくは人間と機械のチームが最強でしたが、2017年頃からAIがそのチームをも上回るようになりました。医療でも同じ移行が起きるなら、「最終判断は医師が下す」というガイドラインを今固定することは、遠からず時代遅れになる医療の形を制度で固めてしまう、というのが主張です。加えて、AIの性能向上と同時に医師側のスキルが低下する可能性も指摘され、AI利用後に医師の検出能力が落ちたLancetの大腸内視鏡研究が根拠に挙げられています。
誰が何を得るのか、という視点
この論考は無色透明ではありません。共著者のニール・コスラ氏はAI遠隔医療企業Curai HealthのCEOで、その父ヴィノド・コスラ氏はOpenAIとCurai Healthの両方に出資しています。つまり著者のうち2人は、論考が描く未来から直接的な利益を得る立場にあります。主張の当否とは別に、この構造は読む側が織り込むべき前提です。
立場も一枚岩ではありません。米国医師会（AMA）や米国内科学会（ACP）は、AIは医師を支援するものであって置き換えるものではない、という姿勢を明確にしています。医学教授のロバート・ワクター氏は著書で、AIのみによる診療を医療の「エコノミークラス」と表現しました。JAMAの著者らはこの序列づけを実証されていないものとして退け、上記2つの論拠を提示しています。
著者自身が認める限界
論考は自らの弱点も列挙しています。証拠のほぼすべてが実際の診療ではなく単一タスクのシミュレーションから来ていること、人間とモデルの間の情報の受け渡しが弱点であること。手術、分娩、大腸内視鏡といった身体的処置はロボティクスが追いついていないため当面人間の領域に残ります。さらに、自律システムはハルシネーション、通信障害、サイバー攻撃という、医師には起こらない形で失敗します。著者らはこれらのリスクを精度の高さと秤にかける必要があると認めた上で、2030年までに一部、あるいは多くの認知的ワークフローで自律AIが実用水準に達すると見ており、責任（liability）、支払い、規制、医学教育のすべてを今から見直すべきだと主張しています。
💼 事業会社視点：これは自社にどう効くか
日本の事業会社にとって、この論考の実務的な含意は医療業界の外にあります。核心は「AIが人間より明確に優れた領域では、人間のチェックを挟むと精度が下がる」という106実験のメタ分析であり、これは与信審査、不正検知、コードレビュー、契約書チェック、コールセンターの一次応答すべてに当てはまる構造です。
多くの日本企業は「AIは補助、最終判断は人間」を無条件の安全策として社内規程に書き込んでいます。しかしその前提が成立するのは、その業務でその人間がAIより優れている場合だけです。役員が今やるべきは、規程を撤廃することではなく、業務ごとにAIと担当者の精度を実測して比較する仕組みを持つことです。比較データがないまま人間の確認を残すのは、安全対策ではなく判断の先送りです。
SaaS・受託開発の事業者にとっては、監査ログと精度計測を製品機能として組み込むことが差別化になります。「AIの提案を人間が覆した箇所で、その判断は正しかったか」を後から検証できる仕組みは、顧客が自律化の可否を判断する唯一の材料になるからです。逆にECや業務部門は、人間の確認工程をKPIから外し、最終的な結果精度で評価する設計に切り替える必要があります。
ただし、著者2人が当事者として利益を得る立場にある点、証拠がシミュレーション中心である点は割り引くべきです。自社で測ってから決める、という順序は変わりません。