何が論じられたか
AI Snake Oilの論考は、近年のAGI待望論に対し、スケーリング則が示すのは「次単語予測の損失低下」だけであり、ユーザー価値に直結する創発的な能力の伸びを保証するものではないと整理しました。Leopold Aschenbrenner氏が掲げる「2027年AGI」のような見立て(AGI by 2027 is strikingly plausible)に対し、Melanie Mitchell氏、Yann LeCun氏、Gary Marcus氏、Francois Chollet氏、Subbarao Kambhampati氏らが慎重論を展開している構図です。
データの壁とコスト構造
学習データ面では、Llama 3が15兆トークンを使った時点で「容易に入手できる高品質テキスト」はほぼ使い切られたと指摘されています。よく挙げられるYouTubeの1,500億分の動画も、音声として使える部分は限定的で量的ブレイクスルーにはなりません。さらに著作権者が対価を求め始め、レピュテーション・規制コストも上乗せされる構図です。合成データはNvidiaのNemotron 340Bのような取り組みがあるものの、用途は数学・コード・低資源言語・アライメントといった「穴埋め」が中心で、事前学習量を底上げする手段ではありません。
自己対戦は言語に効くか
AlphaGo・AlphaGo Zero・AlphaZeroが成功したのは、囲碁が閉じた環境だったからです。2016年に世界王者を破ったあのアプローチを、翻訳など開いた言語タスクに一般化するのは難しいというのが筆者らの見方です。
「最大モデル＝最強」の終わり
GPT-4oはGPT-4の25%のコスト、Claude 3.5 SonnetはClaude 3 Opusの5分の1のコストで提供され、Gemini 1.5 ProはGemini 1.0 Ultraを上回りました。フロンティア各社の最強モデルはもはや最大モデルではなく、小型モデルを十分に学習させる路線(Llama 3の8Bは初代Llamaの7B比で20倍のFLOPsを投入)に重心が移っています。2000年代のCPUクロック周波数、1976年のSR-71の速度記録以降のジェット機速度のように、ビジネス上の優先順位が変わると性能曲線は平坦化するという歴史の対比も示されました。
💼 事業会社視点：これは自社にどう効くか
「最大モデル待ち」の経営判断はもう古い
日本の事業会社、特にSaaS・EC・受託開発の経営者にとって本質的な示唆は、「次世代の巨大モデルが出れば自社の課題が解ける」という前提のロードマップを書き直す時期に来たという点です。GPT-4o(GPT-4比25%)、Claude 3.5 Sonnet(Opus比1/5)というコスト低下が示すのは、採用の壁が能力からコストへ移ったという現実です。エージェント型ワークフローはトークン消費が桁違いに増えるため、SaaS事業者は「将来のGPT-5待ち」ではなく、現在の小型高性能モデルで単位経済性が成立するUXに作り替えるべきです。
受託開発各社は、顧客に「AGIが来れば全部解決」と説明する提案書を改め、データ整備・評価・ガードレールという地味な領域への投資提案にシフトすべきでしょう。ECは合成データの限界を踏まえ、自社固有の購買・接客ログという「他社が持てない学習資産」の囲い込みが競争力の源泉になります。役員層が今やるべきは、LLMコスト半減を前提とした3年計画の作り直しと、AGI前提の過大な人員投資の見直しです。
