何が起きたか
Financial Timesは、ByteDanceが最大10兆パラメータのAIモデルを訓練していると報じました。関係者3人によれば、モデルは現在プレトレーニング(事前学習)の段階にあり、この工程には通常3〜6か月かかります。規模はMoonshotの「Kimi K3」の3倍で、実現すれば中国最大となります。
創業者の張一鳴(Zhang Yiming)氏は、2,000人規模の「Seed」チームに対し、長期的に世界最高水準のモデル能力を目指すよう社内で伝えたとされています。
なぜ重要か:数字そのものより「自力で作った」ことの意味
パラメータ数はモデルが蓄えられる情報量を左右しますが、性能はデータの質と訓練手法にも大きく依存します。つまり「10兆」は性能の保証ではありません。
このニュースで注目すべきは、むしろもう一つの事実です。関係者の1人によると、ByteDanceは1年以上にわたり蒸留(他社モデルの出力を使って学習する手法)を避けてきました。中国勢のモデルは「他社の出力を模倣しているのではないか」という疑いを向けられがちですが、蒸留を使わずに最前線の規模へ到達しようとしているのなら、それは他社に追随する能力ではなく、独立してフロンティアを作る能力を持ちつつあることを意味します。上限が他社モデルの性能に縛られない、という点が決定的です。
巨大化はByteDanceだけの話ではない
イーロン・マスク氏によれば、xAIもColossus 2クラスタで6兆・10兆パラメータのGrok派生モデルを訓練中です。米中の複数陣営が同時に「兆パラメータ級」へ動いている構図で、Anthropicは自社の数値を公表していないものの、業界推定ではMythos 5が約8兆パラメータとされます。
ここから読み取れるのは、モデル開発の競争軸が「アルゴリズムの巧拙」から「どれだけの計算資源を継続的に投入し続けられるか」へ、再び傾いているということです。プレトレーニングに3〜6か月かかるということは、投資判断から結果が出るまでのサイクルがそれだけ長いということでもあります。今この段階にあるモデルの成否は、年内から来年にかけての勢力図に直結します。
💼 事業会社視点:これは自社にどう効くか
日本の事業会社にとって、この報道の実務的な含意は「モデル選定を固定資産のように扱わない」ことに尽きます。Kimi K3の3倍規模、Mythos 5と同水準という数字が示すのは、上位モデルの性能順位が半年単位で入れ替わり続ける市場だという事実です。
ECや業務SaaSでLLMを組み込む企業は、特定モデルのAPIに業務ロジックを密結合させないこと。プロンプト・評価データセット・出力検証を自社資産として切り出し、モデルを差し替えても事業が止まらない構造にしておくことが、いま最も費用対効果の高い投資です。ByteDanceやxAIが兆パラメータ級を投入すれば、同等品質の単価は下がる可能性が高く、その恩恵を受けられるのは乗り換えコストを低く保った企業だけです。
受託開発・SIerは逆の論点を抱えます。TikTok親会社という出自から、中国系モデルの採用は金融・公共・製造の顧客で調達要件に引っかかります。提案段階で「モデル差し替え可能なアーキテクチャ」を標準仕様として示せるかが、案件の獲得条件になります。
自社での大規模モデル開発を検討する経営層には、2,000人のSeedチームと3〜6か月のプレトレーニングという数字が現実的な基準線です。この土俵で戦うのではなく、自社データと業務知識を活かす層に資源を集中するのが合理的な判断です。