何が起きたか

DeepSeekは週末に投機的デコーディング基盤「DSpark」を公開しました。技術論文、モデルチェックポイント、訓練・評価用コードベース「DeepSpec」がGitHubとHugging Faceで配布され、ライセンスはMIT。同じLLMの出力結果を維持したまま、応答速度を引き上げることが目的です。

仕組みは、小さなドラフトモデルが次の数トークンを予想し、本体モデルが並列で正誤を検証する形。受理されればまとめて確定、棄却分のみ再生成します。DSparkはこの「ドラフト→検証」を半自己回帰化し、並列バックボーンに軽量な逐次ヘッドを足して近接トークンの整合性を保つ設計を取り入れました。さらにハードウェア状況とモデルの確信度に応じて検証長を動的に調整する「信頼度スケジューリング」を備え、トラフィックが軽ければ長く検証し、混雑時には信頼度の低い末尾を切り捨てて処理容量を確保します。

数字で見るインパクト

DeepSeek-V4-Flash(284B/アクティブ13B)では80トークン/秒/ユーザーの条件で総スループットを51%、120トークン/秒/ユーザーでは661%改善。V4-Pro(1.6T/アクティブ49B)でも35トークン/秒/ユーザーで52%、50トークン/秒/ユーザーで406%増となりました。ユーザー単位ではMTP-1比でV4-Flashが60〜85%、V4-Proが57〜78%の高速化です。コンテキスト窓はいずれも最大100万トークン。

DeepSeek専用ではない

適用対象はV4系に閉じておらず、Qwen3-4B/8B/14BやGemma4-12Bでの検証データとチェックポイントも公開されています。Eagle3比で受理長が約27〜31%、DFlash比で16〜18%伸び、特に数学・コーディングといった構造的タスクで受理長が長くなる傾向が報告されました。チャット用途より、コーディング支援、データ分析エージェント、定型ワークフロー自動化と相性が良いことを示唆します。

投機的デコーディングの系譜

2018年のblockwise parallel decoding、2022年のSpecDecと『Fast Inference from Transformers via Speculative Decoding』、2023年のDeepMindによるspeculative samplingを源流に、EAGLE、Medusa、自己投機、DFlashなど派生が続いてきました。DSparkはこの蓄積に「半自己回帰+負荷適応」を組み合わせ、実運用の遅延SLA下での性能を前面に出した点が新しさです。米政府がAnthropicやOpenAIの新モデルに制約を加える地政学的緊張の中で、推論効率の開示で攻める中国勢の姿勢も浮かび上がります。

💼 事業会社視点:これは自社にどう効くか

自社運用するなら、まず推論コストの再設計を

注目すべきはAPI利用側ではなく、オープンウェイトを自社GPUで回している企業です。DSparkはMITライセンスでドラフトモジュールを自モデル向けに訓練・微調整できるため、SaaSベンダーやAIエージェントを内製する事業会社にとっては、同じGPU資源で処理可能なリクエスト数を数倍に引き上げる現実的な選択肢になります。特に120トークン/秒級の厳しいSLAを敷くプロダクトでは、追加GPU調達ではなくDSpark導入で吸収する判断が経営合理性を持ちます。

一方、ChatGPTやClaudeのAPIを外から使うだけの事業会社は自分の判断ではONにできない点に注意が必要です。コストインパクトはベンダーのロードマップ次第となるため、調達担当はAPI側の対応計画を確認する局面です。

コーディング支援、BPO置換、データ抽出など構造的タスクで受理長が伸びる特性は、国内の受託開発・SIerやBtoB SaaSにとって追い風です。逆に対話UI中心のtoCサービスでは効きが鈍く、用途別に投資配分を見直す視点が要ります。OpenAI依存のリスクヘッジとして、Qwen/Gemma+DSparkの自社運用ラインを並行検証する企業は、来期予算で動き始めるべきフェーズに入りました。

関連リンク