LLMの応答速度は、モデルそのものを変えずに改善できる余地がまだ大きい。

2026年6月末、DeepSeekは推論高速化フレームワーク「DSpark」と学習用コードベース「DeepSpec」をMITライセンスで公開しました。本番環境での検証では、DeepSeek-V4-Flashのユーザー向け生成速度が従来手法MTP-1比で60〜85%向上しています。論文・チェックポイント・実装コードが揃ったリリースで、オープンウェイトモデルの運用コストを下げる実装指針になります。

この記事でわかること

  • DSparkが何を変え、どの程度速くなるか
  • 半自己回帰生成と信頼度スケジュール検証の仕組み
  • DeepSpecでの導入手順とハードウェア要件
  • Qwen3・Gemmaなど他モデルへの応用範囲

https://github.com/deepseek-ai/DeepSpec

DSparkとは何が変わったか

DSparkは新しい基盤モデルではありません。既存チェックポイントに推測デコード（speculative decoding）用のドラフトモジュールを付け足す仕組みです。Hugging Faceのモデルカードでも、DeepSeek-V4-Pro-DSparkは「同じチェックポイントに推測デコードモジュールを追加したもの」と明記されています。

推測デコードとは、大規模なターゲットモデルが1トークンずつ生成する代わりに、軽量なドラフトが複数トークンを先読みし、ターゲットがまとめて検証する手法です。出力の分布を変えずにレイテンシを下げる点が特徴で、vLLMやSGLangなどの推論エンジンでも一般的に使われています。

今回の公開物は次の3点がセットです。

  • 技術論文（DSparkの手法説明）
  • 学習・評価コードベース DeepSpec（GitHub）
  • DeepSeek-V4やQwen3、Gemma向けの事前学習済みチェックポイント（Hugging Face）

いずれもMITライセンスで、商用利用も可能です。

本番環境で報告された速度向上

DeepSeekは自社の本番サービスでDSparkを検証しています。対象は次の2モデルです。

  • DeepSeek-V4-Flash — 総パラメータ2840億、活性化130億のMoE（Mixture-of-Experts）モデル
  • DeepSeek-V4-Pro — 総パラメータ1.6兆、活性化490億のMoEモデル

いずれもコンテキスト長100万トークンに対応します。

実運用での主な数値は次のとおりです（VentureBeatがDeepSeekの論文・発表を引用）。

指標 V4-Flash V4-Pro
集約スループット向上（サービス目標値下） 51%（80 tok/s/ユーザー目標） 52%（35 tok/s/ユーザー目標）
ユーザー向け生成速度向上（MTP-1比・同容量） 60〜85% 57〜78%

60〜85%は「同じシステム容量で、1ユーザーがトークンを受け取る速さがどれだけ上がったか」を示す指標です。一方、厳しい速度目標（Flashで120 tok/s/ユーザー、Proで50 tok/s/ユーザー）では、旧MTP-1が同時リクエストをほとんど捌けなくなる一方、DSparkは661%（Flash）・406%（Pro）の集約スループット向上を報告しています。後者は旧方式がすでにボトルネックに入った状態での比較であり、体感速度の60〜85%とは測定条件が異なります。

開発者Rafael Caricio氏の単一ストリーム検証では、ウォームアップ後のDeepSeek-V4-Flashで推測デコードなし26.33 tok/s、MTP-1で39.88 tok/s、DSparkで約60 tok/s（MTP-1比1.5倍、非推測比2.3倍）という結果がGitHub上で報告されています（参考）。

仕組み：半自己回帰生成と信頼度スケジュール検証

DSparkの核心は、ドラフトの質と検証コストの両方を下げる2つの工夫です。

半自己回帰生成（semi-autoregressive generation） は、ドラフト生成の速度と一貫性のバランスを取ります。完全並列のドラフトは速い一方、後続トークンの文脈整合が崩れやすくなります。純粋な逐次ドラフトは整合性は高いが速度利得が小さい。DSparkは並列バックボーンで大部分を生成し、軽量な逐次ヘッドで近傍トークンの関係を補正します。論文では「of course」と「no problem」のような語尾の取り違えを、逐次成分が抑える例が示されています。

信頼度スケジュール検証（confidence-scheduled verification） は、検証するドラフト長を固定せず、モデルの信頼度と現在のサーバー負荷に応じて変えます。負荷が低いときは長いプレフィックスを検証し、高負荷時は採用見込みの低い末尾を切り捨ててバッチ容量を他ユーザーに回します。静的な複数トークン検証が高並行時にスループットを落とす問題への対策です。

DeepSpecで他モデルにも使えるか

DSparkはDeepSeek-V4専用のスイッチではありません。DeepSpecのREADMEによると、学習パイプラインはQwen3とGemmaファミリーをサポートし、DSpark・DFlash・Eagle3の3アルゴリズムを同じ枠組みで比較できます。

オフライン評価では、Qwen3-4B/8B/14BとGemma4-12Bを対象に、1ラウンドあたりの採用トークン長（accepted length）を測定しています。Qwen3各サイズでEagle3比マクロ平均+30.9%/+26.7%/+30.0%、DFlash比+16.3%/+18.4%/+18.3%の改善が報告されています。数学・コーディングなど構造化タスクではチャットより採用長が長く、コーディングアシスタントやエージェント用途との相性が高い傾向です。

ただし、他社モデルへそのまま載せ替えることはできません。ドラフトはターゲットモデルが採用しやすい出力分布を学習する必要があり、DeepSeek-V4用モジュールを別モデルに付けるだけでは効果は出ません。自社でウェイトをホストしているチームは、DeepSpecでデータ準備→ターゲットキャッシュ構築→ドラフト学習→ベンチマーク評価、という流れで独自モジュールを訓練します。

導入時の要件と注意点

DeepSpecの公式READMEが示す現実的なハードルは次のとおりです。

  • GPU — デフォルト設定は8 GPU搭載の単一ノードを想定（CUDA_VISIBLE_DEVICESで削減可能）
  • ストレージ — デフォルトのQwen3-4B向けターゲットキャッシュは約38TB
  • 評価ベンチマーク — gsm8k、math500、humaneval、livecodebench、mt-benchなど9種

データ準備では推論エンジンでターゲットモデルの回答を再生成する必要があり、AIラボやクラウドインフラチーム向けの規模感です。一方、Hugging Faceに公開されたチェックポイントを使えば、推論側の組み込みから試す道もあります。

実装面の限界も押さえておく必要があります。Caricio氏の検証では、マルチターンのコーディングセッションではコンテキストが伸びるほどドラフト採用率が下がり、速度利得が縮むケースが報告されています。DSparkは魔法の高速化ではなく、次トークンの予測可能性とドラフトの整合性に依存します。

MTP-1やEagle3との位置づけ

DeepSeekの従来本番ベースラインはMTP-1（マルチトークン予測系の手法）です。DSparkはこれを置き換える方向で設計され、ユーザー体感速度と高負荷時のスループットの両面で改善を報告しています。

研究系の比較対象としては、並列ドラフトのDFlashと自己回帰ドラフトのEagle3が挙げられます。DeepSpecリポジトリでは3方式を同じデータ・評価パイプラインで訓練・比較できるため、自社ワークロードに最適なドラフト方式を選ぶ土台にもなります。

推論効率は、モデルサイズ競争と並ぶ次の主戦場です。DSparkの意義は、本番検証済みの手法を論文・コード・チェックポイント一式で出した点にあります。特にオープンウェイトを自前ホストする企業にとって、既存モデルのままレイテンシとコストを下げる選択肢が増えました。