CoreWeaveがMLPerfでDeepSeek-V3学習2.02分達成

6710億パラメータ級の大規模モデルを、わずか2分で所定の品質まで学習させる——CoreWeaveは2026年6月16日に公開されたMLPerf Training v6.0で、その速度を公式に示しました。

この記事では、CoreWeaveがどのような構成で記録を出したのか、ベンチマークの意味、そしてAIインフラ運用に何が読み取れるかを整理します。

この記事でわかること

• MLPerf Training v6.0で新設されたDeepSeek-V3ベンチマークの内容
• CoreWeaveが8,192基のNVIDIA GB300 NVL72で2.02分を達成した仕組み
• GPU台数を増やしたときのスケーリング効率と、本番環境との関係

MLPerf Training v6.0でMoE学習が標準ベンチに

https://mlcommons.org/2026/05/deepseek-v3-training-v6-0/

MLPerf Trainingは、機械学習の学習性能を業界横断で比較するベンチマーク群です。v6.0（2026年6月16日公開）では、Mixture-of-Experts（MoE）向けの新ベンチマークが2つ追加されました。MoEは、入力トークンごとにルーターが専門のサブネットワーク（エキスパート）へ振り分ける疎な計算アーキテクチャで、全パラメータのうち一部だけを活性化するため、大規模モデルを効率よく扱えます。

そのひとつがDeepSeek-V3 671Bです。総パラメータ数は6710億、1トークンあたりに活性化されるのは370億です。MLCommonsの説明によれば、これは現行スイート最大規模のベンチマークとなり、Multi-head Latent Attention（MLA）や補助損失なしの負荷分散といった、近年の大規模学習で標準化しつつある技術をまとめて測定します。もうひとつはGPT-OSS 20Bで、小規模クラスタでもMoEの性能を評価できる入口として設計されています。

v6.0ラウンドには24組織が参加し、95の異なるシステム構成が提出されました。クラウド経由の提出は半年前のv5.1比で2倍以上に増え、学習インフラの選択肢が広がっていることも示されています。

CoreWeaveが2.02分を記録した構成

https://www.coreweave.com/blog/coreweave-trains-deepseek-v3-in-two-minutes

CoreWeaveはDeepSeek-V3 671Bで、NVIDIA GB300 NVL72を8,192基（2,048ノード）使い、目標品質まで2.02分で到達しました。精度はMXFP8、ノード間のスケールアウト通信にはNVIDIA Spectrum-X Ethernet（RoCE）が使われています。今回のラウンドで提出されたGB300クラスタとしては最大規模です。

Closed/Available-cloudカテゴリでは最速記録となり、同じワークロードでGB300を2,048基を超えてスケールできた提出者はCoreWeaveだけでした。台数を半分にするたびに学習時間がほぼ比例的に短縮しており、スケーリングの実効性が数値で示されています。

CoreWeaveは、顧客が日常利用する本番インフラと同一の環境で計測したと説明しています。ベンチマーク専用の別クラスタや過度なチューニングではない点が、今回の発表で強調されています。Chen Goldberg氏（CoreWeave製品・エンジニアリングEVP）は、「2分でのDeepSeek-V3学習は、ハードウェアからモデルまで積み上げたエンジニアリング投資の成果」とコメントしています。

なぜDeepSeek-V3ベンチがインフラを厳しく見るのか

DeepSeek-V3は、密な行列演算のスループット、MoEのルーティング効率、マルチノード通信、NVLinkやNVL72をまたぐシャーディングを同時に要求します。CoreWeaveの技術ブログは、プラットフォームの弱点があればこのワークロードが露呈すると述べています。

MLCommonsのベンチマーク定義では、グローバルバッチサイズは15,360以上が必須です。実運用の大規模MoE学習に近い条件で比較するためです。収束判定は検証損失3.6を目標とし、MoE特有のトークン偏りを避けるウォームスタート手法も採用されています。

CoreWeave側では、8,192基規模での効率維持に次の要素が効いたと説明しています。

• CoreWeave Mission Control：ファームウェア整合性、GPUクロック、NICやスイッチの健全性をジョブ前後で検証
• SUNK：NVLinkドメインを意識したワークロード配置で、エキスパート並列グループを同一NVL72内に寄せる
• CKS（CoreWeave Kubernetes Service）：大規模学習向けのスケジューリングと配置の標準化
• ネットワーク最適化：RoCEレールの負荷分散とNCCLのHCAマッピング検証

MoEではエキスパート間のall-to-all通信が頻繁に発生するため、わずかな遅延やストラグラー（遅れて処理するノード）がクラスタ全体の効率を下げます。数千基規模ではハードウェア単体の性能より、オーケストレーションとネットワークの一体設計が結果を左右します。

他ワークロードと業界全体の文脈

DeepSeek-V3以外にも、CoreWeaveは複数の提出を行っています。Llama 3.1 405Bでは4,096基のGB300 NVL72で9.77分、v5.0の自社結果比で2.8倍速です。NVIDIAの技術ブログによれば、同規模のGB200 NVL72構成より20%少ないGPUで同等の品質到達時間を示しており、ソフトウェア最適化の寄与が大きいと読み取れます。

小規模クラスタでは、64基のNVIDIA HGX B200でGPT-OSS-20Bを26.98分、Llama 3.1 8Bを16.54分で完了。後者は同一構成の他提出者より9.7%速い結果です。

NVIDIAはv6.0で全7ベンチマークに提出し、プラットフォームとしての網羅性を示しました。AzureはLlama 3.1 405Bを8,192基のGB200 NVL72で7.07分と記録しています。DeepSeek-V3 671Bの最速はCoreWeaveのGB300構成が2.02分で、NVIDIAのエコシステム記事でも言及されています。

調査会社Futurum ResearchのBrendan Burke氏は、ベンチマークと本番の乖離はAIインフラの恒常課題だと指摘し、CoreWeaveの結果はフルスタックの専門性が新ハード到着時に実効性能へつながる例だと評価しています。

AIインフラ選定で押さえるポイント

今回の記録は、GB300世代のラックスケールGPUとEthernetベースのスケールアウトが、フロンティア級MoE学習で実用ラインに乗ったことを示しています。数字だけを見ると「GPUを増やせば速い」ように見えますが、CoreWeaveの提出は台数倍増ごとに時間がほぼ半減しており、通信ボトルネックを抑えた設計が前提です。

クラウドで大規模学習を検討するチームにとって、Closed/Available-cloudカテゴリの最速記録は、契約後に再現しうる性能の目安になります。本番と同一基盤での計測である点は、ベンチマーク数値の解釈において重要な根拠です。

一方で、2.02分はMLPerfが定めた短い学習スライスの到達時間であり、実際のフル事前学習の総時間とは別物です。ベンチマークはハードとソフトの効率を比較する道具であり、研究開発の総コストやモデル品質の最終評価をそのまま置き換えるものではありません。

それでも、6710億パラメータ級のMoEを2分台で所定品質まで持っていけることは、2026年時点のAI学習インフラの到達点を示す指標です。モデルサイズの拡大とMoE採用が進むなか、GPU台数だけでなくネットワーク、オーケストレーション、運用監視まで含めたプラットフォーム比較が、開発速度の差に直結する局面が続くでしょう。