#DFlash

テクノロジー

DFlashで122B推論が1000tok/s超 品質劣化なし

推論のボトルネックは、計算よりも重みの読み込みにあります。 …

オープンソース

LLM推論を最大8.5倍高速化するDFlash — 品質劣化なし

LLMの推論速度を上げるために、モデルの差し替えや量子化を試…

テクノロジー

DFlash解説—LLM推論速度を3倍にするブロック拡散の仕組み

AIの推論速度は、サービスのコストと応答性を左右します。これ…