#Ray

テクノロジー

GKEのRay Serve LLMがスループット5倍・遅延8分の1

LLMの本番推論では、開発しやすさとスループットの両立が長年…

オープンソース

AIインフラ学習を一本化するGitHub学習マップ

AIインフラは、論文・ブログ・動画・OSSが同時に増え、ブラ…