XNews

NVIDIA、DeepSeek-V4 Proの起動時間をGPU間RDMAで8分から2分未満に短縮

NVIDIA、DeepSeek-V4 Proの起動時間をGPU間RDMAで8分から2分未満に短縮

NVIDIAは、NVIDIA ModelExpress(MX)とNVIDIA Dynamoを活用し、NIXLを介したGPU間RDMAによってDeepSeek-V4 Proモデルの重みを分散配信し、起動時間を8分から2分未満に短縮した。この手法は推論と強化学習後のトレーニングの両方を高速化する。MXはカーネルキャッシュを再利用し、推論ワーカーが他のGPUから直接更新された重みを取得することで、集中型ブロードキャストを回避し、重みの移動をクリティカルパスから外す。

Source posts