NVIDIA、GPU RDMAによりDeepSeek-V4 Proの起動時間を8分から2分未満に短縮

NVIDIAは、GPU間RDMAを使用してモデル重みを最速経路でGPUメモリに移動することで、DeepSeek-V4 Proの起動時間を8分から2分未満に短縮したと発表した。これは、NVIDIA Dynamoの重み配布およびキャッシュ管理サービスであるNVIDIA ModelExpress (MX)によって実現された。このアプローチは、推論および強化学習後トレーニングも高速化する。MXはカーネルキャッシュを再利用し、推論ワーカーはNIXLを介して他のGPUから直接更新された重みを取得するため、集中型ブロードキャストを回避し、重みの移動をクリティカルパスから外す。