XNews

DeepSeek‑V3.2がDSAスパースアテンションと効率的なトレーニングを導入し、トップクローズドモデルに匹敵

DeepSeek‑V3.2がDSAスパースアテンションと効率的なトレーニングを導入し、トップクローズドモデルに匹敵

DeepSeek‑V3.2は、理解を維持しながら長文計算を指数から線形に削減するDeepSeekスパースアテンション(DSA)メカニズムを導入しました。トレーニングには専門家モデル、知識蒸留、大規模強化学習を使用してドメイン推論を転送しました。1,800以上の仮想タスクの合成シミュレーションにより、ツールの使用と指示の遵守が改善されました。ベンチマークでは、IMO/IOIのゴールドパフォーマンスとGemini‑3.0‑Proとの同等性が報告され、一部のタスクではGPT‑5を上回る結果を示しました。

Source posts