XNews

DeepSeek‑V3.2 引入 DSA 稀疏注意力和高效训练,匹配顶级闭源模型

DeepSeek‑V3.2 引入 DSA 稀疏注意力和高效训练,匹配顶级闭源模型

DeepSeek‑V3.2 引入了一种 DeepSeek 稀疏注意力 (DSA) 机制,将长文本计算从指数级降低到线性,同时保持理解能力。训练过程中使用了专业专家模型、知识蒸馏和大规模强化学习,以转移领域推理。对1800多个虚拟任务的合成模拟提高了工具使用和指令遵循能力。基准测试报告显示其在 IMO/IOI 上表现出色,并与 Gemini‑3.0‑Pro 达到同等水平,在某些任务上超越了 GPT‑5。

Source posts