英伟达Nemotron 3.5闪电版模型发布

英伟达发布了Nemotron 3.5闪电版,这是一款开放权重的混合专家模型,总参数量为300亿,活跃参数量为30亿,支持100万token的上下文长度。该模型提供BF16和更小的NVFP4格式的本地部署选项,可在单个H100 GPU或DGX Spark上运行,同时也支持RTX 5090。官方数据显示,其输出速度最高提升4倍,在PinchBench上准确率达86%,在同等准确率下比Qwen3.6 35B快30%。该模型通过Perplexity Agent API提供,输入token价格为每100万0.0115美元,输出token价格为每100万0.17美元。Perplexity首席执行官阿拉温德·斯里尼瓦斯将其推广为一款美国开放权重MoE模型,可在笔记本电脑和DGX Spark等本地硬件上高效运行,更大的Nemotron Ultra模型也可在Perplexity上使用。
Key insights
Nemotron 3.5闪电版:本地可部署封装中的前沿性能
总参数量300亿、仅30亿活跃参数的设计,使得该模型能够在包括单个H100、DGX Spark和RTX 5090在内的消费级硬件上运行。这一架构在PinchBench上实现了86%的准确率,同时在同等准确率下比Qwen3.6 35B快30%。相较于前代版本,输出速度提升高达4倍,使得实时应用在本地硬件上成为可能。
Perplexity API集成:具有竞争力的定价为开发者提供即时访问
Perplexity Agent API的定价为输入token每100万0.0115美元、输出token每100万0.17美元,这使得Nemotron 3.5闪电版在开发者采用方面具有竞争力。通过Perplexity以及更大的Nemotron Ultra模型提供,形成了升级路径。100万token的上下文窗口支持长文档处理和扩展的智能体交互。