NVIDIA Nemotron 3.5 Lightning モデルリリース

NVIDIAはNemotron 3.5 Lightningをリリースしました。これは、オープンウェイトのMixture of Expertsモデルで、総パラメータ数300億、アクティブパラメータ数30億、100万トークンのコンテキスト長をサポートします。このモデルは、BF16およびより小型のNVFP4フォーマットでのローカルデプロイオプションを提供し、単一のH100 GPUまたはDGX Spark上で動作し、RTX 5090もサポートされます。公式発表によると、出力速度は最大4倍高速で、PinchBenchの精度は86%であり、同等の精度でQwen3.6 35Bより30%高速です。このモデルはPerplexity Agent APIを通じて利用可能で、入力トークン100万あたり0.0115ドル、出力トークン100万あたり0.17ドルです。PerplexityのCEO Aravind Srinivasは、これをアメリカ製のオープンウェイトMoEモデルとして宣伝しており、ノートパソコンやDGX Sparkなどのローカルハードウェアで効率的に動作し、より大規模なNemotron UltraもPerplexityで利用可能です。
Key insights
Nemotron 3.5 Lightning、ローカルデプロイ可能なパッケージで最先端のパフォーマンスを実現
総パラメータ数300億のうちアクティブパラメータがわずか30億であるため、このモデルは単一のH100、DGX Spark、RTX 5090を含むコンシューマーグレードのハードウェア上で動作可能です。このアーキテクチャは、PinchBenchで86%の精度を達成し、同等の精度でQwen3.6 35Bより30%高速です。前バージョンと比較して最大4倍の出力速度向上により、ローカルハードウェア上でのリアルタイムアプリケーションが実現可能になります。
Perplexity API統合により、競争力のある価格で即時の開発者アクセスを提供
Perplexity Agent APIの価格は、入力トークン100万あたり0.0115ドル、出力トークン100万あたり0.17ドルであり、Nemotron 3.5 Lightningは開発者にとって競争力のある選択肢となっています。Perplexityを通じて、より大規模なNemotron Ultraモデルとともに利用可能であるため、アップグレードパスが提供されます。100万トークンのコンテキストウィンドウは、長文書処理や拡張されたエージェントインタラクションをサポートします。