OpenAI首代推理芯片发布

OpenAI宣布推出其首代推理芯片,这是一款专为大语言模型推理从头设计的定制ASIC。该芯片自2024年中开始设计并流片,历时16个月。它是一款通用推理芯片,已在包括DeepSeek R1和Kimi 2.5在内的模型上进行了测试,甚至能够运行游戏《毁灭战士》。该芯片以极致能效为设计目标,每瓦吞吐量超越了Nvidia的Blackwell乃至基于HBM4的Rubin。性能指标包括:DeepSeek R1每用户超过700 token/s,GPT OSS超过1400 token/s,Kimi 2.5每用户近700 token/s。OpenAI未发布的Astra AI模型参与了芯片设计。芯片团队使用Codex和GPT Astro在两个月内将三款开源模型优化至峰值性能,其中AI生成的模块运行速度比人类专家编写的模块快1.5至1.8倍。目前该芯片为工程样品,预计2027年启动量产,大部分产能将于明年年底前部署。OpenAI的下一个目标是实现100MW部署规模,从今年年底起在其自有基础设施中率先应用。
Key insights
AI竞争转向成本与供应链整合
AI领域已进入新阶段,竞争不仅限于模型能力,还扩展到成本效率和全供应链整合。OpenAI的定制芯片是一项战略举措,旨在掌控自身硬件命运,直接挑战Nvidia的主导地位。该芯片的设计专门针对现代数据中心的核心瓶颈:电力,而非预算或空间。
AI辅助芯片设计加速开发进程
OpenAI未发布的Astra AI模型深度参与了芯片设计,这可能解释了其极高的能效和仅16个月的短开发周期。芯片团队使用Codex和GPT Astro在短短两个月内将三款开源模型优化至峰值性能。AI生成的模块比人类专家编写的模块快1.5至1.8倍。这形成了一个讽刺的局面:运行在Nvidia GPU上的OpenAI模型,正在帮助设计旨在打破Nvidia CUDA护城河的芯片。