Databricks部署GPT-6 Astra:成本与能力的观察

Databricks联合创始人Patrick Wendell在向全体员工部署GPT-6 Astra后分享了观察结果。能力提升主要集中在高复杂度任务上,而整体编码支出增加了60%。该公司采用基于网关的逐步部署和预算路由策略,将合适的任务引导至合适的模型。
Key insights
GPT-6 Astra的能力提升集中在复杂任务上
Astra在高复杂度任务(如系统设计和长期规划任务)上明显超越之前的旗舰模型(Opus 5、Sol 5.6),但在中低复杂度任务上未显示出明显改进。作者提出“饱和假设”,认为简单任务已接近完美执行。
部署Astra后整体编码支出增加了60%
使用Astra的工程师的整体编码支出增加了约60%。这不是生产率提升,而是成本方面的观察,很可能是由于更好的模型鼓励更多使用和更长的智能体任务。Databricks将之视为治理信号,而非值得庆祝的指标。
基于网关的逐步部署与队列实验实现可控部署
Databricks使用Unity Gateway进行群体实验:先进行200人试点以收集质量和成本信号,随后扩展至3500人。该网关作为统一基础设施,用于模型评估、金丝雀发布和预算管理。新模型像特性标志一样以实验方式引入。
预算路由经济地引导模型选择
Astra被分配了单独的子预算,以鼓励工程师将其用于复杂任务,而日常任务则使用更便宜的模型。工程师在总预算内保留混合使用工具的自由,预算可调整。这使模型路由从技术问题转变为组织资源分配问题。