Databricks部署GPT-6 Astra:成本增加60%,仅在复杂任务上获得收益

Databricks联合创始人Patrick Wendell分享了在公司内部部署GPT-6 Astra的五点观察。模型能力提升集中在高复杂度任务上(系统设计、长期规划任务),而简单任务未见改进。由于使用量增加,总体编码支出上升了60%。此次部署采用了基于网关的实验管道,并通过基于预算的路由来指导模型选择。

Databricks联合创始人Patrick Wendell分享了在公司内部部署GPT-6 Astra的五点观察。模型能力提升集中在高复杂度任务上(系统设计、长期规划任务),而简单任务未见改进。由于使用量增加,总体编码支出上升了60%。此次部署采用了基于网关的实验管道,并通过基于预算的路由来指导模型选择。