Databricks部署GPT-6 Astra:成本增加60%,复杂任务表现提升

Databricks联合创始人Patrick Wendell分享了在3500名工程师中部署GPT-6 Astra的观察。能力提升集中在复杂任务上,而简单任务未见改善。整体编码支出增加了60%,公司实施了使用Unity Gateway的预算路由系统,根据任务复杂度指导模型选择。

Databricks联合创始人Patrick Wendell分享了在3500名工程师中部署GPT-6 Astra的观察。能力提升集中在复杂任务上,而简单任务未见改善。整体编码支出增加了60%,公司实施了使用Unity Gateway的预算路由系统,根据任务复杂度指导模型选择。