Databricks部署GPT-6 Astra:能力提升集中在困难任务上

Databricks联合创始人Patrick Wendell分享了在公司内部部署GPT-6 Astra的五项观察。主要发现:能力提升集中在复杂任务上,而简单任务已趋于饱和;由于使用量增加,整体编码支出上升了60%;公司实施了基于预算的路由机制,以引导选择合适的模型。

Databricks联合创始人Patrick Wendell分享了在公司内部部署GPT-6 Astra的五项观察。主要发现:能力提升集中在复杂任务上,而简单任务已趋于饱和;由于使用量增加,整体编码支出上升了60%;公司实施了基于预算的路由机制,以引导选择合适的模型。