XNews

Databricks部署GPT-6 Astra:成本增加60%,仅在复杂任务上取得成效

Databricks部署GPT-6 Astra:成本增加60%,仅在复杂任务上取得成效

Databricks联合创始人Pat Wendell分享了在全公司部署GPT-6 Astra的五点观察。新模型仅在高度复杂任务(系统设计、长周期工作)上带来明显收益,而整体支出增加了60%。Databricks使用LLM网关,结合队列实验和独立预算,以引导模型路由并控制成本。

Source posts