Databricks提出四大成本杠杆,规模化控制AI编码成本

在令牌费用激增后,Databricks与Stripe、Coinbase、Uber和Ramp共同定义了“效率边界”——即智能与价格比最佳的模型——以平衡广泛的AI访问和每用户成本控制。四大杠杆包括:(1)迁移至经内部评估验证的开源/低成本模型;(2)动态请求/任务路由可在不损失质量的情况下降低成本30%以上;(3)渐进式摩擦(可见性、触发警报、模型降级)而非硬性预算;(4)通过上下文压缩减少令牌开销,令牌量降低约50%。AI网关集中管理模型、成本跟踪和会话日志。Databricks已开源Omnigent和Unity AI网关。