XNews

Databricks、GPT-6 Astraを導入:コスト60%増、複雑なタスクでのみ効果

Databricks、GPT-6 Astraを導入:コスト60%増、複雑なタスクでのみ効果

Databricksの共同創業者パット・ウェンデル氏は、GPT-6 Astraを全社展開した際の5つの観察結果を共有しました。新しいモデルは、高度に複雑なタスク(システム設計、長期的な作業)でのみ明確な効果を示し、全体的な支出は60%増加しました。Databricksは、LLMゲートウェイを使用し、コホート実験と個別の予算を設定してモデルルーティングを制御し、コストを管理しました。

Source posts