XNews

Databricks、GPT-6 Astraを導入:コスト60%増、効果は複雑なタスクのみ

Databricks、GPT-6 Astraを導入:コスト60%増、効果は複雑なタスクのみ

Databricksの共同創業者パトリック・ウェンデル氏は、同社全体でのGPT-6 Astra導入に関する5つの観察結果を共有した。モデルの能力向上は高複雑性タスク(システム設計、長期的なタスク)に集中しており、単純なタスクでは改善が見られない。利用増加により、コーディング関連の支出全体は60%増加した。展開には、ゲートウェイベースの実験パイプラインと予算ベースのルーティングを用いてモデル選択を導いた。

Source posts