XNews

Databricks、GPT-6 Astraは困難なタスクのみで性能向上、コストは60%増、予算ルーティングを採用

Databricks、GPT-6 Astraは困難なタスクのみで性能向上、コストは60%増、予算ルーティングを採用

Databricksの共同創業者Patrick Wendell氏は、GPT-6 Astraを社内展開した際の5つの観察結果を共有した。能力向上は複雑なタスクに集中しており、単純なタスクはすでに飽和状態だった。全体的なコーディング支出は使用量増加により60%増加した。Databricksは、実験的な展開のためにUnity Gatewayを使用し、キューを分割し、独立したサブ予算を設定することで、エンジニアを費用対効果の高いモデル選択へと導いた。

Source posts