XNews

Cursor Router: リクエストレベルでのモデル選択により、品質を損なわずにコストを30~60%削減

Cursor Router: リクエストレベルでのモデル選択により、品質を損なわずにコストを30~60%削減

Cursor社は、リクエストごとに最適なモデルを選択する訓練済み分類器「Cursor Router」を導入した。これにより、最前線の品質を維持しながらコストを30~60%削減する。600,000以上の実リクエストで訓練され、ユーザー満足度を最適化しており、クエリ内容、コンテキスト、タスクの複雑性、ドメインの4つの次元を用いる。ルーターはキャッシュ対応であり、プロンプトキャッシュの無効化コストも考慮する。3つのモードを提供する: インテリジェンスモード(Fableに近い品質で60%安価)、バランスモード(Opus 4.8よりも高い満足度で36%安価)。企業向け早期導入者は、全Opus利用時と比較して30~50%のコスト削減を実現した。評価にはオフライン評価ではなく、オンラインメトリクス(ユーザー満足度、継続利用率)を用いる。動的ツール呼び出しにより、トークンオーバーヘッドをさらに削減する。

Source posts