Claude Codeのトークンコスト分析
Anthropicは、Claude Codeのトークンコストモデルを説明するブログ記事を公開し、プレフィル(入力)トークンがデコード(出力)トークンの5倍のコストがかかることを強調した。プロンプトキャッシュはプレフィックス一致ルールに依存しており、コンテキストウィンドウ内のすべてのアイテムは反復処理のたびに数十回再送信されるため、同じバグ修正であってもトークン消費量に大きなばらつきが生じる。この分析は、コンテキストを管理しキャッシュを効率的に活用することで、ユーザーがセッションの価値を最大化できるようにすることを目的としている。
Key insights
プレフィルとデコードの5倍のコスト非対称性が入力最適化の必要性を促す
Claude Codeでは、プレフィルトークンはデコードトークンの5倍のコストがかかる。つまり、入力コンテキストのサイズ、特に冗長または古い情報を削減することで、全体的なコストを大幅に削減できる。ブログでは、ユーザーはコンテキストウィンドウに残る情報に注意を払い、繰り返し処理に対する割増料金を支払うことを避けるべきだと示唆している。
コンテキストの再送がトークン使用量の予期せぬ急増を説明する
ブログでは、コンテキスト内のすべての情報(前回の出力やツール呼び出しを含む)が、会話のターンごとにモデルへ数十回再送信されることを明らかにしている。これにより、累積された履歴によって同じバグ修正でもトークン消費量が大きく異なることが説明される。開発者はコストを管理するために、コンテキストを積極的に削減することが推奨されている。