XNews

マークダウン変換によるトークン節約が情報損失を引き起こす

画像やグラフを含むPDFをマークダウン+画像に変換してトークンを節約する試みは逆効果です。マルチモーダルモデルはページ全体を参照することで恩恵を受けるため、ビジュアル要素を分離するとコンテキストが損なわれます。エージェントのトークンコストは、入力サイズではなくスキルやツール呼び出しの繰り返しによって決まり、プロンプトキャッシングにより入力トークンの差は無視できるものになります。

Source posts