JSONのような構造化出力形式がLLMの応答の多様性を低下させる

44の言語モデルを対象とした研究により、JSONやXMLのような構造化出力形式を要求すると、応答の多様性が大幅に狭まることが明らかになった。 - 「ランダムな単語を言ってください」と尋ねた場合、最も一般的な応答は「serendipity」で、通常の対話では41%の頻度で発生した。 - JSON出力を強制すると、「serendipity」の優位性が64%に上昇した。 - この効果は、構造化出力データに対する事後学習に起因し、モデルを「標準的な回答」に偏らせ、変動性を低下させると考えられる。
Key insights
構造化出力形式はLLMにおける多様性抑制因子として機能する
44モデルにわたる研究は、JSONやXMLの形式要件がモデルを狭い範囲の高確率トークンへと誘導することを示している。ランダム単語タスクでは、JSONを使用した場合、トップの回答「serendipity」のシェアが41%から64%に跳ね上がった。これは、構造化出力のためのファインチューニングが収束バイアスをもたらし、生成的多様性を損なうことを示唆しており、創造的またはブレインストーミング用途において重要な考慮事項である。