XNews

OpenAI、思考過程のモニタビリティに関する詳細な評価と13の手法フレームワークを発表

OpenAI、思考過程のモニタビリティに関する詳細な評価と13の手法フレームワークを発表

OpenAIは、思考過程(CoT)のモニタビリティ、つまり観察者が内部の推論を通じてモデルの意図をどれだけ正確に判断できるかを評価し、13の手法による評価フレームワークを提案しました。調査結果によると、長い内部推論はモニタビリティを向上させる傾向があり、‘モニタビリティ税’は長い推論を持つ小型モデルを有利にします。また、現在の強化学習(RL)はモニタビリティを低下させず、フォローアップのプロービングは透明性を向上させることが示されました。

Source posts