XNews

解説:『承認報酬』とAI整合性論争における心理的ギャップ

この記事では、『承認報酬』を通じて整合性論争を説明しています。人間は社会的認識を内面化し、メタ嗜好を形成し、典型的な報酬最大化AIには欠けている自己評価の層を生み出します。人間とAIの動機付けアーキテクチャの間の六つの対比(目標の変化、層状の欲望、社会的フィードバック、規範への適合、長期的な隠れた計画への疑念、他者に対する手段性)を詳述し、承認に類似したメカニズムの実装が整合性の課題において中心的であると主張しています。

Source posts