XNews

解説:『承認報酬』の概念が悲観主義者と楽観主義者のAI整合性に関する対立を明確にする

この記事では『承認報酬』という人間の心理的メカニズムを紹介します。これは、想像上の社会的承認が行動を促すものであり、AIの安全性に関する核心的な対立を説明するために用いられています。悲観主義者は、将来のAIが承認報酬を欠き、妥協のない目標最適化者として行動することを恐れています。一方、楽観主義者は、現在のモデルにおける人間のような模倣を指摘しています。この記事では、目標の安定性、階層的欲求、協力、規範、修正可能性、AIに承認に似た動機を与えることができるかどうかに関する6つの含意を概説しています。

Source posts