XNews

イリヤ・サツケバー:スケーリング時代の終焉、研究時代の始まり — 一般化と安全性が核心

イリヤの長いインタビューでは、スケーリング時代(2020–2025)が終わり、貧弱な一般化を克服するためには研究主導の革新が必要であると主張しています。彼は報酬ハッキングを批判し、人間のような価値関数の重要性を強調し、AGIを完成品ではなく学習エージェントとして再定義し、段階的な展開を支持し、安全性を能力開発と整合性の選択に結びつけています。

Source posts