METR与OpenAI同意对最大规模强化学习运行进行有限对齐评估
METR宣布与OpenAI达成协议,将进行一项有限的对齐评估。该试点项目将调查OpenAI最大规模强化学习运行的对齐特性。METR将发布一份或多份报告,分享其发现并透明地描述其过程。
事件版本 1.
Key insights
达成有限对齐评估协议
METR与OpenAI达成协议,将进行一项有限的对齐评估。该试点项目重点调查OpenAI最大规模强化学习运行的对齐特性。
将发布报告
METR将发布一份或多份报告,分享其发现。报告将透明地描述评估过程。