AGI 时间线与智能体评估方法
专家讨论了 AGI 概率时间线、所需能力和多步骤评估方法。
Key insights
肖恩·莱格预测 2028 年实现最小 AGI 的概率为 50%
DeepMind 的肖恩·莱格估计到 2028 年实现最小 AGI 的概率为 50%,将 AGI 定义为能够执行典型人类认知任务的人工智能体。他指出在持续学习、某些视觉推理能力和具身互动方面仍存在差距,并建议将对抗性测试和基准测试套件作为补充评估方法。
两种互补的 AGI 评估策略:基准测试与对抗性测试
一种建议区分基准测试套件与由人类主导的对抗性红队风格评估,这些评估持续数月以发现认知缺陷;在两者中取得成功将表明对 AGI 更强的主张。讨论还强调了超越原始计算能力的改进:架构、持续学习、情节记忆和具身性是必要的。
结构化智能体评估蓝图强调专家评分与比较建模
提出的多步骤智能体评估方法包括:(1)专家制定的评分标准和人类专家对案例数据集的标注;(2)运行多个模型以获得基于模型的评分;(3)智能体的面对面比较评分;(4)专家用户评分(外部领域专家)以验证结果。该框架警告不要依赖非专家的公众评分进行技术评估。
安全性与验证在 AGI 进展中仍然是核心问题
讨论强调在智能体决策过程中将伦理问题转化为明确的推理步骤,并在能力扩展时将安全性视为必要条件。具身性和持续学习被认为是实现更扎实、通用智能的关键能力。