XNews

DeepMind / Demis Hassabis:达沃斯采访及安全提案

DeepMind / Demis Hassabis:达沃斯采访及安全提案

Demis Hassabis在达沃斯接受采访并提出安全检查规则。- Hassabis估计到2030年实现AGI的概率约为50%,这是基于他更高标准的定义。- 他提议成立一个由美国主导的“前沿实验室”检查机构:实验室必须在发布前30天自愿提交前沿模型,以进行安全和安全的“物理和网络”检查。- 推荐的测试包括生物安全、网络安全、欺骗风险和人类可解释的推理痕迹;AI生成的图像应带有数字水印。- Hassabis表示,AI加速的变化速度和规模可能是工业革命的约10倍;他描述了近年来每周100小时的工作周。- 他详细介绍了Gemini 3的成功、机器人集成(波士顿动力+现代),并预测在18到24个月内将实现机器人突破,能够稳健地执行有用的物理任务。- Hassabis支持继续研究,同时呼吁国际合作(“AI CERN”概念),并表示暂停开发需要全球协调。- 他拒绝了“变压器已死”的说法,认为变压器仍然是核心,尽管可能需要其他创新,并强调持续学习和系统一致性差距。

Key insights

Hassabis呼吁对前沿模型进行预发布检查

Demis Hassabis提议将'前沿' AI模型在公开发布前30天自愿提交给独立检查机构,以进行网络安全、生物安全和行为检查。他建议该机构评估欺骗风险,要求生成媒体上加上数字水印,并强制要求模型推理的可解释符号痕迹。他将该机制定位为美国主导,但强调国际协调对于有效性是必要的。

Hassabis在严格定义下估计2030年实现AGI

Hassabis重申了一个时间表,认为到2030年实现AGI的概率约为50%,这是基于他更高的标准——一个表现出全人类认知能力范围的代理。他强调他的标准比一些同行的更严格,提到缺失的能力如持续在线学习和科学假设生成,并表示当前系统尚未达到该水平。

DeepMind追求规模化与新研究方向

Hassabis认为DeepMind和谷歌将深度研究与产品部署相结合:以Gemini 3、Imagen和Genie为例。他不同意变压器是死胡同的说法,指出变压器仍将是核心,尽管可能需要额外的突破(例如,世界模型、持续学习)。他将DeepMind框架为在加速产品节奏的同时保持长期研究投资。

机器人进展:预计18到24个月内实现物理突破

Hassabis描述了Gemini机器人与波士顿动力Atlas的集成,指出机器人技术已接近关键点,但仍需18到24个月的工作才能达到稳健、可部署的实用性。他强调了算法稳定性和硬件(机械手)挑战,并指出从模拟到真实数据、运动转移和视觉-语言-动作模型是关键推动因素。

经济与社会影响:快速、大规模的转型

Hassabis比较了AI的颠覆速度和规模,认为其比工业革命快一个数量级,提出了对就业、分配和社会意义的担忧。他建议年轻人要“学会学习”,并建议领导者选择与负责任的AI发展相一致的合作伙伴。他还讨论了在后稀缺时代需要新的哲学思考关于意义的问题。

全球合作与'AI CERN'理想

Hassabis倡导一种科学的、多国的方式——一个'AI CERN'——以协调朝向AGI的最后阶段,涉及科学家、哲学家、经济学家和伦理学家。他承认目前的国际合作困难,但强调如果风险如所建议的那样高,共享安全和安全协议是必不可少的。

Source posts