谷歌DeepMind成立DeepMind研究所

谷歌DeepMind宣布成立DeepMind研究所(DMI),这是一个跨学科平台,旨在发布和讨论如何构建、治理和使用日益强大的人工智能。该研究所由Shane Legg、Demis Hassabis和James Manyika共同创立,首批四篇文章涵盖推理透明度、经济政策和人类福祉等主题。
Key insights
DMI是一个跨学科出版平台,并非谷歌官方立场
DeepMind研究所被描述为DeepMind、谷歌及全球研究社区的一个跨学科思想出版平台,用于发布关于“AGI世界”的深度思考。它明确不是谷歌的官方立场,也不是纯粹的技术俱乐部。Shane Legg担任主编,Demis Hassabis和James Manyika为联合创始人。
AGI被定义为人类级认知系统,预计很快实现
DMI将AGI定义为展现人脑全部认知能力的系统。该研究所指出,当前AI在基本任务上仍存在不足,缺乏一致性和真正的创造力,但判断这些差距将很快被填补。成立该平台的理由是AGI正在逼近。
AGI承诺带来文明级益处,但也伴随严重风险
该研究所将AGI视为“加速科学突破的终极工具”,并以AlphaFold为例。潜在益处包括治愈疾病、清洁能源和普遍繁荣。然而,风险也被明确列出:网络安全、生物威胁以及失控的自我改进系统的可能性。当前时期被描述为确保收益大于风险的关键窗口。
首批四篇文章聚焦推理透明度、经济和福祉
首批出版物包括四篇文章。主题涵盖推理透明度(如何使AI推理可解释)、经济政策(AGI对劳动力和市场的影响)以及人类福祉(确保AGI符合社会价值观)。这些旨在激发跨学科讨论。