谷歌DeepMind研究所(DMI)成立

谷歌DeepMind宣布成立DeepMind研究所(DMI),这是一个由Shane Legg、Demis Hassabis和James Manyika共同创立的跨学科出版平台。DMI旨在探索随着通用人工智能(AGI)到来而产生的关键问题,同时关注其文明层面的益处以及网络安全和生物安全等风险。
Key insights
DMI的成立与宗旨
DeepMind研究所(DMI)由Shane Legg(首席AGI科学家,担任主编)、Demis Hassabis(诺贝尔奖得主、Alphabet首席科学家)和James Manyika(研究、技术与协会主席)共同创立。它被描述为一个跨学科的思想出版平台,旨在深入思考'AGI世界',既不代表谷歌官方立场,也非纯粹的技术俱乐部。
AGI的临近与影响
该研究所的成立源于AGI的即将到来,AGI被定义为展现出人脑全部认知能力的系统。尽管当前AI在基本任务上仍会失败,但创始人认为这些差距将很快被填补。他们主张AGI可能成为加速科学突破的终极工具,并以AlphaFold为例,指出它可能带来疾病治愈、清洁能源和普遍繁荣。
风险与跨学科研究的必要性
该公告明确将网络安全、生物风险以及自我改进系统的失控列为严重威胁。它指出当前窗口期至关重要,以确保收益大于风险。正如Hassabis在一篇帖子中所言,DMI旨在引发必要的讨论,以便正确推进后续步骤。