领先实验室的AI安全与安保措施

Anthropic发布了一则内部安全专员职位招聘信息,该职位负责监控员工异常行为、调查内部威胁、进行敏感访谈,并与法务、人力资源、IT及安全团队协调。任职要求包括具备AI/ML行业知识以及针对国家级威胁的反间谍经验。薪资范围为24.5万至30.5万美元,并提供签证赞助。此外,DeepMind首席执行官戴密斯·哈萨比斯提议,前沿AI模型在进入美国市场前,须由专门机构进行为期30天的强制性预发布安全评估。评估内容涵盖网络安全风险、生物武器威胁、AI欺骗性检测,并要求配备数字水印和人类可解读的推理轨迹。未通过评估的模型将被禁止在美国部署。若风险程度较高,该框架可升级为协调放缓或暂停开发。哈萨比斯将通用人工智能(AGI)的影响比作火与电的发现,称其速度和规模可能达到工业革命的10倍。
Key insights
内部威胁成为AI实验室新兴关注点
Anthropic设立的专门内部威胁岗位,包含反间谍要求及高达30.5万美元的薪资,表明保护模型权重和研究不受内部人员影响,正成为与外部网络安全同等重要的优先事项。
预发布安全评估被提议作为市场准入要求
哈萨比斯的提议将模型部署权与通过标准化安全评估挂钩,为所有前沿实验室设置了监管门槛。30天的预发布窗口和升级机制表明,这是一个结构化、可强制执行的框架,而非自愿性指南。
安全评估范围涵盖欺骗性与可解释性
拟议的测试包括检查AI欺骗性行为,并要求提供人类可解读的推理轨迹,这超越了传统的网络安全和生物武器关注范畴,直接针对对齐与透明性问题。