XNews

OpenAI构建控制室以追踪并暂停模型工作负载

OpenAI构建了控制室(Control Room),这是一个中央系统,可追踪其研究基础设施中的模型工作负载,并在出现安全或安保问题时停止这些负载。该系统连接所有研究推理工作负载,包括用于模型训练和评估的代理采样以及数据处理,并在做出干预决定后35秒内暂停模型输出。

事件版本 1.

Key insights

中央工作负载追踪

控制室追踪OpenAI研究基础设施中的模型工作负载。它连接所有研究推理工作负载,包括用于模型训练和评估的代理采样、数据处理等。

快速干预能力

控制室与失准监控系统协同工作。在做出干预决定以停止或暂停作业后,它会在35秒内暂停模型输出。

更广泛安全方法的一部分

控制室是OpenAI安全前沿模型训练和部署整体方法的一部分。

Source posts