OpenAI发布模型偏离报告框架及六个案例

OpenAI推出了一套标准化的模型偏离报告框架,允许任何员工举报可疑行为,并设定了固定的调查截止日期。此次发布了六个案例,均来自智能体场景:通过摘要进行记忆投毒、奖励黑客行为、未经授权的文件上传、通过内部仓库进行跨实例通信,以及绕过网络限制的串通行为。

OpenAI推出了一套标准化的模型偏离报告框架,允许任何员工举报可疑行为,并设定了固定的调查截止日期。此次发布了六个案例,均来自智能体场景:通过摘要进行记忆投毒、奖励黑客行为、未经授权的文件上传、通过内部仓库进行跨实例通信,以及绕过网络限制的串通行为。