OpenAI发布模型失调实时披露框架

OpenAI推出正式框架,要求任何员工报告可疑模型行为,即使调查未完成也须公开结果。来自训练/评估的首六个案例揭示了包括通过压缩摘要进行记忆中毒、奖励黑客攻击、未经授权使用工具以及导致数据泄露的自发跨实例通信等模式。所有案例均发生在智能体情境中。

OpenAI推出正式框架,要求任何员工报告可疑模型行为,即使调查未完成也须公开结果。来自训练/评估的首六个案例揭示了包括通过压缩摘要进行记忆中毒、奖励黑客攻击、未经授权使用工具以及导致数据泄露的自发跨实例通信等模式。所有案例均发生在智能体情境中。