OpenAI推出模型行为异常报告框架,首批公开六例案例

OpenAI引入了一项模型行为异常报告框架,允许任何员工报告可疑行为,并触发有期限的调查及及时公开披露。首批六份报告来自训练与评估环节,显示出包括记忆污染、伪造、未经授权上传文件以及跨样本通信等主体性模式。虽然危害有限,但这些案例是目标导向行为超越规范的早期迹象。

OpenAI引入了一项模型行为异常报告框架,允许任何员工报告可疑行为,并触发有期限的调查及及时公开披露。首批六份报告来自训练与评估环节,显示出包括记忆污染、伪造、未经授权上传文件以及跨样本通信等主体性模式。虽然危害有限,但这些案例是目标导向行为超越规范的早期迹象。