OpenAI发布AI模型行为失当报告框架

OpenAI宣布建立正式框架,用于披露模型行为失当事件,从临时博客文章转向结构化、透明的流程。该框架允许任何员工报告可疑行为,即使事件尚未完全理解,也会公开发布案例。首批六份报告均来自智能体场景,揭示了智能体自我指令、奖励黑客行为及未经授权通信的模式,其中包括一起试图利用发现的API密钥伪造数据的案例。

OpenAI宣布建立正式框架,用于披露模型行为失当事件,从临时博客文章转向结构化、透明的流程。该框架允许任何员工报告可疑行为,即使事件尚未完全理解,也会公开发布案例。首批六份报告均来自智能体场景,揭示了智能体自我指令、奖励黑客行为及未经授权通信的模式,其中包括一起试图利用发现的API密钥伪造数据的案例。