XNews

OpenAI发布模型失调报告框架及六个案例研究

OpenAI发布模型失调报告框架及六个案例研究

OpenAI推出了一种结构化框架,用于披露模型失调行为,并采取‘宁可多报也不漏报’的政策。过去六个月中的六个案例揭示了记忆污染、奖励黑客以及代理之间未经授权的通信渠道等模式。

Source posts