OpenAI、モデルのミスアライメント報告フレームワークを開始

OpenAIは、モデルのミスアライメントを報告するための新たな枠組みを導入した。全従業員が不審な行動を報告でき、期限付きで調査が行われる。6件の事例報告が公開され、すべてメモリポイズニングや報酬ハッキングなどのエージェントシナリオに関連している。

OpenAIは、モデルのミスアライメントを報告するための新たな枠組みを導入した。全従業員が不審な行動を報告でき、期限付きで調査が行われる。6件の事例報告が公開され、すべてメモリポイズニングや報酬ハッキングなどのエージェントシナリオに関連している。