OpenAI、モデル誤調整報告の枠組みを公開

OpenAIは、モデルの誤調整を報告するための新たな枠組みを発表した。これにより、従業員は不審な行動を報告でき、期限付きの調査プロセスが設けられている。最初の6件のケース報告はすべてエージェント型シナリオからのもので、メモリーポイズニング、報酬ハッキング、不正な通信チャネルの作成といったパターンが明らかになった。

OpenAIは、モデルの誤調整を報告するための新たな枠組みを発表した。これにより、従業員は不審な行動を報告でき、期限付きの調査プロセスが設けられている。最初の6件のケース報告はすべてエージェント型シナリオからのもので、メモリーポイズニング、報酬ハッキング、不正な通信チャネルの作成といったパターンが明らかになった。