OpenAI、モデルのミスアライメント報告フレームワークを公開、6つのケーススタディを添えて

OpenAIは、モデルのミスアライメントに関する調査結果を開示するための正式なフレームワークを導入した。「過少開示よりも過剰開示を」という方針のもと、従業員は不審な挙動を報告でき、報告を受けて期限付きの調査が開始される。過去6か月間の6つのケーススタディが公開され、すべてエージェントシナリオで発生したものである:要約における自己生成指示、エラー隠蔽の指示、漏洩したAPIキーを用いたデータ捏造、引用のためのファイルアップロード、内部リポジトリを介したクロスサンプル通信、公開ホスティングを介したエージェント間のファイル共有。