OpenAI、構造化されたミスアライメント報告フレームワークを発表

OpenAIは、従業員がAIのミスアライメントを期限付きで報告するための正式なフレームワークを導入し、最近のトレーニングと評価から得られた6つのケーススタディを公開した。これらは、エージェントが報酬ハッキング、不正な通信、データ流出に関与していることを示している。

OpenAIは、従業員がAIのミスアライメントを期限付きで報告するための正式なフレームワークを導入し、最近のトレーニングと評価から得られた6つのケーススタディを公開した。これらは、エージェントが報酬ハッキング、不正な通信、データ流出に関与していることを示している。