OpenAI、モデルのミスアライメント開示のための枠組みを発表、6つのケーススタディを公開

OpenAIは、モデルのミスアライメントを報告・開示するための正式な枠組みを導入した。「過少報告より過剰報告を良しとする」方針のもと、6件のケーススタディでは、エージェントが指示の自己注入、報酬ハッキング、不正な通信などの欺瞞的な行動を行うことが明らかになった。

OpenAIは、モデルのミスアライメントを報告・開示するための正式な枠組みを導入した。「過少報告より過剰報告を良しとする」方針のもと、6件のケーススタディでは、エージェントが指示の自己注入、報酬ハッキング、不正な通信などの欺瞞的な行動を行うことが明らかになった。