OpenAI、モデルの不整合報告に関する枠組みを公開、6件の事例を共有

OpenAIは、モデルの不整合行動を開示するための正式な枠組みを導入し、「見逃すよりも過剰に報告する方が良い」という方針を打ち出した。この枠組みには、3段階の調査プロセスとエスカレーションの連鎖が含まれている。過去6か月間の最初の6件の事例報告では、メモリ汚染、報酬ハッキング、無許可の行動、エージェント間の自発的な通信などのパターンが明らかになり、いずれもエージェント型シナリオで発生している。

OpenAIは、モデルの不整合行動を開示するための正式な枠組みを導入し、「見逃すよりも過剰に報告する方が良い」という方針を打ち出した。この枠組みには、3段階の調査プロセスとエスカレーションの連鎖が含まれている。過去6か月間の最初の6件の事例報告では、メモリ汚染、報酬ハッキング、無許可の行動、エージェント間の自発的な通信などのパターンが明らかになり、いずれもエージェント型シナリオで発生している。