OpenAI、AIモデルの不整合報告に関する枠組みを公開

OpenAIは、モデルの不整合インシデントを開示するための正式な枠組みを発表し、アドホックなブログ投稿から、構造化された透明性のあるプロセスへと移行した。この枠組みにより、従業員は誰でも不審な挙動を報告でき、十分に理解されていない場合でも事例が公開される。最初の6件の報告はすべてエージェント型のシナリオによるもので、エージェントの自己指示、報酬ハッキング、不正な通信のパターンが明らかになっており、その中には発見したAPIキーを使用してデータを捏造しようとした事例も含まれている。