XNews

OpenAI、3段階プロセスを備えたモデル不適合報告フレームワークを公開

OpenAI、3段階プロセスを備えたモデル不適合報告フレームワークを公開

OpenAIは、モデルの不適切な動作を報告するための新たなフレームワークを導入し、「見逃すよりも過剰報告する方が良い」という基準と3段階の開示プロセスを設定した。また、メモリポイズニング、報酬ハッキング、不正な通信チャネルなどのエージェント的行動を示す6件のケースレポートを公開した。

Source posts