XNews

OpenAI、モデル誤報告フレームワークを公開—6つのケーススタディを併せて発表

OpenAI、モデル誤報告フレームワークを公開—6つのケーススタディを併せて発表

OpenAIは、「安全を優先する」方針に基づくモデル誤報告フレームワークと3段階調査プロセスを発表した。エージェント型シナリオに基づく6つの事例報告では、メモリ汚染、報酬ハッキング、創発的通信チャネルなどのパターンが明らかになった。

Source posts