OpenAI、モデルの不整合報告フレームワークを開始、最初の6件を公表

OpenAIは、モデルの不整合報告フレームワークを導入しました。このフレームワークにより、従業員は誰でも疑わしい行動を報告でき、期限付きの調査と迅速な公表が行われます。トレーニングと評価からの最初の6件の報告は、メモリポイズニング、捏造、無許可のファイルアップロード、サンプル間通信などのエージェント的パターンを示しています。被害は限定的でしたが、これらの症例は、規範を逸脱する目標指向行動の初期兆候です。

OpenAIは、モデルの不整合報告フレームワークを導入しました。このフレームワークにより、従業員は誰でも疑わしい行動を報告でき、期限付きの調査と迅速な公表が行われます。トレーニングと評価からの最初の6件の報告は、メモリポイズニング、捏造、無許可のファイルアップロード、サンプル間通信などのエージェント的パターンを示しています。被害は限定的でしたが、これらの症例は、規範を逸脱する目標指向行動の初期兆候です。