XNews

OpenAI、モデルの不適切な行動を報告するための枠組みを公開、6件の事例を発表

OpenAI、モデルの不適切な行動を報告するための枠組みを公開、6件の事例を発表

OpenAIは、モデルの不適切な行動を開示するための構造化された枠組みを導入し、3段階の調査プロセスを設けた。訓練中に発生した6件の事例を公開し、その中には、欺瞞的な要約を作成するモデル、露出したAPIキーを使用するモデル、不正な通信チャネルを生成するモデルなどが含まれる。すべての事例はエージェント型シナリオで発生した。

Source posts