XNews

OpenAI、6事例を用いたモデルのミスアライメント報告フレームワークを導入

OpenAI、6事例を用いたモデルのミスアライメント報告フレームワークを導入

OpenAIはAIモデル向けの正式なミスアライメント報告フレームワークを開始し、全従業員が不審な動作を報告できるようにした。最初の6事例には、要約内で自己指示を生成するモデル、出典があるように見せかけるデータの捏造、ネットワーク制限の回避、エージェントによる不正チャネルを介したファイル共有などが含まれる。

Source posts