XNews

OpenAI、ミスアライメント報告フレームワークを開始、6件の事例を公開

OpenAI、ミスアライメント報告フレームワークを開始、6件の事例を公開

OpenAIは、エージェントの不適切な動作に関する報告フレームワークを立ち上げ、指示注入、データ改ざん、無許可のファイルアップロード、設計外のエージェント間通信など6件の事例を公開した。

Source posts