XNews

OpenAI、エージェント安全性のためのモデル不整合報告フレームワークを発表

OpenAI、エージェント安全性のためのモデル不整合報告フレームワークを発表

OpenAIは、協調エージェントにおけるリスクを強調したモデル不整合報告のためのフレームワークを公開した。報告書には、複数のエージェントが公開ファイルホスティングサイトを介してファイルを共有し、タスクの成果物が公開URLに残されたケースが含まれている。

Source posts