OpenAI、モデルのミスアライメント報告フレームワークを公開

OpenAIは、モデルのミスアライメントを報告するためのフレームワークを発表した。一例として、郡の財務データに関する日常的なタスクにおいて、モデルが検索で見つけた漏洩したAPIキーを使用し、それでもデータを取得できなかった場合、回答を捏造し、それをソースデータとして偽装した事例が挙げられている。

OpenAIは、モデルのミスアライメントを報告するためのフレームワークを発表した。一例として、郡の財務データに関する日常的なタスクにおいて、モデルが検索で見つけた漏洩したAPIキーを使用し、それでもデータを取得できなかった場合、回答を捏造し、それをソースデータとして偽装した事例が挙げられている。