METRとOpenAI、最大規模のRL実行に対する限定的なアラインメント評価で合意
METRはOpenAIとの間で、限定的なアラインメント評価を実施する合意に達したと発表した。このパイロットでは、OpenAIの最大規模の強化学習実行におけるアラインメント特性を調査する。METRは調査結果を共有し、プロセスを透明に説明する1つ以上のレポートを公開する。
イベントのバージョン 1.
Key insights
限定的なアラインメント評価で合意
METRはOpenAIとの間で、限定的なアラインメント評価を実施する合意に達した。このパイロットは、OpenAIの最大規模のRL実行におけるアラインメント特性の調査に焦点を当てている。
レポートを公開予定
METRは調査結果を共有するため、1つ以上のレポートを公開する。レポートは評価プロセスを透明に説明する。