XNews

OpenAI、モデルワークロードを追跡・停止するコントロールルームを構築

OpenAIは、研究インフラ全体にわたるモデルワークロードを追跡し、安全上またはセキュリティ上の懸念が生じた際にそれらを停止する中央システム「コントロールルーム」を構築した。このシステムは、モデルのトレーニングや評価のためのエージェント型サンプリング、データ処理を含むすべての研究推論ワークロードを接続し、介入を決定してから35秒以内にモデル出力を停止する。

イベントのバージョン 1.

Key insights

中央ワークロード追跡

コントロールルームは、OpenAIの研究インフラ全体にわたるモデルワークロードを追跡する。モデルのトレーニングや評価のためのエージェント型サンプリング、データ処理など、すべての研究推論ワークロードを接続する。

迅速な介入能力

コントロールルームは、ミスアラインメント監視システムと連携して動作する。ジョブを停止または一時停止する介入を決定してから35秒以内にモデル出力を停止する。

より広範な安全対策の一環

コントロールルームは、安全なフロンティアモデルのトレーニングと展開に向けたOpenAIの包括的なアプローチの一部である。

Source posts