XNews

OpenAIのエッセイ「異質な知性」:AIは設計されるものではなく育成されるもの、アライメントが遅れている

OpenAIのチーフサイエンティストによる「異質な知性」:AIは設計されるものではなく、育成されるもの。大規模な反復的最適化は理解の及ばないところへ。RLslow 2023は推論のスケーリングを示し、RSIが期待される。価値観のアライメントは知能に遅れをとっている。CoT監視は弱体化し、活性化層監視が必要。防衛はペースを正当化するが、強制的な基準と調整が必要。

Source posts