研究:外部オラクルを除去するとAIエージェントの自己進化は失敗する
研究によると、多くの「再帰的自己改善」システムは暗黙の外部ゴールド検証器に依存している。このオラクル信号が除去されると、エージェントは単独でループを閉じることができなくなり、自己進化はほぼ完全に崩壊する。これにより、現在の自律的な改善の主張の脆弱性が明らかになった。
研究によると、多くの「再帰的自己改善」システムは暗黙の外部ゴールド検証器に依存している。このオラクル信号が除去されると、エージェントは単独でループを閉じることができなくなり、自己進化はほぼ完全に崩壊する。これにより、現在の自律的な改善の主張の脆弱性が明らかになった。