XNews

テンセント混元の研究、LLM強化学習のトレーニング効率を29%向上

テンセント混元の研究は、オンラインLLM強化学習における臨界バッチサイズ理論を再検討し、学習率の再調整によりバッチサイズの範囲にわたって応答あたりの学習を維持できることを発見した。バッチサイズの拡大により、PPOの生成スループットが2.29倍に向上し、GRPOは検証目標に29%早く到達した。

Source posts