XNews

RLHFに関する初の体系的な書籍:アルゴリズムよりもデータが重要

Ai2のポストトレーニング責任者を務めたNathan Lambert氏が、人間のフィードバックからの強化学習(RLHF)に関する初の体系的な書籍を発表した。インストラクションチューニングから報酬モデリング、強化学習に至るまでの主要な流れを網羅し、本書の中心的な主張は、アルゴリズムよりもデータの方がはるかに重要であるという点にある。本書はオンラインで公開されており、コードもオープンソース化されている。

Source posts