XNews

Boltzbitとケンブリッジ大学、モデル重みに動的に知識を書き込む手法を提案

Boltzbitとケンブリッジ大学による新しい手法は、軽量なハイパーネットワークを用いてリアルタイムの会話データをLoRA重みに変換し、静的なコンテキストウィンドウに依存せずにモデルの知識を更新する。長文書やマルチターン対話において高い精度を達成し、各ラウンドの計算量を一定に保つ。

Source posts