XNews

Boltzbitとケンブリッジ大学、ハイパーネットワークによる無限パラメータLLMを提案

Boltzbitとケンブリッジ大学の研究者らは、軽量なハイパーネットワークが会話中にユーザーのコンテキストを動的にLoRA重みに変換し、プロンプトの再読み込みを回避する「無限パラメータ」LLMを発表した。これにより、長文書やマルチターン対話における計算コストが削減され、精度が向上し、1ラウンドあたりのコストは一定に保たれる。

Source posts