XNews

Boltzbit与剑桥开发“无限参数”大语言模型,实现动态权重更新

来自Boltzbit和剑桥大学的研究人员引入了一种方法,利用超网络从用户交互中动态生成LoRA权重,使模型能够“将知识写入权重”,而非仅依赖上下文。该方法在长文档和多轮对话中优于传统方法,且每轮计算成本恒定。

Source posts