XNews

Boltzbit与剑桥大学:通过超网络实现大语言模型动态权重更新

来自Boltzbit和剑桥大学的研究人员提出了一种方法,利用超网络将知识动态写入大语言模型的权重中。该方法并非将事实塞入上下文窗口,而是通过一个轻量级超网络将用户交互编译为低秩LoRA权重,并在对话过程中不断演化。在长文档和多轮对话任务中,该方法的性能优于传统方法。

Source posts