NVIDIA的Agora是一个多代理研究系统,在权重迁移任务上运行了13个编码代理,历时12天。他们发现,通过低秩二元组分解,供体模型的行为(而非参数)可以在架构间迁移,达到了与训练后的GPT-2之间差距的62%。