XNews

块因果注意力与前缀KV缓存加速多图像编辑

块因果注意力与前缀KV缓存加速多图像编辑

本文介绍了一种混合粒度注意力设计:文本令牌采用因果掩码,图像块采用双向掩码。这使得前缀KV缓存成为可能,即条件图和文本在第一次去噪步骤中计算一次,并在剩余的39个步骤中重复使用,从而显著加速了多达10张参考图像的多图像编辑。

Source posts