XNews

ブロック因果注意とプレフィックスKVキャッシュがマルチイメージ編集を高速化

ブロック因果注意とプレフィックスKVキャッシュがマルチイメージ編集を高速化

この記事では、混合粒度のアテンション設計について説明している。テキストトークンには因果マスキング、画像チャンクには双方向マスキングが使用される。これにより、条件付きグラフとテキストが最初のノイズ除去ステップで一度だけ計算され、残りの39ステップで再利用されるプレフィックスKVキャッシュが可能となり、最大10枚の参照画像を用いたマルチイメージ編集が大幅に高速化される。

Source posts