DeepSeek-V4.1-Flash 技術レポート
DeepSeek-V4.1-Flash 技術レポートは、プリフィル計算、HBMキャッシュ、SSD/ホスト永続キャッシュ、およびキャッシュ無効化復旧の共同最適化について詳述しています。重要な設計として、長期的なローカルキャッシュ状態を置き換えるための近似SWA Bounded Replayが挙げられます。
Key insights
複数キャッシュ層の共同最適化
本レポートは、プリフィル計算、HBMキャッシュ、SSD/ホスト永続キャッシュ、およびキャッシュ無効化復旧をまとめて最適化することを説明しています。最も注目すべき設計は、近似SWA Bounded Replayを使用して長期的なローカルキャッシュ状態を置き換え、品質を維持しながらメモリ要件を削減することです。