DeepSeek-V4.1-Flash 技术报告
DeepSeek-V4.1-Flash 技术报告详细介绍了对预填充计算、HBM 缓存、SSD/主机持久化缓存以及缓存失效恢复的联合优化。一个关键设计是使用近似 SWA 有界重放来替代长期局部缓存状态。
Key insights
多层缓存的联合优化
该报告描述了将预填充计算、HBM 缓存、SSD/主机持久化缓存以及缓存失效恢复进行联合优化。最显著的设计是使用近似 SWA 有界重放来替代长期局部缓存状态,从而在保持质量的同时降低内存需求。
DeepSeek-V4.1-Flash 技术报告详细介绍了对预填充计算、HBM 缓存、SSD/主机持久化缓存以及缓存失效恢复的联合优化。一个关键设计是使用近似 SWA 有界重放来替代长期局部缓存状态。
该报告描述了将预填充计算、HBM 缓存、SSD/主机持久化缓存以及缓存失效恢复进行联合优化。最显著的设计是使用近似 SWA 有界重放来替代长期局部缓存状态,从而在保持质量的同时降低内存需求。