Antigravity 扩大 Neon 缓存池以提高命中率与配额产出
Antigravity 正在推出一项变更,大幅增加 Neon 缓存池容量,将缓存命中率提高约 4%,并使配额内可完成的工作量至少增加 20%。更新完成后将发放配额重置,因为此前的配置消耗配额更快。对于模型调用间隔较长的工作负载,缓存被逐出,命中率尤其糟糕。
事件版本 1.
Key insights
缓存池扩展
Antigravity 正在大幅增加 Neon 缓存池容量,以将缓存命中率提高约 4%。
配额产出提升
该变更使配额内可完成的工作量至少增加 20%。
计划配额重置
更新完成后将发放配额重置,因为此前的设置消耗配额更快。
稀疏工作负载的逐出修复
对于模型调用间隔较长的工作负载,缓存被逐出,命中率尤其糟糕;该变更旨在解决这一问题。