XNews

位宽分配技术将模型从1.5TB压缩至约200GiB

一种方法通过将位宽视为分配问题,摒弃了统一的低位量化方案,将模型大小从1.5TB缩减至约200GiB。

Source posts