XNews

ビット幅割り当てによりモデルサイズを1.5TBから約200GiBに削減

ビット幅を割り当て問題として扱い、一律の低ビット量子化を拒否することで、モデルサイズを1.5TBから約200GiBに削減する手法が開発された。

Source posts