课程章节

• 1.1 模型压缩简介

• 1.2 为何对大型语言模型进行量化？

• 1.3 数值表示：浮点数与定点数

• 1.4 量化中的整数数据类型

• 1.5 量化方案：对称量化与非对称量化

• 1.6 量化粒度选择

• 1.7 量化误差的度量

• 1.8 量化方法的概述