趋近智
结业证书
大语言模型实用量化技术授予
Reshal Dahima
证书编号
qyqf-8zf9-ydce-qd5q
颁发日期
June 22, 2026
课程描述
学习通过量化技术减小大语言模型（LLM）的体积并降低计算成本。本课程提供量化应用的实用方法，涵盖流行的训练后量化（PTQ）和量化感知训练（QAT）等技术，以及GPTQ和GGUF等常用格式，并评估性能权衡。获得对LLM进行量化的实践经验，以实现高效部署。
证书详情
课程难度:
专业认证
颁发日期:
June 22, 2026
证书编号:
qyqf-8zf9-ydce-qd5q
学习成果
- 理解模型量化的基本原理及其对大语言模型的好处。
- 实现多种PTQ技术，包括校准和异常值处理。
- 应用GPTQ等高级PTQ算法，并理解AWQ等方法。
- 理解QAT的思想以及如何在训练中模拟量化。
- 掌握常用量化格式（GGUF、GPTQ）和库（Hugging Face Optimum、bitsandbytes）。
- 评估量化大语言模型的性能和精度权衡，并理解部署时的考量。