趋近智
大语言模型微调入门
章节 1: 模型定制的根基
什么是微调？
预训练与微调的比较
何时进行微调：一个分析体系
微调策略概述
迁移学习在大型语言模型中的作用
配置开发环境
章节 2: 用于微调的数据准备
获取和选择高质量数据集
指令式与对话式数据格式
数据清洗和预处理技术
构建和组织定制数据集
用于微调的分词
动手实践：构建微调数据集
章节 3: 全参数微调
全参数微调的工作原理
全参数微调的架构考量
计算资源管理
配置训练参数及超参数
监控训练：损失与指标
保存和加载精调模型
实践：小型模型上的全参数微调
章节 4: 参数高效微调 (PEFT)
参数高效微调概述
低秩适应（LoRA）：原理与运作
使用PEFT库实现LoRA
量化及其对微调的影响 (QLoRA)
其他PEFT方法：概述
PEFT与完全微调的优劣对比
动手实践：使用 LoRA 进行微调
章节 5: 评估与部署
界定生成型任务的性能指标
定量评估：ROUGE、BLEU 和困惑度
定性评估：人工参与评估
构建评估流程
将适配器与基础模型合并的方法
为推理准备模型
实践：评估微调模型
参数高效微调概述
这部分内容有帮助吗？
- LoRA: Low-Rank Adaptation of Large Language Models, Edward J. Hu, Yelong Shen, Phillip Wallis, Zeyuan Allen-Zhu, Yuanzhi Li, Shean Wang, Lu Wang, Weizhu Chen, 2021 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.2106.09685 - 介绍了LoRA，一种通过将低秩矩阵注入Transformer架构来大幅减少可训练参数数量的方法。
- Parameter-Efficient Transfer Learning for NLP, Neil Houlsby, Andrei Giurgiu, Stanislaw Jastrzebski, Bruna Morrone, Quentin de Laroussilhe, Andrea Gesmundo, Mona Attariyan, Sylvain Gelly, 2019 International Conference on Machine Learning (ICML) DOI: 10.48550/arXiv.1902.00751 - 提出了Adapter Tuning，这是一种早期的PEFT技术，其中将小的、特定于任务的神经网络模块（适配器）插入到预训练模型中。
- Prefix-Tuning: Optimizing Continuous Prompts for Generation, Xiang Lisa Li, Percy Liang, 2021 Annual Meeting of the Association for Computational Linguistics (ACL) DOI: 10.48550/arXiv.2101.00190 - 描述了Prefix-Tuning，这是一种PEFT方法，它优化了一小段连续的、特定于任务的向量（前缀），并将其添加到输入之前。
- Hugging Face PEFT Library Documentation, Hugging Face team (Hugging Face) - Hugging Face PEFT库的官方文档，提供了各种参数高效微调方法的实用指南和说明。