ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价
ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价

所有课程

大型语言模型的微调与调整
章节 1: 大型语言模型适应原理
回顾:预训练语言模型和Transformer
微调和适配的必要性
自然语言处理中的迁移学习方法
微调时的架构考量
微调方法概述
章节 2: 微调数据准备
指令微调原则
指令数据集的获取与构建
监督微调(SFT)的数据格式化
域适应数据要求
数据稀缺与不平衡的处理
文本数据扩充技术
实践:准备指令微调数据集
章节 3: 全参数微调
全参数微调的机制
设置训练循环
超参数调优策略
防止过拟合的正则化方法
计算资源管理
检查点保存与训练恢复
动手实践:全参数微调较小规模的LLM
章节 4: 参数高效微调 (PEFT) 方法
参数高效性的原理
低秩适配 (LoRA)
量化低秩适配 (QLoRA)
适配器模块
提示调整
前缀微调
PEFT 方法比较
使用 Hugging Face PEFT 库进行实现
动手实践:使用 LoRA 进行微调
实操:使用QLoRA进行微调
章节 5: 高阶微调策略
多任务微调
顺序适应与持续学习
减轻灾难性遗忘
人类反馈强化学习 (RLHF) 介绍
奖励模型训练
使用 PPO 进行策略优化
高级适应中的挑战
章节 6: 微调模型的评估与分析
传统自然语言处理评估指标的局限性
评估指令遵循能力
评估事实准确性和幻觉
偏见与公平性评估方法
鲁棒性评估(对抗性攻击、分布外数据)
模型校准评估
定性分析与错误分类
人工评估规范
实践:分析模型输出中的错误
章节 7: 优化与部署考量
训练时的内存优化
使用分布式策略加速训练
微调后优化:量化
微调后优化:剪枝
合并 PEFT 适配器
模型序列化与打包
推理服务框架
生产环境中微调模型的监控

大型语言模型的微调与调整

掌握针对特定任务与应用方向定制预训练 (pre-training)大型语言模型的高级能力。本课程讲授先进的微调 (fine-tuning)方法、参数 (parameter)高效微调技术(PEFT)、数据准备策略及严谨的模型评估实践。通过动手实践,学员将学习如何优化大型语言模型性能,有效管理计算资源,并根据专业需求调整模型。

先修课程 机器学习与Transformer基础知识

级别:

专长级
  • 高阶微调策略

    实践并区分全量微调与各类参数高效微调(PEFT)方法。

  • 调整模型的数据准备

    为指令微调和特定方向调整构建高质量数据集,并应对数据质量与数量的难题。

  • PEFT技术应用

    应用如LoRA、QLoRA和Adapter模块等技术,以高效调整大型模型。

  • 训练优化

    使用梯度累积和混合精度训练等技术,优化微调过程以提升计算效率。

  • 模型评估

    对微调模型进行全面评估,审视其在标准指标之外的表现,包含指令遵循和偏差分析。

  • 部署考量

    分析微调后大型语言模型部署的实际要点,包括模型序列化和模型服务策略。

© 2026 ApX Machine Learning