趋近智
部署大语言模型 (LLM)是一个重要节点,但并非最终一步。模型存在于信息变化、数据分布转移、用户期望演变的环境中。为保持效果和适用性,大语言模型通常需要持续更新和改进。
本章讲解大语言模型初次部署后进行维护和完善的实践方面。我们将介绍持续训练、纳入新知识以及管理演进中模型生命周期的方法。
具体来说,您将了解:
我们将审视确保模型在其运行周期内保持最新和良好表现所需的工程实践。
30.1 持续改进的缘由
30.2 持续预训练策略
30.3 持续微调(SFT/RLHF)的策略
30.4 安全地整合新数据源
30.5 模型架构变动后的更新
30.6 版本管理、部署与回滚策略