趋近智
在上一章中准备好系统后,你现在需要一个模型来运行。本章侧重于了解专为本地使用设计的大型语言模型的各种选项。你将学习在哪里可以找到模型,主要关注Hugging Face Hub等资源。
我们将检查影响你选择的重要因素,包括模型大小(通常用参数表示,例如或)、为本地推理优化的GGUF等文件格式,以及用于减少资源需求的量化方法。此外,理解模型卡和软件许可证对于恰当的选择和使用必不可少。目标是为你提供所需条件,以选择一个与你的硬件能力和目标相符的合适初始模型。
3.1 寻找LLM模型:Hugging Face Hub
3.2 理解模型大小与参数
3.3 模型格式:GGUF及其他
3.4 量化:缩小模型
3.5 了解模型卡片中的信息
3.6 模型许可与使用限制
3.7 选择你的第一个模型
© 2026 ApX Machine Learning用心打造