趋近智
本地大型语言模型入门
章节 1: 大型语言模型入门
什么是大型语言模型（LLM）？
大语言模型如何运作的简单视图
理解标记与文本生成
为何在本地运行大型语言模型？
本地LLM与云端LLM
章节 2: 准备本地环境
硬件考量：中央处理器
硬件考量：内存
硬件考量：图形处理器和显存
检查您的系统规格
操作系统兼容性
安装 Python (可选但建议)
命令行/终端简介
章节 3: 查找和选择本地大型语言模型
寻找LLM模型：Hugging Face Hub
理解模型大小与参数
模型格式：GGUF及其他
量化：缩小模型
了解模型卡片中的信息
模型许可与使用限制
选择你的第一个模型
章节 4: 运行你的第一个本地LLM
本地LLM运行器介绍
设置 Ollama
用 Ollama 下载模型
使用 Ollama 运行模型 (命令行)
设置 LM Studio
在 LM Studio 中查找和下载模型
在LM Studio中加载模型并进行聊天
llama.cpp 简介 (核心思想)
动手实践：运行模型
章节 5: 简单交互与提示词使用
什么是提示？
你的第一个提示：简单问题
给出指令
理解上下文窗口
提示词排版基础建议
温度与创造力
常见交互方式
实践：简单的提示技巧
温度与创造力
这部分内容有帮助吗？
- The Curious Case of Neural Text Degeneration, Ari Holtzman, Janine Bierner, Matthew Mitchell, Hannah Wallace, Peter Clark, and Noah A. Smith, 2019 Proceedings of the International Conference on Learning Representations (ICLR) - 讨论了包括温度在内的各种解码策略如何影响生成文本的质量和多样性，特别解决了重复和乏味的问题。
- Text Generation Strategies, Hugging Face, 2024 - 官方文档，解释了流行的Hugging Face
transformers库中各种文本生成参数和方法，包括温度采样。 - Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition, Daniel Jurafsky and James H. Martin, 2025 - 一本基础教材，涵盖了语言建模和文本生成的原理，为自然语言处理中概率分布和采样的理论提供了背景。