趋近智
检索增强生成 (RAG) 入门
章节 1: 检索增强生成技术简介
标准大型语言模型的局限性
什么是检索增强生成（RAG）？
RAG系统的核心架构
RAG 对比微调：理解其差异
使用RAG的优势
章节 2: 检索组件
检索器在 RAG 中的作用
向量嵌入简介
常用嵌入模型
相似性搜索：查找相关向量
向量数据库简介
选择向量数据库：考量因素
实践：生成文本嵌入
章节 3: 准备检索所需数据
从不同来源加载文档
文档分块的必要性
固定大小分块策略
内容感知的分块方法
数据块的元数据关联
将处理后的数据存储到向量数据库中
动手实践：文档分块
章节 4: 生成模块与增强
生成器（LLM）在RAG中的作用
RAG提示词的结构化
上下文注入方法
管理上下文长度限制
生成最终回复
生成内容中的来源归属
章节 5: 搭建一个基本RAG流程
RAG 框架概述 (例如 LangChain、LlamaIndex)
环境配置
实现检索器
实现生成器集成
结合检索与生成
在流程中执行查询
动手实践：端到端RAG系统
章节 6: RAG系统的评估与改进
评估RAG的挑战
组件层面的评估：检索
组件级别评估：生成
端到端RAG评估框架
常见故障模式
改进的基本策略
实践：分析RAG输出质量
固定大小分块策略
这部分内容有帮助吗？
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, 2020 Advances in Neural Information Processing Systems, Vol. 33 (Curran Associates, Inc.) - 确立了检索增强生成（RAG）的核心架构，该架构要求对文档进行有效的文档预处理（如分块）以实现高效检索。
- Natural Language Processing with Transformers, Lewis Tunstall, Leandro von Werra, Thomas Wolf, 2022 (O'Reilly Media) - 对包括BPE和WordPiece在内的分词技术进行了全面解释，这对于理解LLM中的基于token的分块至关重要。
- LangChain Text Splitters Documentation, Harrison Chase, 2023 - 记录了各种文本分割策略，包括流行的RAG框架中实现的带重叠的固定大小分块。
- Retrieval-Augmented Generation for Large Language Models: A Survey, Yunfan Gao, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, Jiawei Sun, Meng Wang, Haofen Wang, 2024 arXiv preprint arXiv:2312.10997 DOI: 10.48550/arXiv.2312.10997 - 介绍了检索增强生成（RAG）方法的概述，通常讨论预处理步骤如分块及其对检索和生成的影响。