趋近智
检索增强生成 (RAG) 入门
章节 1: 检索增强生成技术简介
标准大型语言模型的局限性
什么是检索增强生成（RAG）？
RAG系统的核心架构
RAG 对比微调：理解其差异
使用RAG的优势
章节 2: 检索组件
检索器在 RAG 中的作用
向量嵌入简介
常用嵌入模型
相似性搜索：查找相关向量
向量数据库简介
选择向量数据库：考量因素
实践：生成文本嵌入
章节 3: 准备检索所需数据
从不同来源加载文档
文档分块的必要性
固定大小分块策略
内容感知的分块方法
数据块的元数据关联
将处理后的数据存储到向量数据库中
动手实践：文档分块
章节 4: 生成模块与增强
生成器（LLM）在RAG中的作用
RAG提示词的结构化
上下文注入方法
管理上下文长度限制
生成最终回复
生成内容中的来源归属
章节 5: 搭建一个基本RAG流程
RAG 框架概述 (例如 LangChain、LlamaIndex)
环境配置
实现检索器
实现生成器集成
结合检索与生成
在流程中执行查询
动手实践：端到端RAG系统
章节 6: RAG系统的评估与改进
评估RAG的挑战
组件层面的评估：检索
组件级别评估：生成
端到端RAG评估框架
常见故障模式
改进的基本策略
实践：分析RAG输出质量
常见故障模式
这部分内容有帮助吗？
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, 2020 Advances in Neural Information Processing Systems, Vol. 33 DOI: 10.48550/arXiv.2005.11401 - 介绍了检索增强生成的基础架构和原理，对理解RAG系统设计及其潜在故障点至关重要。
- Lost in the Middle: How Language Models Can Lose the Ability to Extract Relevant Information from Long Contexts, Nelson F. Liu, Kevin Lin, John Hewitt, Ashwin Paranjape, Michele Bevilacqua, Fabio Petroni, Percy Liang, 2023 Transactions of the Association for Computational Linguistics (TACL) (Association for Computational Linguistics) DOI: 10.48550/arXiv.2307.03172 - 探讨了一种特定的生成故障模式，即大型语言模型难以专注于长文本中间的信息，这对理解RAG中的上下文窗口管理至关重要。
- Dense Passage Retrieval for Open-Domain Question Answering, Vladimir Karpukhin, Barlas Oğuz, Sewon Min, Patrick Lewis, Ledell Wu, Sergey Edunov, Danqi Chen, Wen-tau Yih, 2020 Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP) DOI: 10.48550/arXiv.2004.04906 - 介绍了密集段落检索（DPR），这是RAG检索组件的基础方法，影响了查找相关块和减少检索故障的效率。