趋近智
检索增强生成 (RAG) 入门
章节 1: 检索增强生成技术简介
标准大型语言模型的局限性
什么是检索增强生成（RAG）？
RAG系统的核心架构
RAG 对比微调：理解其差异
使用RAG的优势
章节 2: 检索组件
检索器在 RAG 中的作用
向量嵌入简介
常用嵌入模型
相似性搜索：查找相关向量
向量数据库简介
选择向量数据库：考量因素
实践：生成文本嵌入
章节 3: 准备检索所需数据
从不同来源加载文档
文档分块的必要性
固定大小分块策略
内容感知的分块方法
数据块的元数据关联
将处理后的数据存储到向量数据库中
动手实践：文档分块
章节 4: 生成模块与增强
生成器（LLM）在RAG中的作用
RAG提示词的结构化
上下文注入方法
管理上下文长度限制
生成最终回复
生成内容中的来源归属
章节 5: 搭建一个基本RAG流程
RAG 框架概述 (例如 LangChain、LlamaIndex)
环境配置
实现检索器
实现生成器集成
结合检索与生成
在流程中执行查询
动手实践：端到端RAG系统
章节 6: RAG系统的评估与改进
评估RAG的挑战
组件层面的评估：检索
组件级别评估：生成
端到端RAG评估框架
常见故障模式
改进的基本策略
实践：分析RAG输出质量
RAG系统的核心架构
这部分内容有帮助吗？
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, 2020 Advances in Neural Information Processing Systems DOI: 10.48550/arXiv.2005.11401 - 这篇基础论文介绍了原始的检索增强生成（RAG）模型，详细阐述了它如何结合预训练的参数记忆（一个seq2seq模型）和非参数记忆（一个预训练的神经检索器），以改进知识密集型自然语言处理任务。
- Retrieval-Augmented Generation for Large Language Models: A Survey, Yunfan Gao, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, Jiawei Sun, Meng Wang, Haofen Wang, 2023 arXiv preprint arXiv:2312.10997 DOI: 10.48550/arXiv.2312.10997 - 一篇近期综述，提供了RAG技术进展的现代视角，涵盖了其架构、不同的设计选择、评估方法以及将检索与大型语言模型集成时面临的挑战。