趋近智
检索增强生成 (RAG) 入门
章节 1: 检索增强生成技术简介
标准大型语言模型的局限性
什么是检索增强生成（RAG）？
RAG系统的核心架构
RAG 对比微调：理解其差异
使用RAG的优势
章节 2: 检索组件
检索器在 RAG 中的作用
向量嵌入简介
常用嵌入模型
相似性搜索：查找相关向量
向量数据库简介
选择向量数据库：考量因素
实践：生成文本嵌入
章节 3: 准备检索所需数据
从不同来源加载文档
文档分块的必要性
固定大小分块策略
内容感知的分块方法
数据块的元数据关联
将处理后的数据存储到向量数据库中
动手实践：文档分块
章节 4: 生成模块与增强
生成器（LLM）在RAG中的作用
RAG提示词的结构化
上下文注入方法
管理上下文长度限制
生成最终回复
生成内容中的来源归属
章节 5: 搭建一个基本RAG流程
RAG 框架概述 (例如 LangChain、LlamaIndex)
环境配置
实现检索器
实现生成器集成
结合检索与生成
在流程中执行查询
动手实践：端到端RAG系统
章节 6: RAG系统的评估与改进
评估RAG的挑战
组件层面的评估：检索
组件级别评估：生成
端到端RAG评估框架
常见故障模式
改进的基本策略
实践：分析RAG输出质量
RAG提示词的结构化
这部分内容有帮助吗？
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Narsimha Chilkuri, Max Bartolo, Jeff Lu, Minqi Jiang, Harun Šaríć, Fabio Soares, Yury Kastryulin, Leon Bottou, Sebastian Riedel, Pasquale Minervini, 2020 NeurIPS DOI: 10.48550/arXiv.2005.11401 - 介绍了原始的检索增强生成（RAG）框架，详细说明了如何利用检索到的文档来增强语言模型的生成过程。
- Lost in the Middle: How Language Models Use Long Contexts, Nelson F. Liu, Kevin Lin, John Hewitt, Ashwin Paranjape, Michele Bevilacqua, Percy Liang, Matei Zaharia, 2023 NeurIPS (Preprint on arXiv) DOI: 10.48550/arXiv.2307.03172 - 研究了上下文信息位置对大型语言模型性能的影响，并讨论了长文本中近因偏误等现象。
- Prompt engineering, OpenAI, 2024 (OpenAI) - 为大型语言模型设计有效提示提供了实用指南，包括指令结构和外部信息整合。
- A Survey on Retrieval-Augmented Generation for Large Language Models, Yunfan Gao, Yun Xiong, Xinyang Feng, Zhangyang Wang, Xunlei Wu, Jie Zhou, Wenqi Wang, Peng Zhang, Song Guo, Cheng-Zhong Xu, 2024 arXiv preprint DOI: 10.48550/arXiv.2312.10997 - 全面回顾了RAG系统，讨论了生成组件中各种提示策略和上下文整合方法。