趋近智
大规模分布式检索增强生成
章节 1: 可扩展RAG架构核心要素
RAG核心组件的审视
识别 RAG 扩展中的瓶颈和局限
分布式系统原则在RAG中的应用
分布式RAG系统的架构模式
大规模RAG系统评估指标
高可用性与容错性设计
分布式RAG中的数据一致性模型
章节 2: 高级分布式检索策略
规模化向量搜索：分片、复制与索引
分布式稠密检索：实现与优化
大规模混合检索：整合密集与稀疏检索器
分布式环境中的图检索
多向量与ColBERT式架构应对大规模应用
分布式配置中的进阶重排管线
大规模数据摄取的近实时索引
动手实践：实现分片向量索引
章节 3: 优化分布式RAG中的大语言模型
高效LLM服务架构
领域专用RAG的参数高效微调
LLM部署的量化与剪枝技术
处理大规模检索数据集时的长上下文
大规模减少幻觉的策略
多LLM RAG架构与智能路由
动手实践：为特定任务RAG微调LLM
章节 4: 规模化数据摄入与处理管道
分布式数据摄取框架
可伸缩文档分块与预处理方法
分布式嵌入生成与管理
变更数据捕获用于实时RAG更新
规模化向量数据库管理与优化
分布式RAG系统中的数据治理与血缘
动手实践: 构建可伸缩数据摄取管道
章节 5: 大规模 RAG 的编排与运行
使用 Airflow 或 Kubeflow 进行工作流编排
RAG 组件的微服务设计模式
RAG 部署的容器化与 Kubernetes 应用
分布式RAG系统的高级监控、日志记录与告警
RAG 系统的 CI/CD 流水线
RAG系统的A/B测试和实验框架
云端RAG的成本优化策略
动手实践：在Kubernetes上部署RAG并进行监控
章节 6: 高级 RAG 架构与技术
多跳与迭代式RAG的规模化应用
代理型RAG系统与分布式工具应用
分布式环境中知识图谱增强型RAG
自校正和自提升的RAG系统
处理高动态和流式数据源
大规模RAG部署中的安全考量
规模化跨语言与多模态RAG
实践：设计多阶段RAG系统
章节 7: 分布式RAG的性能调优与基准测试
找出RAG组件中的性能瓶颈
延迟与吞吐量优化技术
RAG 组件的负载均衡策略
不同系统层的缓存机制
分布式RAG的基准测试：指标与工具
RAG 系统的压力测试与容量规划
分布式环境中的性能分析与调试
实践：优化分布式RAG系统以达到最佳性能
RAG核心组件的审视
这部分内容有帮助吗？
- Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs, Yu. A. Malkov, D. A. Yashunin, 2018 IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 40 DOI: 10.48550/arXiv.1603.09320 - 描述了分层可导航小世界（HNSW）图算法，这是一种用于高效近似最近邻搜索的方法，在大型向量检索系统中广泛使用。
- Dense Passage Retrieval for Open-Domain Question Answering, Vladimir Karpukhin, Barlas Oğuz, Sewon Min, Patrick Lewis, Ledell Wu, Sergey Edunov, Danqi Chen, Wen-tau Yih, 2020 EMNLP 2020 DOI: 10.48550/arXiv.2004.04906 - 详细介绍了密集通道检索（DPR），一个从大型文本语料库中学习和检索密集嵌入的系统，解决了如何构建用于RAG的有效大规模检索系统。
- vLLM: Efficient LLM Serving with PagedAttention, Woosuk Kwon, Zhuohan Li, Siyuan Zhuang, Ying Sheng, Lianmin Zheng, Cody Hao Yu, Joseph E. Gonzalez, Hao Zhang, Ion Stoica, 2023 Proceedings of the 30th ACM Symposium on Operating Systems Principles (SOSP) DOI: 10.48550/arXiv.2309.06180 - 介绍了 vLLM，一个高吞吐量LLM服务系统，它结合了PagedAttention和连续批处理以优化推理性能，与生成层的效率直接相关。
- LoRA: Low-Rank Adaptation of Large Language Models, Edward J. Hu, Yelong Shen, Phillip Wallis, Zeyuan Allen-Zhu, Yuanzhi Li, Shean Wang, Lu Wang, Weizhu Chen, 2021 arXiv preprint DOI: 10.48550/arXiv.2106.09685 - 介绍LoRA，一种参数高效的微调技术，可以用更少的训练参数来适应大型语言模型，解决LLM专业化中的效率问题。