趋近智
LangChain：构建生产级大语言模型应用
章节 1: 高级 LangChain 架构与定制
LangChain 表达式语言 (LCEL) 内部机制
异步操作与并发
定制核心组件：LLM、提示词、解析器
高级输出解析策略
复杂链中的状态管理
调试 LangChain 执行流程
动手实战：构建自定义链组件
章节 2: 构建高级智能体和工具
代理架构：ReAct、Self-Ask、Plan-and-Execute
为智能体开发自定义工具
工具错误处理与代理恢复
多智能体系统与协作模式
结构化工具调用与功能整合
代理执行追踪与分析
实操：用自定义API工具构建智能体
章节 3: 高级内存管理技巧
高级内存类型的比较
实现持久化记忆存储
上下文窗口管理策略
自定义记忆模块开发
将记忆模块整合到代理和链条中
异步应用中的内存管理
实战演练：实现向量存储记忆
章节 4: 生产级数据整合与检索
高级文档加载与转换
向量数据库的选择与大规模优化
精进的索引策略
混合搜索的实现
重排与查询转换
数据更新与同步管理
实践：构建优化过的RAG管道
章节 5: 评估、监控与可观测性
LangSmith 生产应用简介
定义自定义评估指标
自动化评估流程
使用 LangSmith 进行调试和根本原因分析
监控应用程序性能和成本
与第三方可观测性平台集成
人工参与的反馈与标注
实践：使用LangSmith评估代理
章节 6: LangChain 应用的优化与扩容
识别性能瓶颈
LLM 调用优化方法
成本管理与令牌用量追踪
扩展数据检索系统
处理高并发和高吞吐量
离线任务的批量处理
实践：LangChain 链的性能调优
章节 7: 生产部署策略
LangChain 项目的部署结构
使用 Docker 容器化 LangChain 应用
部署选项：服务器、Kubernetes、无服务器
LangChain的无服务器部署模式
管理环境变量和敏感信息
设置CI/CD流水线
蓝绿部署和金丝雀部署策略
实战：通过Docker部署LangChain应用
章节 8: LangChain应用中的安全考量
理解LLM应用中的攻击途径
输入验证与清洗
缓解提示注入风险
安全输出处理与解析
自定义工具和API交互的安全性
数据隐私与敏感信息处理
依赖安全管理
实践：实现输入验证
理解LLM应用中的攻击途径
这部分内容有帮助吗？
- OWASP Top 10 for Large Language Model Applications, OWASP Foundation, 2023 (OWASP Foundation) - 一份被广泛认可的列表，列出了大型语言模型应用特有的十大最关键安全风险。
- Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection, Tamim El Ahmad, Luc Brogat-Motte, Pierre Laforgue, Florence d'Alché-Buc, 2023 Proceedings of The 27th International Conference on Artificial Intelligence and Statistics, Vol. 238 (PMLR) DOI: 10.48550/arXiv.2302.10128 - 对间接提示注入及其对实际LLM应用影响的学术分析。
- Extracting Training Data from Large Language Models, Nicholas Carlini, Florian Tramèr, Eric Wallace, Matthew Jagielski, Ariel Herbert-Voss, Katherine Lee, Adam Roberts, Tom Brown, Dawn Song, Úlfar Erlingsson, Alina Oprea, and Colin Raffel, 2021 30th USENIX Security Symposium (USENIX Security 21), Vol. 30 (USENIX Association) DOI: 10.1145/3460670.3460671 - 一篇基础性论文，展示了从大型语言模型中提取敏感训练数据的方法。