所有课程

Python 大型语言模型工作流：方法与优选实践

章节 1: Python LLM 工作流入门

什么是LLM工作流？

LLM 应用的常见组成部分

为什么选择Python进行LLM开发？

Python LLM 生态系统概览

课程结构与目标

第 1 章测验

章节 2: 配置用于大型语言模型 (LLM) 开发的 Python 环境

选择你的Python版本

虚拟环境 (venv, conda)

使用pip和requirements.txt管理依赖

核心库安装

安全配置 API 密钥

开发环境配置实践

第 2 章测验

章节 3: 使用 Python 与 LLM API 交互

使用requests库发送API请求

处理API响应和错误

使用官方Python客户端库

速率限制与成本管理要点

练习：调用LLM API

第 3 章测验

章节 4: 核心LLM工作流库：LangChain基础

LangChain 介绍

主要构成：模型、提示词、输出解析器

在 LangChain 中使用不同的 LLM 服务

创建和使用提示模板

解析大型语言模型输出结构

动手实践：构建一个简单的LangChain应用

第 4 章测验

章节 5: 高级 LangChain：链与代理

理解用于顺序操作的链

构建自定义链

代理介绍：LLM作为推理引擎

代理可用工具

建立一个基本智能体

调试链和代理

实践：实现多步链

第 5 章测验

章节 6: 大型语言模型数据处理：LlamaIndex基础

LlamaIndex 简介

加载数据 (文档、网页)

高效检索的数据索引

理解节点和索引

查询您的已索引数据

动手实践：文档索引与查询

第 6 章测验

章节 7: 构建检索增强生成 (RAG) 系统

检索增强生成原理

将 LlamaIndex/LangChain 整合用于 RAG

向量数据库和嵌入技术概述

搭建一个基础向量库

构建 RAG 流程

评估 RAG 性能指标

实践：构建一个简单的RAG应用

第 7 章测验

章节 8: Python 中的提示工程技术

有效提示的原则

少量样本提示技巧

为复杂任务构建提示词

使用 Python 进行动态指令生成

减少幻觉的方法

迭代式提示词优化

实践：开发和测试提示

第 8 章测验

章节 9: LLM 应用的测试与评估

LLM系统测试中的难题

单元测试组件

集成测试流程

评估策略：指标与人工反馈

使用框架进行评估

LLM 交互的日志记录与监控

实践：为LLM链设置基本测试

第 9 章测验

章节 10: 部署与运维优良实践

打包您的 Python LLM 应用程序

使用 Docker 进行容器化

选择部署策略

API 端点创建 (FastAPI, Flask)

监控已部署的应用程序

LLM项目的版本控制与CI/CD

运行考量与维护

第 10 章测验

集成测试流程

使用 Kerb 更快构建 LLM 应用

简洁的语法。内置调试功能。从第一天起就可投入生产。

为 ApX 背后的 AI 系统而构建

这部分内容有帮助吗？

参考文献

unittest.mock - mock object library, Python Software Foundation, 2024 (Python Software Foundation) - Python 标准库 unittest.mock 的官方文档，对于理解如何在集成测试中有效模拟外部依赖非常重要。
pytest documentation, pytest development team, 2024 - pytest 框架的官方指南，涵盖了其编写可靠和可扩展测试的功能，包括夹具和模拟集成。
Holistic Evaluation of Language Models, Percy Liang, Rishi Bommasani, Tony Lee, Dimitris Tsipras, Dilara Soylu, Michihiro Yasunaga, Yian Zhang, Deepak Narayanan, Yuhuai Wu, Ananya Kumar, Benjamin Newman, Binhang Yuan, Bobby Yan, Ce Zhang, Christian Cosgrove, Christopher D. Manning, Christopher Ré, Diana Acosta-Navas, Drew A. Hudson, Eric Zelikman, Esin Durmus, Faisal Ladhak, Frieda Rong, Hongyu Ren, Huaxiu Yao, Jue Wang, Keshav Santhanam, Laurel Orr, Lucia Zheng, Mert Yuksekgonul, Mirac Suzgun, Nathan Kim, Neel Guha, Niladri Chatterji, Omar Khattab, Peter Henderson, Qian Huang, Ryan Chi, Sang Michael Xie, Shibani Santurkar, Surya Ganguli, Tatsunori Hashimoto, Thomas Icard, Tianyi Zhang, Vishrav Chaudhary, William Wang, Xuechen Li, Yifan Mai, Yuhui Zhang, Yuta Koreeda, 2023 Transactions on Machine Learning Research (TMLR) DOI: 10.48550/arXiv.2211.09110 - 本文提出了一个评估语言模型的综合框架，涵盖了不同的场景和指标，为在集成测试中考虑 LLM 输出的特性以保证质量和可靠性提供了见解。

© 2025 ApX Machine Learning用心打造