趋近智
构建LLM应用不只是编写核心逻辑。让它为用户可靠运行需要有效的部署和运维管理。本章着重介绍将Python LLM应用从开发环境迁移到生产环境所需的实用步骤。
我们将介绍应用代码打包、使用Docker进行容器化,并考察无服务器函数或虚拟机等不同部署策略。你将学习如何使用FastAPI或Flask等框架创建API端点,使你的应用可以通过网络访问。此外,我们还会关注已部署应用的性能和成本监控,整合版本控制和CI/CD实践以提高可维护性,并讨论确保系统平稳运行的持续运维考量。
10.1 打包您的 Python LLM 应用程序
10.2 使用 Docker 进行容器化
10.3 选择部署策略
10.4 API 端点创建 (FastAPI, Flask)
10.5 监控已部署的应用程序
10.6 LLM项目的版本控制与CI/CD
10.7 运行考量与维护
© 2026 ApX Machine Learning用心打造