构建LLM应用不只是编写核心逻辑。让它为用户可靠运行需要有效的部署和运维管理。本章着重介绍将Python LLM应用从开发环境迁移到生产环境所需的实用步骤。我们将介绍应用代码打包、使用Docker进行容器化,并考察无服务器函数或虚拟机等不同部署策略。你将学习如何使用FastAPI或Flask等框架创建API端点,使你的应用可以通过网络访问。此外,我们还会关注已部署应用的性能和成本监控,整合版本控制和CI/CD实践以提高可维护性,并讨论确保系统平稳运行的持续运维考量。