在尝试了提示词、与API进行交互并使用了框架来构建大型语言模型应用的核心逻辑后,我们现在将关注在实际开发和有效部署这些系统时的考量。构建一个可用的原型只是第一步;为长期使用做准备需要关注其架构、安全、成本和运行维护等方面。本章涵盖了一些重要的做法,旨在帮助您将LLM应用从想法阶段带到一个更易于管理和部署的状态。您将了解到:组织应用程序代码,使其清晰且易于维护。安全地管理API密钥和其他敏感凭证。估算和监控LLM API使用相关成本的方法。实施基本缓存以优化性能并降低开销。测试包含LLM组件的应用程序的方法。适合初步使用的简单部署选项概览,例如无服务器函数或容器化。这里的重点是实际的工程方面,这些方面支持您的LLM驱动软件的可靠运行。