在尝试了提示词 (prompt)、与API进行交互并使用了框架来构建大型语言模型应用的核心逻辑后，我们现在将关注在实际开发和有效部署这些系统时的考量。构建一个可用的原型只是第一步；为长期使用做准备需要关注其架构、安全、成本和运行维护等方面。

本章涵盖了一些重要的做法，旨在帮助您将LLM应用从想法阶段带到一个更易于管理和部署的状态。您将了解到：

• 组织应用程序代码，使其清晰且易于维护。
• 安全地管理API密钥和其他敏感凭证。
• 估算和监控LLM API使用相关成本的方法。
• 实施基本缓存以优化性能并降低开销。
• 测试包含LLM组件的应用程序的方法。
• 适合初步使用的简单部署选项概览，例如无服务器函数或容器化。

这里的重点是实际的工程方面，这些方面支持您的LLM驱动软件的可靠运行。