趋近智
在尝试了提示词、与API进行交互并使用了框架来构建大型语言模型应用的核心逻辑后,我们现在将关注在实际开发和有效部署这些系统时的考量。构建一个可用的原型只是第一步;为长期使用做准备需要关注其架构、安全、成本和运行维护等方面。
本章涵盖了一些重要的做法,旨在帮助您将LLM应用从想法阶段带到一个更易于管理和部署的状态。您将了解到:
这里的重点是实际的工程方面,这些方面支持您的LLM驱动软件的可靠运行。
8.1 大语言模型应用代码组织
8.2 管理 API 密钥和机密信息
8.3 成本估算与监控
8.4 基本缓存策略
8.5 大型语言模型应用测试
8.6 简单部署选项(无服务器、容器)
8.7 动手实践:一个简单LLM应用的容器化
© 2026 ApX Machine Learning用心打造