趋近智
模型训练完成后,下一步就是准备模型以对新数据进行预测。本章主要讲解如何将训练好的机器学习 (machine learning)模型和必要的推理 (inference)代码打包到 Docker 容器中。目的是构建自包含、高效的单元,用于提供预测服务。
你将掌握以下实用方法:
学完本章后,你将能够构建优化的 Docker 容器,用于为训练好的机器学习模型提供服务。
5.1 设计推理服务
5.2 构建推理API (Flask/FastAPI)
5.3 优化镜像大小:多阶段构建
5.4 减少推理时的依赖项
5.5 对外开放端口用于API访问
5.6 推理容器的健康检查
5.7 实操:容器化简单推理API