趋近智
生产环境中机器学习模型的监控与管理
章节 1: 生产环境机器学习监控系统要点
监控机器学习模型的独特挑战
监控范围：数据、预测、性能、基础设施
机器学习模型服务水平目标 (SLO)
监控系统的架构模式
将监控融入MLOps生命周期
章节 2: 高级漂移检测技术
基本统计检验用于漂移检测的局限性
多变量数据漂移检测方法
序列分析以加快漂移检测
数据关联性漂移识别策略
运用对抗性验证进行漂移评估
监测嵌入和非结构化数据中的漂移
实施自定义漂移检测逻辑
动手实践：多元漂移的实现
章节 3: 精细性能监控与诊断
选择合适的性能指标
数据切片与分段的性能监控
模型公平性与偏见的监控方法
分析离群值与异常点的影响
性能下降的根本原因分析
运用可解释性方法（SHAP、LIME）进行诊断
实践：借助可解释性诊断性能问题
章节 4: 自动化再训练和模型更新策略
设计再训练触发器：阈值与事件
针对模型再训练的数据策略：窗口、增量与完整数据集
候选模型的自动化验证
在线学习系统对比批量再训练
高级部署模式：金丝雀发布和影子测试
实现自动化回滚机制
实践操作：构建自动化模型再训练触发器
章节 5: 可扩展监控的基础设施和工具
高并发预测服务的日志记录策略
时序数据库在监控指标中的应用
监控流程的分布式架构
与MLOps平台（如Kubeflow、MLflow、SageMaker）的整合
机器学习监控专用工具和服务
构建有效的监控仪表盘和预警
实践：使用MLflow和Grafana设置监控
章节 6: 生产环境中模型治理与合规性管理
高级模型版本管理与血缘追踪
建立预测和模型更新的审计追踪
随时间监控可解释性和可理解性
监控数据中的数据隐私考量
监控系统的访问控制与安全
将监控系统与模型风险管理框架整合
动手实践：实现模型注册表钩子以进行治理
选择合适的性能指标
这部分内容有帮助吗？
- Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, Aurélien Géron, 2019 (O'Reilly Media) - 一份实用的机器学习实现指南，其中包含对分类和回归任务常见性能指标的详细解释。
- Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications, Chip Huyen, 2022 (O'Reilly Media) - 本书讨论了在生产环境中设计和运行机器学习系统的实际考虑因素，侧重于选择和监控适当的业务影响指标。
- The Relationship Between Precision-Recall and ROC Curves, Jesse Davis, Mark Goadrich, 2006 Proceedings of the 23rd International Conference on Machine Learning (ICML) (ACM) DOI: 10.1145/1143844.1143874 - 一篇基础性论文，讨论了在评估分类器时，尤其是在数据不平衡的情况下，精确度-召回率曲线相对于ROC曲线的优势。
- CS229 Lecture Notes: Supervised Learning, Generative Learning Algorithms, Support Vector Machines, Andrew Ng and Stanford University, 2023 (Stanford University) - 斯坦福大学机器学习课程笔记，包含机器学习基础概念，并详细讨论了模型评估指标及其应用。