趋近智
模型可解释性：SHAP与LIME方法
章节 1: 模型可解释性的基本原理
为何解释模型预测结果？
可解释性与解释性
可解释性方法分类
解释的范围：整体与个体
模型解释中的挑战
章节 2: 局部可解释模型无关解释 (LIME)
LIME 的基本思想
LIME 的工作原理：扰动与替代模型
将 LIME 应用于表格数据
LIME 在文本数据上的应用
解读 LIME 解释
使用 Python 实现 LIME
LIME的局限性与注意事项
动手实践：生成 LIME 解释
章节 3: SHapley 可加性解释 (SHAP)
Shapley 值概述
SHAP 值：Shapley 值与模型特征的关联
SHAP 值的特性
KernelSHAP：一种与模型无关的方法
TreeSHAP：针对树模型优化
解读 SHAP 图：力图
解读SHAP图：概览图与依赖图
SHAP 在 Python 中的实现
SHAP值计算：动手实践
章节 4: 比较与应用可解释性技术
LIME 与 SHAP：区别
LIME 与 SHAP：优点与不足
选择LIME和SHAP
回归模型解释的理解
分类模型解释的理解
将可解释性融入机器学习工作流程
常见问题与注意事项
实践：对比 LIME 和 SHAP 输出
SHAP 值：Shapley 值与模型特征的关联
这部分内容有帮助吗？
- A Unified Approach to Interpreting Model Predictions, Scott M. Lundberg, Su-In Lee, 2017 Advances in Neural Information Processing Systems 30, Vol. 30 (Curran Associates, Inc.) DOI: 10.5555/3295222.3295230 - 介绍 SHAP 框架、其博弈论特性以及 KernelSHAP 和 TreeSHAP 等近似算法的奠基性论文。
- A Value for n-person Games, Lloyd S. Shapley, 1953 Contributions to the Theory of Games, Volume II, Vol. II (Princeton University Press) DOI: 10.1515/9781400881970-018 - 介绍合作博弈论中 Shapley 值的原始论文，SHAP 正是基于此。
- Interpretable Machine Learning: A Guide for Making Black Box Models Explainable, Christoph Molnar, 2024 - 一本全面的开源书籍，其中有一章专门详细介绍 SHAP 值、其属性和实际应用。
- SHAP (SHapley Additive exPlanations) GitHub Repository, Scott Lundberg, et al., 2024 - SHAP 官方开源 Python 库，提供各种模型和算法的实现以及文档。