趋近智
模型可解释性：SHAP与LIME方法
章节 1: 模型可解释性的基本原理
为何解释模型预测结果？
可解释性与解释性
可解释性方法分类
解释的范围：整体与个体
模型解释中的挑战
章节 2: 局部可解释模型无关解释 (LIME)
LIME 的基本思想
LIME 的工作原理：扰动与替代模型
将 LIME 应用于表格数据
LIME 在文本数据上的应用
解读 LIME 解释
使用 Python 实现 LIME
LIME的局限性与注意事项
动手实践：生成 LIME 解释
章节 3: SHapley 可加性解释 (SHAP)
Shapley 值概述
SHAP 值：Shapley 值与模型特征的关联
SHAP 值的特性
KernelSHAP：一种与模型无关的方法
TreeSHAP：针对树模型优化
解读 SHAP 图：力图
解读SHAP图：概览图与依赖图
SHAP 在 Python 中的实现
SHAP值计算：动手实践
章节 4: 比较与应用可解释性技术
LIME 与 SHAP：区别
LIME 与 SHAP：优点与不足
选择LIME和SHAP
回归模型解释的理解
分类模型解释的理解
将可解释性融入机器学习工作流程
权衡与局限性
实践：对比 LIME 和 SHAP 输出
模型解释中的挑战
这部分内容有帮助吗？
- Interpretable Machine Learning: A Guide for Making Black Box Models Explainable, Christoph Molnar, 2024 (Self-published (available online)) - 全面概述了模型可解释性，涵盖了各种方法，并明确讨论了准确性-可解释性权衡、忠实性和评估等挑战。
- Why Should I Trust You? Explaining the Predictions of Any Classifier, Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin, 2016 Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (ACM) DOI: 10.1145/2939672.2939778 - 介绍了LIME，一种局部模型无关的解释方法，强调了后验解释中局部忠实性的挑战。
- A Unified Approach to Interpreting Model Predictions, Scott Lundberg, Su-In Lee, 2017 Advances in Neural Information Processing Systems 30, Vol. 30 DOI: 10.48550/arXiv.1705.07874 - 提出了基于Shapley值的SHAP模型预测解释方法，解决了精确解的计算开销和特征依赖性等问题。