趋近智
高级对抗性机器学习
章节 1: 对抗性机器学习安全的基本原理
机器学习安全弱点概述
机器学习中的威胁模型
攻击面：训练与推理
对抗样本的数学表述
对抗性攻击的分类体系
防御策略概览
章节 2: 进阶规避攻击
基于梯度的攻击：FGSM、BIM、PGD分析
基于优化的攻击：Carlini & Wagner 方法
基于评分的攻击技术
基于判定的攻击方法
对抗样本的可迁移性
攻击集成模型
实现规避攻击：动手实践
章节 3: 数据投毒和后门攻击
投毒攻击策略：可用性与完整性
定向数据投毒技术
后门攻击机制与触发器设计
干净标签投毒攻击
分析投毒对模型训练的影响
构建数据投毒攻击：动手实践
章节 4: 模型推断与隐私攻击
成员推断攻击：理论与方法
属性推断技术
模型反演与重建攻击
模型窃取：功能提取方法
与差分隐私的关联
成员身份推断的实际操作
章节 5: 强大的防御机制
对抗训练：原理与变体
可认证防御：随机平滑
输入转换防御
梯度遮蔽与模糊问题
应对投毒和后门攻击
对抗训练的实现：动手操作
章节 6: 评估模型抗攻击能力
对抗鲁棒性的衡量指标
基准测试工具与框架
自适应攻击：正确评估防御措施
不同威胁模型下的安全评估
解释鲁棒性评估结果
设置鲁棒性基准：实践操作
章节 7: 对抗样本在特定应用场景
针对计算机视觉模型的对抗性攻击
为NLP模型生成对抗性文本
对强化学习智能体的攻击
物理对抗性攻击
特定应用场景的攻击考量
生成对抗性文本：实践
分析投毒对模型训练的影响
这部分内容有帮助吗？
- BadNets: Identifying Vulnerabilities in Deep Neural Networks through Backdoor Attacks, Tianyu Gu, Brendan Dolan-Gavitt, Siddharth Garg, 2017 arXiv preprint arXiv:1708.06733 DOI: 10.48550/arXiv.1708.06733 - 展示了针对深度神经网络的早期后门攻击，详细介绍了攻击设置和评估指标，如攻击成功率和良性准确率。
- Poisoning Attacks against Support Vector Machines, Battista Biggio, Blaine Nelson, and Pavel Laskov, 2012 Proceedings of the 29th International Conference on Machine Learning (ICML), Vol. JMLR Workshop and Conference Proceedings 2012 (Omnipress) - 展示了数据中毒攻击，其中攻击者注入恶意训练样本以降低模型性能（可用性攻击）。
- A Survey on Data Poisoning Attacks and Defenses in Machine Learning, Niveditha Munusamy and S. Prabha, 2022 Journal of Ambient Intelligence and Humanized Computing, Vol. 13 (Springer) DOI: 10.1007/s12652-022-03913-6 - 全面概述了各种数据中毒攻击及其评估指标，以及防御策略。
- Understanding Black-box Predictions via Influence Functions, Pang Wei Koh and Percy Liang, 2017 Proceedings of the 34th International Conference on Machine Learning, Vol. 70 (PMLR) DOI: 10.5555/3305890.3305963 - 介绍了影响函数，用以理解单个训练数据点对模型预测的影响，这与分析中毒数据效果相关。
- Network Dissection: Quantifying Interpretability of Deep Visual Representations, David Bau, Bolei Zhou, Aditya Khosla, Aude Oliva, Antonio Torralba, 2017 Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (IEEE) DOI: 10.1109/CVPR.2017.693 - 提出了一种量化评估深度神经网络中单个神经元可解释性的方法，适用于分析因后门引起的内部表示变化。