趋近智
机器学习微积分要点
章节 1: 简介：微积分在机器学习中为何重要
机器学习中的函数和模型
机器学习中的优化思想
衡量变化：导数的作用
微积分：理解算法的工具
章节 2: 单变量微积分：导数与优化
理解极限：根本原理
导数的定义
常见求导法则
高阶导数
通过导数求极小值和极大值
实际运用：简单成本函数优化
动手实践：使用 Python 计算导数
章节 3: 多变量微积分：梯度与方向
多变量函数
偏导数
梯度向量
方向导数
海森矩阵
多变量优化原理
NumPy 梯度计算实践
章节 4: 梯度下降算法
梯度下降的直观原理
梯度下降算法的步骤
学习率参数
批梯度下降
随机梯度下降 (SGD)
小批量梯度下降
挑战：局部最小值与鞍点
动手实践：实现简单的梯度下降
章节 5: 链式法则与反向传播
回顾单变量链式法则
多变量函数的链式法则
神经网络作为复合函数的介绍
反向传播：链式法则的应用
计算权重和偏置的梯度
计算图
动手实践：手动反向传播示例
机器学习中的函数和模型
这部分内容有帮助吗？
- An Introduction to Statistical Learning with Applications in R, Gareth James, Daniela Witten, Trevor Hastie, Rob Tibshirani, 2013 (Springer) DOI: 10.1007/978-1-4614-7138-7 - 统计学习方法的经典入门书籍，清晰地解释了线性模型、参数以及模型的函数视角。
- Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, 2016 (MIT Press) - 为机器学习提供了严谨的理论基础，其中第五章详细解释了监督学习、模型参数以及如何将模型表示为函数。
- Mathematics for Machine Learning, Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong, 2020 (Cambridge University Press) DOI: 10.1017/9781108679989 - 专门涵盖机器学习所需的数学基础，包括线性代数、微积分和概率，并将其直接与模型建立和优化联系起来。
- Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, Aurélien Géron, 2022 (O'Reilly Media) - 提供了一种非常实用且易于理解的机器学习概念入门方法，通过具体示例说明了模型如何运作、其参数以及数据在训练中的作用。