趋近智
机器学习微积分入门
章节 1: 机器学习为何需要微积分？
数学在机器学习中的地位
函数介绍：输入与输出
函数的可视化：图
什么是极限？
对极限的直观理解
函数与极限在机器学习中的关联
第 1 章测验
章节 2: 导数：衡量变化
变化率：平均变化率与瞬时变化率
导数：切线的斜率
导数记法（莱布尼茨和拉格朗日）
导数的计算：幂法则
导数计算：常数与和
高阶导数介绍
练习：计算简单导数
第 2 章测验
章节 3: 导数优化
寻找最大值和最小值点
优化：为什么最小化或最大化？
机器学习中的代价函数
目标：最小化成本函数
梯度下降简介
导数如何指导梯度下降
梯度下降的可视化
第 3 章测验
章节 4: 处理多输入：偏导数
多变量函数
偏导数：其思想
计算偏导数
偏导数记法
梯度向量
梯度的几何含义
练习：计算偏导数和梯度
第 4 章测验
章节 5: 微积分的运用：简单优化
回顾：优化目标与梯度下降
示例：简单线性回归模型
为线性回归定义成本函数
计算成本函数的梯度
执行梯度下降的单次更新
学习率参数
整合：优化过程
实践操作：手动梯度计算
第 5 章测验
学习率参数
这部分内容有帮助吗？
- Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, 2016 (MIT Press) - 一本全面的教科书，涵盖了梯度下降和学习率作为优化算法中的核心超参数。第8章“用于训练深度模型的优化”尤为有用。
- CS229 Lecture Notes - Supervised Learning, Part I, Andrew Ng, Tengyu Ma, 2022 (Stanford University) - 斯坦福大学机器学习课程官方讲义的一部分，提供了梯度下降和在线性回归背景下学习率设置的基础解释。
- Adam: A Method for Stochastic Optimization, Diederik P. Kingma and Jimmy Ba, 2014 International Conference on Learning Representations (ICLR 2015) DOI: 10.48550/arXiv.1412.6980 - 这篇基础论文介绍了 Adam 优化器，这是一种广泛采用的自适应学习率算法。它提供了关于如何动态调整学习率的见解，这是作为高级主题提及的一个概念。
© 2025 ApX Machine LearningEngineered with