ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价
ApX 标志ApX 标志

趋近智

大模型显存计算器硬件课程定价

所有课程

机器学习微积分入门
章节 1: 机器学习为何需要微积分?
数学在机器学习中的地位
函数介绍:输入与输出
函数的可视化:图
什么是极限?
对极限的直观理解
函数与极限在机器学习中的关联
第 1 章测验
章节 2: 导数:衡量变化
变化率:平均变化率与瞬时变化率
导数:切线的斜率
导数记法(莱布尼茨和拉格朗日)
导数的计算:幂法则
导数计算:常数与和
高阶导数介绍
练习:计算简单导数
第 2 章测验
章节 3: 导数优化
寻找最大值和最小值点
优化:为什么最小化或最大化?
机器学习中的代价函数
目标:最小化成本函数
梯度下降简介
导数如何指导梯度下降
梯度下降的可视化
第 3 章测验
章节 4: 处理多输入:偏导数
多变量函数
偏导数:其思想
计算偏导数
偏导数记法
梯度向量
梯度的几何含义
练习:计算偏导数和梯度
第 4 章测验
章节 5: 微积分的运用:简单优化
回顾:优化目标与梯度下降
示例:简单线性回归模型
为线性回归定义成本函数
计算成本函数的梯度
执行梯度下降的单次更新
学习率参数
整合:优化过程
实践操作:手动梯度计算
第 5 章测验

对极限的直观理解

我们已经见过极限的形式化定义:思考当函数的输入越来越接近某个点时,函数值会趋近于哪个数值。但这在实践中到底是什么含义呢?让我们建立一些直观认识。

想象一下,您正在观察一个函数的图表,例如简单的线性函数 f(x)=2x+1f(x) = 2x + 1f(x)=2x+1。极限可以理解为在问:“如果我用手指沿着图表描绘,当输入值(比如 x=3x=3x=3)极其接近某个点时,我的手指在垂直轴(即 f(x)f(x)f(x) 值)上看起来会指向何处?”

让我们以 f(x)=2x+1f(x) = 2x + 1f(x)=2x+1 为例,当 xxx 趋近于 3 时,进行尝试。我们不是在问 f(3)f(3)f(3) 究竟是多少(尽管在这个简单情形下,它是 2(3)+1=72(3) + 1 = 72(3)+1=7)。相反,我们是在查看 x=3x=3x=3 周围的“邻域”。

考虑略微 小于 3 的 xxx 值:

  • 如果 x=2.9x = 2.9x=2.9,那么 f(x)=2(2.9)+1=5.8+1=6.8f(x) = 2(2.9) + 1 = 5.8 + 1 = 6.8f(x)=2(2.9)+1=5.8+1=6.8
  • 如果 x=2.99x = 2.99x=2.99,那么 f(x)=2(2.99)+1=5.98+1=6.98f(x) = 2(2.99) + 1 = 5.98 + 1 = 6.98f(x)=2(2.99)+1=5.98+1=6.98
  • 如果 x=2.999x = 2.999x=2.999,那么 f(x)=2(2.999)+1=5.998+1=6.998f(x) = 2(2.999) + 1 = 5.998 + 1 = 6.998f(x)=2(2.999)+1=5.998+1=6.998

现在,考虑略微 大于 3 的 xxx 值:

  • 如果 x=3.1x = 3.1x=3.1,那么 f(x)=2(3.1)+1=6.2+1=7.2f(x) = 2(3.1) + 1 = 6.2 + 1 = 7.2f(x)=2(3.1)+1=6.2+1=7.2
  • 如果 x=3.01x = 3.01x=3.01,那么 f(x)=2(3.01)+1=6.02+1=7.02f(x) = 2(3.01) + 1 = 6.02 + 1 = 7.02f(x)=2(3.01)+1=6.02+1=7.02
  • 如果 x=3.001x = 3.001x=3.001,那么 f(x)=2(3.001)+1=6.002+1=7.002f(x) = 2(3.001) + 1 = 6.002 + 1 = 7.002f(x)=2(3.001)+1=6.002+1=7.002

注意到规律了吗?当 xxx 从任一侧越来越接近 3 时,输出值 f(x)f(x)f(x) 越来越接近 7。这个值 7 就是函数 f(x)=2x+1f(x) = 2x + 1f(x)=2x+1 当 xxx 趋近于 3 时的极限。我们将其数学表示为:

lim⁡x→3(2x+1)=7\lim_{x \to 3} (2x + 1) = 7x→3lim​(2x+1)=7

下图有助于直观地显示这一点。当我们在直线上选取越来越接近 x=3x=3x=3 的垂直线的点时,函数上对应的点会越来越接近高度 y=7y=7y=7。

当输入值 x 从左侧(如 2.9, 2.99)和右侧(如 3.1, 3.01)都越来越接近 3 时,输出值 f(x) 越来越接近 7。极限描述的就是这个目标值 7。

这个定义中重要的一点是“逼近一个值,但不一定达到它”。对于许多简单的函数,例如 f(x)=2x+1f(x) = 2x + 1f(x)=2x+1,当 xxx 趋近于点 aaa 时,极限就是函数在该点的值 f(a)f(a)f(a)。然而,极限的这个想法更具普适性。它使我们能够分析函数行为,即使在函数可能未定义的点上(比如图表上有一个“洞”,尽管我们在这里不会特别关注这些复杂情况)。极限关注的是当输入任意接近某个特定值时,函数输出的 趋势。

为什么要花时间在“逼近”这个想法上呢?因为它构成理解导数的根本,导数衡量的是 瞬时 变化率。我们需要无限接近一个点的想法,才能讨论 在该点 的斜率或变化。我们会在下一章清楚地看到这种联系。

  • 18.01SC Single Variable Calculus (Fall 2010), Prof. David Jerison, 2010 (MIT OpenCourseWare) - 提供视频讲座和配套笔记,清晰地解释了极限的直观理解,使复杂概念易于掌握。
  • Mathematics for Machine Learning, Marc Peter Deisenroth, A. Aldo Faisal, and Cheng Soon Ong, 2020 (Cambridge University Press) - 包含微积分的基础回顾,包括极限的直观基础,对机器学习从业者有帮助。

© 2026 ApX Machine Learning