趋近智
学完导数、优化原理和梯度后,我们现在将这些知识点与一个实际的机器学习 (machine learning)场景关联起来。本章将说明微积分如何通过优化来辅助模型训练过程。
在此,您将学习如何:
我们将通过一个使用简单线性回归()的例子来学习。您将看到,计算代价函数的偏导数如何使我们能够系统地调整 和 以最小化误差,这说明了训练许多机器学习模型背后的主要运作方式。
5.1 回顾:优化目标与梯度下降
5.2 示例:简单线性回归模型
5.3 为线性回归定义成本函数
5.4 计算成本函数的梯度
5.5 执行梯度下降的单次更新
5.6 学习率参数
5.7 整合:优化过程
5.8 实践操作:手动梯度计算