趋近智

所有课程

章节 1: PyTorch 入门与环境搭建

PyTorch 是什么？

安装与环境配置

基本张量操作

与 NumPy 的关联

动手实践：环境配置与张量基本操作

章节 2: 高级张量操作

张量索引与切片

张量的重塑与维度调整

张量的合并与分割

理解广播机制

张量数据类型

CPU 与 GPU 张量

练习：张量操作技巧

章节 3: Autograd 自动微分

自动微分的原理

PyTorch 计算图

张量与梯度计算 (requires_grad)

执行反向传播 (backward())

访问梯度（.grad）

禁用梯度追踪

动手实践：Autograd 运用

章节 4: 使用 torch.nn 搭建模型

torch.nn.Module 基类

定义自定义网络架构

常见层：线性、卷积、循环

激活函数 (ReLU, Sigmoid, Tanh)

简单模型的顺序容器

损失函数 (torch.nn 损失)

优化器 (torch.optim)

练习：构建一个简单网络

章节 5: 高效数据处理

对专用数据加载器的需求

使用 torch.utils.data.Dataset

内置数据集（例如：TorchVision）

数据变换 (torchvision.transforms)

使用 torch.utils.data.DataLoader

自定义DataLoader用法

动手实践：构建数据处理流程

章节 6: 实现训练循环

训练循环的构成

设置模型、损失函数和优化器

使用 DataLoader 遍历数据

前向传播：获取预测结果

反向传播：计算梯度

使用优化器更新权重

实现评估循环

保存和加载模型检查点

动手实践：完整训练流程

章节 7: 常用模型结构介绍

卷积神经网络 (CNN) 概述

在PyTorch中构建一个简单的CNN

理解CNN层的输入/输出形状

循环神经网络 (RNN) 概述

在PyTorch中构建一个简单的RNN

循环神经网络（RNN）的序列数据输入处理

LSTM 和 GRU 简要介绍

实践：实现基本CNN和RNN

章节 8: 监控与调试模型

PyTorch开发中常见错误

调试张量形状不匹配

检查设备放置 (CPU/GPU)

检查梯度问题（消失/爆炸）

使用 TensorBoard 可视化训练进度

训练/评估期间的指标记录

在 PyTorch 中使用 Python 调试器 (pdb)

实践：调试与可视化

梯度清零

这部分内容有帮助吗？

参考文献

torch.optim, PyTorch Authors, 2025 (PyTorch Foundation) - PyTorch优化器的官方文档，详细说明了zero_grad()方法及其在每次训练迭代中重置梯度的作用。
Deep Learning, Ian Goodfellow, Yoshua Bengio, Aaron Courville, 2016 (MIT Press) - 一本基础性教科书，解释了反向传播、梯度下降和神经网络优化过程的理论基础。
Training a Classifier, PyTorch Authors, 2024 (PyTorch) - PyTorch官方教程，演示了神经网络的完整训练循环，包括optimizer.zero_grad()的正确位置和使用。

© 2025 ApX Machine Learning