趋近智

所有课程

章节 1: PyTorch 入门与环境搭建

PyTorch 是什么？

安装与环境配置

基本张量操作

与 NumPy 的关联

动手实践：环境配置与张量基本操作

章节 2: 高级张量操作

张量索引与切片

张量的重塑与维度调整

张量的合并与分割

理解广播机制

张量数据类型

CPU 与 GPU 张量

练习：张量操作技巧

章节 3: Autograd 自动微分

自动微分的原理

PyTorch 计算图

张量与梯度计算 (requires_grad)

执行反向传播 (backward())

访问梯度（.grad）

禁用梯度追踪

动手实践：Autograd 运用

章节 4: 使用 torch.nn 搭建模型

torch.nn.Module 基类

定义自定义网络架构

常见层：线性、卷积、循环

激活函数 (ReLU, Sigmoid, Tanh)

简单模型的顺序容器

损失函数 (torch.nn 损失)

优化器 (torch.optim)

练习：构建一个简单网络

章节 5: 高效数据处理

对专用数据加载器的需求

使用 torch.utils.data.Dataset

内置数据集（例如：TorchVision）

数据变换 (torchvision.transforms)

使用 torch.utils.data.DataLoader

自定义DataLoader用法

动手实践：构建数据处理流程

章节 6: 实现训练循环

训练循环的构成

设置模型、损失函数和优化器

使用 DataLoader 遍历数据

前向传播：获取预测结果

反向传播：计算梯度

使用优化器更新权重

实现评估循环

保存和加载模型检查点

动手实践：完整训练流程

章节 7: 常用模型结构介绍

卷积神经网络 (CNN) 概述

在PyTorch中构建一个简单的CNN

理解CNN层的输入/输出形状

循环神经网络 (RNN) 概述

在PyTorch中构建一个简单的RNN

循环神经网络（RNN）的序列数据输入处理

LSTM 和 GRU 简要介绍

实践：实现基本CNN和RNN

章节 8: 监控与调试模型

PyTorch开发中常见错误

调试张量形状不匹配

检查设备放置 (CPU/GPU)

检查梯度问题（消失/爆炸）

使用 TensorBoard 可视化训练进度

训练/评估期间的指标记录

在 PyTorch 中使用 Python 调试器 (pdb)

实践：调试与可视化

自动微分的原理

这部分内容有帮助吗？

参考文献

Evaluating Derivatives: Principles and Techniques of Automatic Differentiation, Andreas Griewank, Andrea Walther, 2008 (SIAM) DOI: 10.1137/1.9780898717752 - 自动微分的标准且全面的参考文献，详细介绍了其数学原理以及前向和反向模式的算法。
Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, 2016 (MIT Press) - 一本内容全面的教科书，其中第八章解释了反向传播作为神经网络中反向模式自动微分的应用。
Autograd mechanics, PyTorch Contributors, 2024 - PyTorch 官方文档，解释了其 Autograd 引擎的内部工作原理，包括计算图和用于梯度计算的反向传播。

© 2025 ApX Machine Learning