趋近智
神经网络入门
章节 1: 神经网络基本原理
从生物神经元到人工神经元
权重和偏置：网络的参数
激活函数：引入非线性
网络结构：层与连接
一个简单的前馈网络示例
实践：计算神经元输出
章节 2: 为神经网络准备数据
理解输入数据表示
特征缩放：归一化与标准化
处理分类数据：编码技术
构建训练数据批次
数据划分：训练集、验证集和测试集
实践操作：预处理样本数据
章节 3: 前向传播：生成预测结果
网络中的信息流动
线性变换：加权和计算
逐层应用激活函数
高效计算的矩阵运算
计算最终输出预测
动手实践：实现前向传播
章节 4: 训练：反向传播与梯度下降
评估性能：损失函数
梯度下降的原理
反向传播：高效计算梯度
更新权重和偏差
学习率及其作用
随机梯度下降 (SGD) 及其变体
实践：手动计算梯度
章节 5: 构建与训练简单神经网络
搭建网络结构
初始化权重与偏置
训练循环的结构
实现训练步骤
监控训练进程
深度学习框架（TensorFlow/PyTorch）简介
动手实践：训练一个简单分类器
章节 6: 提升网络性能及泛化能力
理解过拟合和欠拟合
验证集的作用
正则化方法：L1 和 L2
Dropout：随机停用神经元
早期停止：优化训练终止
超参数调优策略
实践：应用正则化
逐层应用激活函数
这部分内容有帮助吗？
- Deep Learning, Ian Goodfellow, Yoshua Bengio, and Aaron Courville, 2016 (MIT Press) - 一本权威教材，涵盖了深度学习的理论基础和实际应用，包括对激活函数的全面讨论。
- Deep Sparse Rectifier Networks, Xavier Glorot, Antoine Bordes, and Yoshua Bengio, 2011 Proceedings of the Fourteenth International Conference on Artificial Intelligence and Statistics (AISTATS), Vol. 15 (Proceedings of Machine Learning Research (PMLR)) DOI: 10.55986/aistats2011.glorot11a - 介绍了整流线性单元（ReLU）激活函数，并展示了其在深度神经网络中的优势。
- CS231n: Convolutional Neural Networks for Visual Recognition, Neural Networks Part 2: Setting up the Data and the Layers, Stanford University CS231n Course Staff, 2023 - 提供了关于神经网络层（包括激活函数及其引入非线性的作用）的清晰简洁的解释。