趋近智
计算机视觉应用中的高级卷积神经网络
章节 1: 回顾CNN核心与现代架构
卷积神经网络构建模块简要回顾
CNN 架构的演变：从 AlexNet 到 ResNet
理解残差连接与跳跃架构
Inception 模块和网络中的网络思想
DenseNet：架构与连接模式
EfficientNet：模型复合缩放
架构设计选择与权衡
现代架构构建实践
章节 2: 高级训练与优化方法
高级优化算法
学习率策略和周期性学习率
正则化再论：进阶方法
批量归一化内部运作及替代方案
深度网络的权重初始化策略
梯度裁剪与梯度流动缓解
混合精度训练的基本原理
深度CNN训练的调试与监控
动手实践：实现高级训练循环
章节 3: 目标检测算法
两阶段检测器：R-CNN 系列
区域候选网络解析
单阶段检测器：YOLO系列
单阶段检测器：SSD 和 RetinaNet
锚框：设计与优化
非极大值抑制的变体
目标检测的评估指标
目标检测器实现练习
章节 4: 图像分割技术
语义分割与实例分割
全卷积网络用于图像分割
编码器-解码器架构：U-Net 和 SegNet
用于图像分割的空洞（Atrous）卷积
DeepLab 系列：空洞空间金字塔池化
实例分割方法 (Mask R-CNN)
分割的评估指标
实践操作：构建语义分割模型
章节 5: 视觉中的注意力机制与Transformer
CNN中的自注意力机制
非局部神经网络
视觉Transformer简介
ViT 架构：图像块、嵌入和 Transformer 编码器
混合CNN-Transformer模型
CNN与Transformer在视觉任务中的比较
在CNN中实现注意力模块的实践
章节 6: 高级迁移学习与域适应
回顾迁移学习策略
微调与特征提取：高级考量
使模型适应不同数据分布
域泛化概述
基于CNN的小样本学习
视觉自监督学习预训练
动手实践：在特定数据集上微调模型
章节 7: 生成对抗网络用于图像合成
GAN 基本原理回顾
训练生成对抗网络的挑战
深度卷积生成对抗网络 (DCGAN)
条件GANs用于可控生成
StyleGAN 架构与基于风格的生成
GAN 的评估指标
图像生成实践中的DCGAN实现
章节 8: 模型压缩与高效深度学习
高效模型的动因
网络剪枝技术
知识蒸馏方法
量化：降低模型精度
设计高效架构
神经网络架构搜索概览
动手实践：应用剪枝与量化
神经网络架构搜索概览
这部分内容有帮助吗？
- Neural Architecture Search with Reinforcement Learning, Barret Zoph, Quoc V. Le, 2017 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.1611.01578 - 介绍了如何使用强化学习来自动化设计神经网络架构。
- Efficient Neural Architecture Search via Parameter Sharing, Hieu Pham, Melody Y. Guan, Barret Zoph, Quoc V. Le, Jeff Dean, 2018 International Conference on Machine Learning (ICML) DOI: 10.48550/arXiv.1802.03268 - 提出了ENAS，一种通过参数共享显著降低NAS计算成本的方法。
- DARTS: Differentiable Architecture Search, Hanxiao Liu, Karen Simonyan, Yiming Yang, 2019 International Conference on Learning Representations (ICLR) DOI: 10.48550/arXiv.1806.09055 - 提出了DARTS，一种基于梯度的NAS算法，可以通过梯度下降实现高效的架构搜索。
- Neural Architecture Search: A Survey, Thomas Elsken, Jan Hendrik Metzen, Frank Hutter, 2019 Journal of Machine Learning Research (JMLR), Vol. 20 DOI: 10.48550/arXiv.1808.05377 - 对NAS的组成部分、策略和挑战进行了全面的分类和讨论。