趋近智
高级图神经网络：架构与实践
章节 1: 重温图神经网络基础
机器学习中的图表示
消息传递框架再看
图神经网络的谱图理论基础知识
图信号处理思想
表达能力与WL测试
章节 2: 高级图神经网络架构
图卷积网络 (GCN)
图注意力网络 (GAT)
在GAT中实现多头注意力
图Transformer
进阶谱GNN (ChebNet, CayleyNets)
进阶空间GNNs (GraphSAGE变体, PNA)
比较架构选择与权衡
动手实践：GAT层实现
章节 3: 应对GNN训练中的复杂性
过平滑问题
缓解过平滑的技术
过度挤压问题
处理大型图：可扩展性挑战
邻域采样技术 (GraphSAGE)
图采样技术 (GraphSAINT, ShaDow-GNN)
子图与聚类方法 (Cluster-GCN)
图神经网络的优化策略
实践：应用可扩展GNN训练
章节 4: 高级GNN任务与技术
处理异构图 (RGCN, HAN)
动态和时序图的建模
结合GNN的知识图谱嵌入
图生成模型
图上的自监督学习
图池化与读出函数
动手实践：异构图节点分类
章节 5: GNN实现、工具和优化
深度图库 (DGL) 高级功能
PyTorch Geometric (PyG) 高级功能
GNN的高效稀疏矩阵操作
GPU加速与内存管理
图神经网络的调试与可视化
基准测试与性能调优
图神经网络在生产系统中的应用
实践操作：优化GNN的实现
过平滑问题
这部分内容有帮助吗？
- DeeperGCN: All Deep GCNs Are Not Created Equal, Qinqing Li, Zhichao Han, Xiaowen Wu, 2020 Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 34 (AAAI Press) DOI: 10.1609/aaai.v34i04.5879 - 分析深度GNN中的过平滑问题，并提出架构解决方案以减轻其影响。
- Measuring and Improving the Smoothness of Graph Neural Networks, Yuya Oono, Taiji Suzuki, 2020 International Conference on Machine Learning (ICML), Vol. 119 (Proceedings of Machine Learning Research) DOI: 10.5591/00742 - 为理解和量化GNN中节点表示的平滑性提供了理论框架。
- Is a Graph Convolutional Neural Network a Low-Pass Filter?, Naoaki Okumoto, Taiji Maehara, 2019 Proceedings of the NeurIPS Workshop on Graph Representation Learning DOI: 10.48550/arXiv.1905.09457 - 研究GCN的谱特性，解释消息传递如何充当低通滤波器，导致过平滑。
- A Comprehensive Survey on Graph Neural Networks, Zonghan Wu, Shirui Pan, Fengwen Chen, Guodong Long, Chengqi Zhang, S. Yu Philip, 2020 IEEE Transactions on Neural Networks and Learning Systems, Vol. 32 (IEEE) DOI: 10.1109/TNNLS.2020.2970482 - 一篇广泛的GNN综述，其中讨论了过平滑问题及其应对策略。