趋近智
高级图神经网络：架构与实践
章节 1: 重温图神经网络基础
机器学习中的图表示
消息传递框架再看
图神经网络的谱图理论基础知识
图信号处理思想
表达能力与WL测试
章节 2: 高级图神经网络架构
图卷积网络 (GCN)
图注意力网络 (GAT)
在GAT中实现多头注意力
图Transformer
进阶谱GNN (ChebNet, CayleyNets)
进阶空间GNNs (GraphSAGE变体, PNA)
比较架构选择与权衡
动手实践：GAT层实现
章节 3: 应对GNN训练中的复杂性
过平滑问题
缓解过平滑的技术
过度挤压问题
处理大型图：可扩展性挑战
邻域采样技术 (GraphSAGE)
图采样技术 (GraphSAINT, ShaDow-GNN)
子图与聚类方法 (Cluster-GCN)
图神经网络的优化策略
实践：应用可扩展GNN训练
章节 4: 高级GNN任务与技术
处理异构图 (RGCN, HAN)
动态和时序图的建模
结合GNN的知识图谱嵌入
图生成模型
图上的自监督学习
图池化与读出函数
动手实践：异构图节点分类
章节 5: GNN实现、工具和优化
深度图库 (DGL) 高级功能
PyTorch Geometric (PyG) 高级功能
GNN的高效稀疏矩阵操作
GPU加速与内存管理
图神经网络的调试与可视化
基准测试与性能调优
图神经网络在生产系统中的应用
实践操作：优化GNN的实现
GPU加速与内存管理
这部分内容有帮助吗？
- CUDA C++ Programming Guide, NVIDIA Corporation, 2024 (NVIDIA Corporation) - 提供关于GPU架构和使用CUDA C++进行并行编程的基础信息。
- PyTorch Geometric Documentation, Matthias Fey and Jan E. Lenssen, 2024 - 提供使用PyTorch Geometric的实用说明和示例，包括GPU加速。
- Deep Graph Library (DGL) Documentation, Deep Graph Library Contributors, 2024 - 包含有效使用深度图库（DGL）的资源，涵盖GPU加速和图处理。
- Mixed-Precision Training, Paulius Micikevicius, Sharan Narang, Jonah Alben, Gregory Diamos, Erich Elsen, David Garcia, Boris Ginsburg, Michael Houston, Oleksii Kuchaiev, Ganesh Venkatesh, Hao Wu, 2018 ICLR 2018 DOI: 10.48550/arXiv.1710.03740 - 介绍使用半精度浮点数（FP16）进行混合精度训练的方法，以减少内存消耗并加速深度学习模型。
- Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks, Wei-Lin Chiang, Xuanqing Liu, Si Si, Yang Li, Samy Bengio, Cho-Jui Hsieh, 2019 KDD '19: Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining (ACM) DOI: 10.1145/3292500.3330925 - 提出一种高效的图卷积网络小批量训练算法，通过图聚类采样子图以提高可扩展性。