趋近智
高级图神经网络：架构与实践
章节 1: 重温图神经网络基础
机器学习中的图表示
消息传递框架再看
图神经网络的谱图理论基础知识
图信号处理思想
表达能力与WL测试
章节 2: 高级图神经网络架构
图卷积网络 (GCN)
图注意力网络 (GAT)
在GAT中实现多头注意力
图Transformer
进阶谱GNN (ChebNet, CayleyNets)
进阶空间GNNs (GraphSAGE变体, PNA)
比较架构选择与权衡
动手实践：GAT层实现
章节 3: 应对GNN训练中的复杂性
过平滑问题
缓解过平滑的技术
过度挤压问题
处理大型图：可扩展性挑战
邻域采样技术 (GraphSAGE)
图采样技术 (GraphSAINT, ShaDow-GNN)
子图与聚类方法 (Cluster-GCN)
图神经网络的优化策略
实践：应用可扩展GNN训练
章节 4: 高级GNN任务与技术
处理异构图 (RGCN, HAN)
动态和时序图的建模
结合GNN的知识图谱嵌入
图生成模型
图上的自监督学习
图池化与读出函数
动手实践：异构图节点分类
章节 5: GNN实现、工具和优化
深度图库 (DGL) 高级功能
PyTorch Geometric (PyG) 高级功能
GNN的高效稀疏矩阵操作
GPU加速与内存管理
图神经网络的调试与可视化
基准测试与性能调优
图神经网络在生产系统中的应用
实践操作：优化GNN的实现
图池化与读出函数
这部分内容有帮助吗？
- Hierarchical Graph Representation Learning with Differentiable Pooling, Zhitao Ying, Jiaxuan You, Christopher Morris, Xiang Ren, William L. Hamilton, Jure Leskovec, 2018 Advances in Neural Information Processing Systems (NeurIPS), Vol. 31 (NeurIPS) DOI: 10.48550/arXiv.1806.08804 - 介绍了用于分层图粗化的可微分池化（DiffPool），这是一种学习型池化方法。
- Self-Attention Graph Pooling, Junhyun Lee, Inyeop Lee, Jaewoo Kang, 2019 Proceedings of Machine Learning Research (PMLR) - International Conference on Machine Learning (ICML), Vol. 97 (PMLR) DOI: 10.48550/arXiv.1904.08082 - 提出了自注意力图池化（SAGPool），该方法利用GNN学习节点选择的注意力分数。
- An End-to-End Deep Learning Architecture for Graph Classification, Muhan Zhang, Zhicheng Cui, Marion Neumann, Yixin Chen, 2018 Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 32(1) (AAAI Press) DOI: 10.1609/aaai.v32i1.11782 - 提出了SortPool，这是一种在应用卷积层之前根据规范顺序对节点嵌入进行排序的池化方法。
- Order Matters: Sequence to Sequence for Sets, Oriol Vinyals, Samy Bengio, Manjunath Kudlur, 2017 International Conference on Learning Representations (ICLR) - 介绍了Set2Set机制，这是一种用于基于注意力的图读出函数的通用技术，能够生成置换不变的表示。