M4-088M4: 序列与 Transformer图神经网络Easy
⚡闪卡盲测➔掌握度:
比较 GCN、GraphSAGE 与 GAT。
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
GCN 用归一化的固定权重平均;GraphSAGE 采样邻居并学习聚合(可归纳);GAT 用注意力学习邻居权重。
📌 核心要点提炼
- •GCN:谱图卷积的一阶近似,权重由度归一化(固定)
- •GraphSAGE:采样固定数量邻居 + 可学习聚合(inductive)
- •GAT:注意力权重(依内容),可解释、可区分邻居重要性
📐 数学机理与严密推导
数学机理:GCN(Kipf & Welling 2017)——从谱图卷积出发,用一阶切比雪夫近似得到简化的传播规则:h_v=σ(Σ_{u∈N(v)∪{v}} (1/√(d_v d_u))·W h_u)。特点——(a) 权重固定(由度 d_v、d_u 归一化决定,不依内容),故对所有邻居一视同仁;(b) transductive——训练时需看到整个图(包括测试节点的结构),因为归一化依赖全图的度;故不能直接泛化到新节点/新图。GraphSAGE(Hamilton 等 2017)——(a) 邻居采样:每层只采样固定数量的邻居(而非全部),使计算量与图规模解耦(支持大图);(b) 可学习聚合:用 MLP + 池化(mean/pool/LSTM)替代固定归一化;(c) inductive——因为聚合函数是'学习到的'而非依赖具体图结构,故可泛化到未见节点/新图(如新用户、新分子);(d) 也支持'无邻居时用自身特征'。GAT(Veličković 等 2018)——用注意力计算邻居权重:α_{vu}=softmax_u(LeakyReLU(aᵀ[Wh_v‖Wh_u])),即权重依内容(节点特征)动态计算。特点——(a) 可区分邻居重要性(GCN 对所有邻居同等对待);(b) 可解释(注意力权重可分析);(c) 多头(与 Transformer 的多头同源);(d) inductive(注意力函数可泛化)。选择逻辑——(a) 小图 + 同质结构 → GCN;(b) 大图 + 需泛化到新节点 → GraphSAGE;(c) 邻居重要性差异大 + 需可解释 → GAT;(d) 工业界大规模推荐 → 常是 GraphSAGE 的变体(如 PinSAGE)。
🏭 深度剖析与工业落地权衡
深度剖析与工程权衡:① 'transductive vs inductive'是关键区分——GCN 需全图(训练与测试共享图结构),GraphSAGE/GAT 可泛化到新节点;对'动态图/新用户'场景,inductive 是必需的。这也是工业推荐系统(用户不断新增)偏好 GraphSAGE 系的原因。② 采样的重要性——大图的'邻居爆炸'(L 层需聚合 d^L 个节点)使全邻域聚合不可行;GraphSAGE 的固定采样使计算量可控(每层只采 K 个),是'大图可训练'的关键。③ 注意力的代价——GAT 需计算每对邻居的注意力(内存与计算 ∝ 边数),在大图上开销大;故有'采样 + 注意力'的组合(如 GAT 的邻居采样版本)。④ 与 Transformer 的关系——GAT 的注意力与 Transformer 的自注意力在形式上几乎相同(差异:GAT 在图上做、Transformer 在全连接图上做);故有'Graph Transformer'(在图上用注意力 + 结构编码)。⑤ 工业实践——PinSAGE(Pinterest)用 GraphSAGE + 随机游走采样(在 30 亿节点图上训练);阿里/腾讯的推荐系统用 GNN 做用户-物品二部图传播;这些都以'采样 + 归纳式'为核心。⑥ 面试要点——被问'GCN/GraphSAGE/GAT 的区别',应从'聚合权重(固定/学习/注意力)+ transductive vs inductive + 采样(可扩展性)'三维对比,并给出'选择逻辑';能提到'PinSAGE 等工业应用'是加分。
⚠️ 常见面试陷阱与高频失分点
- ✕忽略 GCN 的 transductive 限制
- ✕以为 GAT 在大图上无需采样
🎯 面试官连环追问与延伸考察
- ?GraphSAGE 为什么能 inductive?
- ?GAT 的多头与 Transformer 的关系?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!