M3-100M3: Deep Learning FoundationsConvolution & Vision FoundationsMedium
Mastery:
Convolution & Vision Foundations: 解释平移等变性(equivariance)与不变性(invariance)。
📐 Mathematical Definition
⚡ Executive Summary
Core Concept: 等变:输入平移则输出同样平移(卷积);不变:输入平移则输出不变(全局池化/分类输出)。
📌 Key Takeaways
- •等变是'跟着变',不变是'不变'
- •卷积是平移等变的;池化/全局池化提供(局部/全局)不变性
- •分类需要不变性,分割/检测需要等变性
📐 Mathematical Derivations
数学机理:<strong>平移等变性(translation equivariance)</strong> 指'输入平移则输出以相同方式平移':f(Tx)=Tf(x),其中 T 为平移算子。卷积天然满足:由于权重共享(同一核在所有位置滑动),输入平移会导致输出特征图相应平移——这是 CNN 的核心性质。<strong>平移不变性(invariance)</strong> 指'输入平移则输出不变':f(Tx)=f(x)。<strong>分类任务</strong>需要不变性('猫在左上角'与'猫在右下角'应得到同一标签),而<strong>分割/检测任务</strong>需要等变性(位置信息必须保留,才能定位目标)。<strong>如何从等变得到不变</strong>:在等变特征上施加'全局聚合'——(a) <strong>局部池化</strong>(max/avg pooling)提供<strong>局部</strong>不变性(窗口内平移不变);(b) <strong>全局平均池化(GAP)</strong> 提供<strong>全局</strong>不变性(任意平移不变),故分类头常用 GAP;(c) <strong>堆叠多个池化</strong>逐步扩大不变范围。<strong>数据增强</strong>从数据侧诱导不变性:若对所有平移的样本都给出同一标签,模型会被迫学到平移不变的特征(但需足够数据覆盖)。<strong>注意</strong>:池化提供的不变性是'有代价的'——它丢弃位置信息,故对需要定位的任务有害;现代架构(如分割网络)用'编码器-解码器'结构在深层保留语义不变性、在浅层保留空间等变性。
🏭 Production Trade-offs
深度剖析与工程权衡:① <strong>等变与不变的层次</strong>——CNN 的浅层是'等变'的(保留位置),深层逐渐获得'不变'性(语义抽象);这种'从等变到不变'的层次是 CNN 有效的原因之一。② <strong>ViT 的排列等变</strong>——注意力对 token 的<strong>排列</strong>是等变的(打乱则输出打乱),但对<strong>平移</strong>不是天然等变的(因 patch 划分固定);故 ViT 需要位置编码 + 足够数据来学习平移等变性。③ <strong>抗混叠与不变性</strong>——下采样的混叠会<strong>破坏平移不变性</strong>(同一目标在不同像素偏移下得到不同特征);BlurPool 等抗混叠方法能显著改善。④ <strong>等变性在生成中的作用</strong>——扩散模型的 U-Net 用卷积(等变),故能生成任意位置的物体;而全局注意力层会引入'位置特定'的先验。⑤ <strong>与数据增强的关系</strong>——增强(翻转/旋转/裁剪)诱导的等变性是'模型需要学的',与结构内置的等变性(卷积)互补;过强的增强可能引入不正确的先验(如对数字'6'与'9'做翻转)。⑥ <strong>面试要点</strong>——被问'等变与不变的区别',应用'<strong>跟着变 vs 不变</strong>'一句话点破,并举例'分类要不变、分割要等变';能进一步说'CNN 从浅层等变到深层不变'与'池化/下采样的代价',是深度理解的标志。
⚠️ Common Interview Pitfalls
- ✕把等变与不变混为一谈
- ✕在需要定位的任务上过度池化(丢失空间信息)
🎯 Interviewer Follow-ups
- ?为什么分类网络最终需要不变性?
- ?数据增强如何诱导不变性?
📚
Associated Knowledge Base Guides & Mindmaps
Explore the comprehensive technical article, exam cards, and global architecture tree.