返回 深度学习 思维导图
中文·English
🧠 深度学习ID: depthwise-separable

深度可分离卷积

Depthwise Separable Conv
🎯核心定义
深度可分离卷积把标准卷积拆成两步: Depthwise——每通道独立用一个 k×kk \times k 核做空间卷积(不跨通道); Pointwise——1×11 \times 1 卷积跨通道线性混合。算力比推导: 标准卷积 FLOPs =k2CinCoutHW= k^2 C_{in} C_{out} HW, 深度可分离为 k2CinHW+CinCoutHWk^2 C_{in} HW + C_{in} C_{out} HW(HW 为输出空间尺寸), 比值 =1Cout+1k2= \frac{1}{C_{out}} + \frac{1}{k^2}——第一项来自 pointwise、第二项来自 depthwise。代入 k=3k=3Cout=256C_{out}=256: 1256+190.0039+0.11110.114\frac{1}{256} + \frac{1}{9} \approx 0.0039 + 0.1111 \approx 0.114, 即计算量约为标准卷积的 11.4%, 节省约 8.8×; 参数量同步缩小(比值公式相同)。
💡使用场景
MobileNetV1 的核心算子(全网络替换标准卷积), MobileNetV2 再叠加反向残差+线性瓶颈; 面试必考推导算力比、解释省在哪里、以及为什么 1×1 卷积不可省。
解决的核心痛点
把“空间卷积”与“通道混合”解耦, 使卷积计算量从与 Cin×CoutC_{in} \times C_{out} 成正比降为与 Cin+CoutC_{in} + C_{out} 成正比, 在 top-1 精度仅损失约 1~2 个百分点(ImageNet 上 ~70.6% vs 标准卷积基线 ~71.7%)的代价下将算力与参数量压缩约 8.8×, 让视觉模型能在移动端实时运行。
🎯5 个高频面试考点 (Exam Points)
1
推导深度可分离卷积相对标准卷积的算力比 1Cout+1k2\frac{1}{C_{out}} + \frac{1}{k^2}, 说明两项各自来源。
2
手算: 3×3 深度可分离卷积, C_out=256, 计算量约为标准卷积的多少? 省了多少倍?
3
为什么 MobileNet 需要 1×1 pointwise 卷积? 只用 depthwise 会怎样?
4
MobileNetV2 的反向残差(线性瓶颈)是什么? 为什么 ReLU 会破坏低维特征?
5
深度可分离卷积与分组卷积(如 ResNeXt 的 32 组)在算力和表达力上有什么区别?
📖 关联深度指南:📄 cnn-and-vit-architectures
更新于 2026-08-12
🎯
检验攻克程度:针对「深度可分离卷积」专属刷题排雷
做单选排雷题、推导选项机制,答错自动收录进专属错题本。
🚀 开始本考点专项刷题
上一个知识点ResNet 残差连接下一个知识点ViT 与归纳偏置

🔗 更多 深度学习 知识点卡片

激活函数演进Adam/AdamWAutograd 动态图BatchNorm 批归一化