M3-085M3: 深度学习基础训练诊断与调试Easy
⚡闪卡盲测➔掌握度:

训练 loss 不下降,你会按什么顺序排查?

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M3-086 →
📐 核心数学机理公式
checklist: overfit-1-batch→data→lr→init→loss→grad→arch\text{checklist}:\ \text{overfit-1-batch}\to\text{data}\to\text{lr}\to\text{init}\to\text{loss}\to\text{grad}\to\text{arch}
⚡ 一句话直击要害答案
从'能否过拟合单个 batch'开始,依次查数据/标签、lr、初始化、损失实现、梯度流、结构。

📌 核心要点提炼

  • •
    先做'能否过拟合 1 个 batch'测试(最有效的二分法)
  • •
    检查数据管道与标签是否对齐、是否有 NaN/inf
  • •
    再查 lr、初始化、损失实现、梯度流

📐 数学机理与严密推导

数学机理:调试的核心是用最小代价二分定位。第一步:能否过拟合单个 batch——取一个小 batch(如 8 个样本),关闭正则(dropout=0、weight decay=0),用较大 lr 训练几百步;若 loss 不能降到接近 0,说明模型或训练代码有 bug(而非数据规模/超参问题),这是最高效的二分。第二步:数据与标签——检查 (a) 输入是否被正确读取(可视化几个样本)、(b) 标签是否与输入对齐(打乱后 loss 应显著变差)、(c) 是否有 NaN/inf/全零样本、(d) 数据归一化是否正确(均值/方差)。第三步:lr——用 lr range test 找合理区间;lr 过小则下降极慢(看似'不降')。第四步:初始化——检查输出 logits 的分布(初始应接近均匀、熵接近 log K);若初始 logits 幅度异常,说明初始化有问题。第五步:损失实现——手算一个小例子的 loss 与框架对比(如用 2 个样本验证 CE 值);常见错误是维度/轴用错(如在错误维度求 softmax)、label 编码错(one-hot vs index)。第六步:梯度流——检查各层梯度是否非零、是否有梯度消失(浅层梯度为 0)。第七步:结构——最后才怀疑网络结构(残差、归一化位置、mask 等)。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① 顺序的重要性——从'最可能出 bug 且最易验证'的地方开始;数据管道与损失实现是 bug 高发区(约 60% 的训练不收敛源于此),而结构问题相对少见。② '过拟合单 batch'的深意——任何有足够容量的模型都应能记住几个样本;若不能,说明优化路径被阻断(梯度未正确流动)或目标不可达(标签错)。这是'模型-优化-数据'三层中最快定位的一步。③ 常见'隐性'bug——(a) 忘记 zero_grad()(梯度累积导致发散或不收敛)、(b) 在 eval 模式下训练(BN/dropout 行为错)、(c) 标签未 detach、(d) 数据未 shuffle、(e) 损失函数 reduction 用错(sum vs mean)。④ 与'loss 下降但指标差'的区别——本题是'loss 不降'(优化问题);若 loss 降但业务指标差,则是'损失-指标错配'问题(见对应题)。⑤ 自动化工具——用'梯度检查'(gradcheck)验证自定义算子、用'过拟合测试'做冒烟测试、用 hook 记录激活/梯度统计;把这些写进 CI 可避免回归。⑥ 面试要点——被问'模型训不起来怎么办',给出'先过拟合单 batch → 再查数据 → 再查 lr → 再查损失 → 再查梯度'的有序清单,并强调'先做二分实验而非盲调超参',这是最能体现调试素养的回答。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    一上来就调 lr 和超参(未排除代码 bug)
  • ✕
    不做'过拟合单 batch'测试(错过最有效的二分)
🎯 面试官连环追问与延伸考察
  • ?
    为什么'过拟合单 batch'是关键测试?
  • ?
    如何快速排除数据管道问题?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M3-084: 解释 3D 并行与序列并行(sequence parallelism)📋 返回题库下一题 →M3-086: 训练 loss 下降但验证 loss 上升,说明什么?怎么办