M6-049M6: 多模态与生成模型扩散模型基础Hard
⚡闪卡盲测➔掌握度:

解释 v-prediction 与 epsilon-prediction 的差异。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M6-050 →
📐 核心数学机理公式
v=αˉt ϵ−1−αˉt x0;ϵ=αˉt v+1−αˉt x0v=\sqrt{\bar\alpha_t}\,\epsilon-\sqrt{1-\bar\alpha_t}\,x_0;\qquad \epsilon=\sqrt{\bar\alpha_t}\,v+\sqrt{1-\bar\alpha_t}\,x_0
⚡ 一句话直击要害答案
ε-prediction 在高噪声区难(信号弱);x_0-prediction 在低噪声区难;v-prediction 是两者的平衡,各 SNR 区间难度更均匀。

📌 核心要点提炼

  • •
    ε-prediction:预测噪声(高噪声区相对易、低噪声区难?)
  • •
    x_0-prediction:预测干净图像(低噪声区易、高噪声区极难)
  • •
    v-prediction:预测'速度',各 SNR 区间难度均衡

📐 数学机理与严密推导

数学机理:三种参数化——它们预测同一个量(去噪方向)的不同线性组合。设 x_t=√ᾱ_t·x_0+√(1−ᾱ_t)·ε:(1) ε-prediction——网络输出 ε_θ ≈ ε。(2) x_0-prediction——网络输出 x̂_0 ≈ x_0。(3) v-prediction(Salimans & Ho 2022)——网络输出 v ≈ √ᾱ_t·ε−√(1−ᾱ_t)·x_0(称为'速度',因为它是'从 x_0 到 ε 的方向'在 SNR 加权下的表示)。三者的转换关系——给定任一,可算出其他两个:x̂_0=(x_t−√(1−ᾱ_t)ε_θ)/√ᾱ_t;ε̂=(x_t−√ᾱ_t x̂_0)/√(1−ᾱ_t);v=√ᾱ_t ε−√(1−ᾱ_t) x_0。各 SNR 区间的难度差异——这是选择参数化的关键:(a) 高噪声区(t 大、ᾱ_t≈0)——x_t≈ε(几乎纯噪声);此时'预测 x_0'极难(因为 x_0 的信息几乎被噪声淹没,且 x_0 的尺度远大于 ε 的尺度),而'预测 ε'相对容易(ε 就是主要成分)。(b) 低噪声区(t 小、ᾱ_t≈1)——x_t≈x_0;此时'预测 ε'难(噪声很小、相对误差大),而'预测 x_0'容易。(c) v-prediction 的平衡——v 的尺度在各 SNR 区间更均匀(因为它对 x_0 与 ε 做了 SNR 加权),故各时间步的学习难度更均衡;这使训练更稳定、且对'零终端 SNR'等调度更鲁棒。实证——(a) DDPM 默认 ε-prediction;(b) Stable Diffusion 2.0 / 后续模型 用 v-prediction(因为配合'零终端 SNR'调度时更稳定);(c) 在'高分辨率 + 少步采样'场景 v-prediction 优势更明显。与调度的耦合——(a) ε-prediction 在'ᾱ_T≈0'(零终端)时,最后几步的任务'过难'(几乎纯噪声下预测噪声仍难?——实际是'预测 ε 在高噪声区容易');(b) v-prediction 与'零终端 SNR'配合良好(因为 v 在极端 SNR 下仍有界);(c) 故'调度 + 参数化'需联合选择。其他参数化——(a) score-prediction(与 ε 成正比);(b) flow-prediction(Flow Matching 预测速度场,与 v 相关但定义不同)。实践建议——(a) 通用 → ε-prediction(最成熟);(b) 高分辨率/少步/零终端 SNR → v-prediction;(c) 训练不稳定时可尝试切换参数化。

🏭 深度剖析与工业落地权衡

深度剖析与工程权衡:① '不同 SNR 区间难度不同'是理解参数化的钥匙——ε 在高噪声区易、x_0 在低噪声区易;v 平衡两者。② 'v-prediction 与零终端 SNR 配合'——这是 Stable Diffusion 2.0 等采用 v 的原因;故'参数化 + 调度'需联合设计。③ '转换关系'的实用价值——三者可互相转换,故推理时可用任一参数化(甚至混合,如'对高噪声步用 ε、低噪声步用 x_0')。④ '高噪声区的数值稳定性'——x_0-prediction 在高噪声区会输出'极端的 x_0 估计'(因为要除以极小的 √ᾱ_t),导致数值不稳;这是它的主要缺陷。⑤ '与感知质量的关系'——有研究表明不同参数化影响'不同噪声水平的生成质量'(如 v 在高噪声区更好);故选择会影响细节表现。⑥ 面试要点——被问'v-prediction 是什么',应给出'v=√ᾱ_t ε−√(1−ᾱ_t) x_0(速度)+ 各 SNR 区间难度更均衡 + 与零终端 SNR 配合好'与'三种参数化可互相转换';能指出'x_0-prediction 在高噪声区极难且不稳'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    在高噪声区用 x_0-prediction(极难且数值不稳)
  • ✕
    认为参数化只是'记法不同'(影响训练稳定性)
🎯 面试官连环追问与延伸考察
  • ?
    为什么 x_0-prediction 在高噪声区难?
  • ?
    v-prediction 什么时候更有优势?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M6-048: 解释 score matching 与扩散的关系。📋 返回题库下一题 →M6-050: 解释扩散模型的条件注入方式(cross-attention / concat / adaLN)。