K2HardPart K · 生成模型与多模态扩散

DDPM 反向去噪步模拟(均值方差逆向采样)

⚡闪卡盲测➔

从纯高斯白噪声中逐步逆向提炼清晰图像,利用预测噪声估计均值并注入退火扰动方差。

⏱️ 时间复杂度: O(T * B * C * H * W) 推理需串行循环 T 次
💾 空间复杂度: O(B * C * H * W)
🎯 免登录实战自测闭环(先做再看答案)
按「机制回忆 → 关键行填空 → 边界反例 → 追问与错题记录」顺序自测,进度自动保存在本地。
Step 1 · 机制口述与数值稳定性自检
Step 2 · 核心代码关键行补全
import numpy as np
def ddpm_p_sample_step(
x_t: np.ndarray, # 当前时间步带噪图 (B, C, H, W)
t_idx: int, # 当前时间步整数 t
predicted_noise: np.ndarray, # 神经网络预测的噪声 epsilon (B, C, H, W)
alphas: np.ndarray, # (T,)
alphas_cumprod: np.ndarray, # (T,)
betas: np.ndarray # (T,)
) -> np.ndarray:
alpha_t = alphas[t_idx]
beta_t = betas[t_idx]
alpha_bar_t = alphas_cumprod[t_idx]
# 1. 估计逆向均值 mu_t
coeff =
mean = (1.0 / np.sqrt(alpha_t)) * (x_t - coeff * predicted_noise)
# 2. 如果是最后一步 t=0,直接返回均值,不再注入扰动
if t_idx == 0:
return mean
# 3. 计算扰动方差 sigma_t (DDPM 原文常用 beta_t 或后验方差)
alpha_bar_prev = alphas_cumprod[t_idx - 1] if t_idx > 0 else 1.0
posterior_variance = beta_t * (1.0 - alpha_bar_prev) / (1.0 - alpha_bar_t)
sigma_t = np.sqrt(posterior_variance)
# 4. 注入随机高斯扰动
z = np.random.randn(*x_t.shape)
return
Step 3 · 反例与边界断言核对
Step 4 · 面试追问盲答与错题记录
Q1: DDIM 采样器相比原生 DDPM 是如何将采样步数从 1000 步压缩到 20~50 步的?
下一题: CFG(Classifier-Free Guidance 无分类器引导) →
💡

实战一句话记忆口诀

扣除预测乘系数,求得逆向均值图,最后一步不加噪,其余补上方差步

📐 核心数学公式与机理推导

xt−1=1αt(xt−βt1−αˉtϵθ(xt,t))+σtz,z∼N(0,I)x_{t-1} = \frac{1}{\sqrt{\alpha_t}}\left(x_t - \frac{\beta_t}{\sqrt{1 - \bar{\alpha}_t}} \epsilon_\theta(x_t, t)\right) + \sigma_t z, \quad z \sim \mathcal{N}(0, \mathbf{I})
### 贝叶斯后验均值与逆向 Langevin 采样
前向过程摧毁信息,反向过程从白噪声 xT∼N(0,I)x_T \sim \mathcal{N}(0, \mathbf{I}) 迭代去噪:
利用贝叶斯公式计算条件后验分布 q(xt−1∣xt,x0)q(x_{t-1} \mid x_t, x_0):
μ~t(xt,x0)=αˉt−1βt1−αˉtx0+αt(1−αˉt−1)1−αˉtxt\tilde{\mu}_t(x_t, x_0) = \frac{\sqrt{\bar{\alpha}_{t-1}}\beta_t}{1 - \bar{\alpha}_t} x_0 + \frac{\sqrt{\alpha_t}(1 - \bar{\alpha}_{t-1})}{1 - \bar{\alpha}_t} x_t
利用 x0=xt−1−αˉtϵθαˉtx_0 = \frac{x_t - \sqrt{1 - \bar{\alpha}_t} \epsilon_\theta}{\sqrt{\bar{\alpha}_t}} 代换 x0x_0,将未知真实均值重参数化为神经网络预测噪声 ϵθ\epsilon_\theta 的表达式:
μθ(xt,t)=1αt(xt−βt1−αˉtϵθ(xt,t))\mu_\theta(x_t, t) = \frac{1}{\sqrt{\alpha_t}} \left( x_t - \frac{\beta_t}{\sqrt{1 - \bar{\alpha}_t}} \epsilon_\theta(x_t, t) \right)
在采样第 t−1t-1 步时:
xt−1=μθ(xt,t)+σtzx_{t-1} = \mu_\theta(x_t, t) + \sigma_t z(当 t=0t=0 时令 z=0z=0 不再加随机扰动)。

🔄 张量维度与形状流转说明

x_t, eps_theta -> 计算预测均值 mean -> 当 t>0 时加上 sigma_t * z -> 输出 x_{t-1}

🛡️ 数值稳定性自检与边界要点

  • t=0 时必须严格分支断开随机噪声注入(z=0),否则最后生成的最终图片会永远蒙上一层雪花噪点
  • DDIM(去噪扩散隐式模型)通过将后验方差 σt\sigma_t 设为 0,将随机采样变为确定性常微分方程(ODE),可从 1000 步加速至 20 步

💻 完整参考代码实现

import numpy as np

def ddpm_p_sample_step(
    x_t: np.ndarray,              # 当前时间步带噪图 (B, C, H, W)
    t_idx: int,                   # 当前时间步整数 t
    predicted_noise: np.ndarray,  # 神经网络预测的噪声 epsilon (B, C, H, W)
    alphas: np.ndarray,           # (T,)
    alphas_cumprod: np.ndarray,   # (T,)
    betas: np.ndarray             # (T,)
) -> np.ndarray:
    alpha_t = alphas[t_idx]
    beta_t = betas[t_idx]
    alpha_bar_t = alphas_cumprod[t_idx]
    
    # 1. 估计逆向均值 mu_t
    coeff = beta_t / np.sqrt(1.0 - alpha_bar_t)
    mean = (1.0 / np.sqrt(alpha_t)) * (x_t - coeff * predicted_noise)
    
    # 2. 如果是最后一步 t=0,直接返回均值,不再注入扰动
    if t_idx == 0:
        return mean
        
    # 3. 计算扰动方差 sigma_t (DDPM 原文常用 beta_t 或后验方差)
    alpha_bar_prev = alphas_cumprod[t_idx - 1] if t_idx > 0 else 1.0
    posterior_variance = beta_t * (1.0 - alpha_bar_prev) / (1.0 - alpha_bar_t)
    sigma_t = np.sqrt(posterior_variance)
    
    # 4. 注入随机高斯扰动
    z = np.random.randn(*x_t.shape)
    return mean + sigma_t * z

🧪 本地测试与正确性断言

可直接复制到本地 Python / Jupyter 验证:

import numpy as np
betas = np.linspace(1e-4, 0.02, 10)
alphas = 1.0 - betas
alphas_cumprod = np.cumprod(alphas)
x_t = np.random.randn(1, 3, 8, 8)
pred_eps = np.zeros_like(x_t)
x_next = ddpm_p_sample_step(x_t, 9, pred_eps, alphas, alphas_cumprod, betas)
assert x_next.shape == (1, 3, 8, 8)
print("✓ DDPM 单步反向去噪模拟自测通过")

🎯 核心工程追问与标准应答

Q1:DDIM 采样器相比原生 DDPM 是如何将采样步数从 1000 步压缩到 20~50 步的?
DDPM 依赖随机马尔可夫链,每一步必须微小渐进否则方差累加漂移;DDIM 证明了边缘分布 q(xt∣x0)q(x_t \mid x_0) 可以对应一条非马尔可夫确定性轨迹,当将随机方差 σt=0\sigma_t=0 时,反向生成退化为一条平滑的常微分方程(ODE)轨迹,允许使用大步长跳跃式(如每次跳 50 步)采样求解,速度提升数十倍。
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
← 上一题: DDPM 前向加噪扩散过程(重参数化与闭式解)返回 Part K 与全部 105 题下一题: CFG(Classifier-Free Guidance 无分类器引导) →