K2HardPart K · 生成模型与多模态扩散
DDPM 反向去噪步模拟(均值方差逆向采样)
从纯高斯白噪声中逐步逆向提炼清晰图像,利用预测噪声估计均值并注入退火扰动方差。
⏱️ 时间复杂度:
O(T * B * C * H * W) 推理需串行循环 T 次💾 空间复杂度:
O(B * C * H * W)🎯 免登录实战自测闭环(先做再看答案)
按「机制回忆 → 关键行填空 → 边界反例 → 追问与错题记录」顺序自测,进度自动保存在本地。
Step 1 · 机制口述与数值稳定性自检
Step 2 · 核心代码关键行补全
import numpy as np
def ddpm_p_sample_step(
x_t: np.ndarray, # 当前时间步带噪图 (B, C, H, W)
t_idx: int, # 当前时间步整数 t
predicted_noise: np.ndarray, # 神经网络预测的噪声 epsilon (B, C, H, W)
alphas: np.ndarray, # (T,)
alphas_cumprod: np.ndarray, # (T,)
betas: np.ndarray # (T,)
) -> np.ndarray:
alpha_t = alphas[t_idx]
beta_t = betas[t_idx]
alpha_bar_t = alphas_cumprod[t_idx]
# 1. 估计逆向均值 mu_t
coeff =
mean = (1.0 / np.sqrt(alpha_t)) * (x_t - coeff * predicted_noise)
# 2. 如果是最后一步 t=0,直接返回均值,不再注入扰动
if t_idx == 0:
return mean
# 3. 计算扰动方差 sigma_t (DDPM 原文常用 beta_t 或后验方差)
alpha_bar_prev = alphas_cumprod[t_idx - 1] if t_idx > 0 else 1.0
posterior_variance = beta_t * (1.0 - alpha_bar_prev) / (1.0 - alpha_bar_t)
sigma_t = np.sqrt(posterior_variance)
# 4. 注入随机高斯扰动
z = np.random.randn(*x_t.shape)
return
Step 3 · 反例与边界断言核对
Step 4 · 面试追问盲答与错题记录
Q1: DDIM 采样器相比原生 DDPM 是如何将采样步数从 1000 步压缩到 20~50 步的?
💡
实战一句话记忆口诀
扣除预测乘系数,求得逆向均值图,最后一步不加噪,其余补上方差步
📐 核心数学公式与机理推导
### 贝叶斯后验均值与逆向 Langevin 采样
前向过程摧毁信息,反向过程从白噪声 迭代去噪:
利用贝叶斯公式计算条件后验分布 :
利用 代换 ,将未知真实均值重参数化为神经网络预测噪声 的表达式:
在采样第 步时:
(当 时令 不再加随机扰动)。
前向过程摧毁信息,反向过程从白噪声 迭代去噪:
利用贝叶斯公式计算条件后验分布 :
利用 代换 ,将未知真实均值重参数化为神经网络预测噪声 的表达式:
在采样第 步时:
(当 时令 不再加随机扰动)。
🔄 张量维度与形状流转说明
x_t, eps_theta -> 计算预测均值 mean -> 当 t>0 时加上 sigma_t * z -> 输出 x_{t-1}
🛡️ 数值稳定性自检与边界要点
- t=0 时必须严格分支断开随机噪声注入(z=0),否则最后生成的最终图片会永远蒙上一层雪花噪点
- DDIM(去噪扩散隐式模型)通过将后验方差 设为 0,将随机采样变为确定性常微分方程(ODE),可从 1000 步加速至 20 步
💻 完整参考代码实现
import numpy as np
def ddpm_p_sample_step(
x_t: np.ndarray, # 当前时间步带噪图 (B, C, H, W)
t_idx: int, # 当前时间步整数 t
predicted_noise: np.ndarray, # 神经网络预测的噪声 epsilon (B, C, H, W)
alphas: np.ndarray, # (T,)
alphas_cumprod: np.ndarray, # (T,)
betas: np.ndarray # (T,)
) -> np.ndarray:
alpha_t = alphas[t_idx]
beta_t = betas[t_idx]
alpha_bar_t = alphas_cumprod[t_idx]
# 1. 估计逆向均值 mu_t
coeff = beta_t / np.sqrt(1.0 - alpha_bar_t)
mean = (1.0 / np.sqrt(alpha_t)) * (x_t - coeff * predicted_noise)
# 2. 如果是最后一步 t=0,直接返回均值,不再注入扰动
if t_idx == 0:
return mean
# 3. 计算扰动方差 sigma_t (DDPM 原文常用 beta_t 或后验方差)
alpha_bar_prev = alphas_cumprod[t_idx - 1] if t_idx > 0 else 1.0
posterior_variance = beta_t * (1.0 - alpha_bar_prev) / (1.0 - alpha_bar_t)
sigma_t = np.sqrt(posterior_variance)
# 4. 注入随机高斯扰动
z = np.random.randn(*x_t.shape)
return mean + sigma_t * z
🧪 本地测试与正确性断言
可直接复制到本地 Python / Jupyter 验证:
import numpy as np
betas = np.linspace(1e-4, 0.02, 10)
alphas = 1.0 - betas
alphas_cumprod = np.cumprod(alphas)
x_t = np.random.randn(1, 3, 8, 8)
pred_eps = np.zeros_like(x_t)
x_next = ddpm_p_sample_step(x_t, 9, pred_eps, alphas, alphas_cumprod, betas)
assert x_next.shape == (1, 3, 8, 8)
print("✓ DDPM 单步反向去噪模拟自测通过")🎯 核心工程追问与标准应答
Q1:DDIM 采样器相比原生 DDPM 是如何将采样步数从 1000 步压缩到 20~50 步的?
DDPM 依赖随机马尔可夫链,每一步必须微小渐进否则方差累加漂移;DDIM 证明了边缘分布 可以对应一条非马尔可夫确定性轨迹,当将随机方差 时,反向生成退化为一条平滑的常微分方程(ODE)轨迹,允许使用大步长跳跃式(如每次跳 50 步)采样求解,速度提升数十倍。
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!