K4HardPart K · 生成模型与多模态扩散

Flow Matching 速度场流匹配损失

⚡闪卡盲测➔

Stable Diffusion 3 与 Flux 核心范式,基于常微分连续速度场(CNF)线性最优传输直线路径加噪。

⏱️ 时间复杂度: O(B * C * H * W)
💾 空间复杂度: O(B * C * H * W)
🎯 免登录实战自测闭环(先做再看答案)
按「机制回忆 → 关键行填空 → 边界反例 → 追问与错题记录」顺序自测,进度自动保存在本地。
Step 1 · 机制口述与数值稳定性自检
Step 2 · 核心代码关键行补全
import numpy as np
def flow_matching_loss_and_sample(
x_data: np.ndarray, # x_0: 清晰样本 (B, C, H, W)
x_noise: np.ndarray, # x_1: 纯高斯白噪声 (B, C, H, W)
t: np.ndarray # 时间步浮点数 t 属于 [0, 1] (B,)
) -> tuple:
# 广播维度 (B, 1, 1, 1)
t_broad =
# 1. 线性最优传输插值路径
x_t = (1.0 - t_broad) * x_data + t_broad * x_noise
# 2. 真实目标速度场向量: u_t = x_1 - x_0
target_velocity =
return x_t, target_velocity
Step 3 · 反例与边界断言核对
Step 4 · 面试追问盲答与错题记录
Q1: Flow Matching 相比传统 DDPM 在概念框架上有何颠覆?
下一题: K-Means 聚类算法(距离矩阵与质心迭代更新) →
💡

实战一句话记忆口诀

弯折轨迹化直线,数据噪声两头牵,速度场指目标向,几步求解画卷全

📐 核心数学公式与机理推导

xt=(1−t)x0+tx1,ut(x∣x1)=x1−x0,LFM=E[∥vθ(xt,t)−(x1−x0)∥2]x_t = (1 - t) x_0 + t x_1, \quad u_t(x \mid x_1) = x_1 - x_0, \quad \mathcal{L}_{\mathrm{FM}} = \mathbb{E}\left[\|v_\theta(x_t, t) - (x_1 - x_0)\|^2\right]
### 最优传输(Optimal Transport)直线路径
传统扩散模型的加噪轨迹是弯曲复杂的随机马尔可夫折线,求解需要极多微小时间步。
Lipman 等人与 Meta 在 2022 年提出 Flow Matching(流匹配):
定义连续正规化流(Continuous Normalizing Flows, CNF),让粒子直接沿着确定性速度场 vt(x)v_t(x) 运动:
dxtdt=vt(xt)\frac{d x_t}{d t} = v_t(x_t)
采用条件最优传输(Conditional Optimal Transport)直线路径:
xt=(1−t)x0+tx1,t∈[0,1]x_t = (1 - t) x_0 + t x_1, \quad t \in [0, 1]
其中 x0∼pdatax_0 \sim p_{\text{data}} 为清晰数据,x1∼N(0,I)x_1 \sim \mathcal{N}(0, \mathbf{I}) 为纯白噪声。
常数目标速度矢量:
ut=dxtdt=x1−x0u_t = \frac{d x_t}{d t} = x_1 - x_0
神经网络 vθ(xt,t)v_\theta(x_t, t) 的唯一训练目标就是拟合这个直线速度场:
L=∥vθ(xt,t)−(x1−x0)∥2\mathcal{L} = \|v_\theta(x_t, t) - (x_1 - x_0)\|^2
由于轨迹是纯粹的几何直线,ODE 采样器只需极少数步(如 4~8 步)即可极速生成超高画质。

🔄 张量维度与形状流转说明

x_data, x_noise, t -> 线性插值得 x_t -> 速度目标为 (x_noise - x_data) -> MSE 拟合

🛡️ 数值稳定性自检与边界要点

  • 时间步 t 取连续浮点数 [0, 1] 均匀采样,而非离散整型索引
  • 在 Flux / SD3 中,通常对时间步 t 使用 Logit-Normal 分布采样,在中间区域赋予更密集的训练权重

💻 完整参考代码实现

import numpy as np

def flow_matching_loss_and_sample(
    x_data: np.ndarray,      # x_0: 清晰样本 (B, C, H, W)
    x_noise: np.ndarray,     # x_1: 纯高斯白噪声 (B, C, H, W)
    t: np.ndarray            # 时间步浮点数 t 属于 [0, 1] (B,)
) -> tuple:
    # 广播维度 (B, 1, 1, 1)
    t_broad = t[:, np.newaxis, np.newaxis, np.newaxis]
    
    # 1. 线性最优传输插值路径
    x_t = (1.0 - t_broad) * x_data + t_broad * x_noise
    
    # 2. 真实目标速度场向量: u_t = x_1 - x_0
    target_velocity = x_noise - x_data
    
    return x_t, target_velocity

🧪 本地测试与正确性断言

可直接复制到本地 Python / Jupyter 验证:

import numpy as np
x0 = np.zeros((2, 2))
x1 = np.ones((2, 2))
t = np.array([0.5, 0.5])
xt, v = flow_matching_loss_and_sample(x0, x1, t)
assert np.allclose(xt, 0.5), "t=0.5 时插值应恰为中点 0.5"
assert np.allclose(v, 1.0), "速度场向量应为恒定 1.0"
print("✓ Flow Matching 速度场计算自测通过")

🎯 核心工程追问与标准应答

Q1:Flow Matching 相比传统 DDPM 在概念框架上有何颠覆?
DDPM 将生成过程建模为随机扩散过程与分数匹配(Score Matching),推理依赖随机逆向步;Flow Matching 将生成过程统一归纳为常微分方程(ODE)的最优传输速度场向量拟合,不仅消除了随机高斯积分累加,更直接从几何直线路径出发,采样速度与理论上限更加纯粹优雅。
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
← 上一题: CFG(Classifier-Free Guidance 无分类器引导)返回 Part K 与全部 105 题下一题: K-Means 聚类算法(距离矩阵与质心迭代更新) →