Classifier-Free Guidance (CFG)

Classifier-Free Guidance (无分类器引导) 用“条件预测 + 无条件预测”的线性外推, 在采样期放大条件 $c$ 的影响。训练时以概率 $p$ (CFG dropout, 通常 10–15%) 丢弃条件并把 $c$ 替换为空条件 $\emptyset$, 使同一个网络同时学会预测 $\epsilon_\theta(x_t, c)$ 与 $\epsilon_\theta(x_t, \emptyset)$。采样时把两个噪声预测按强度 $w$ 组合:

$w=1$ 退化为纯条件生成; $w$ 越大, 采样轨迹越被推向条件分布(与提示一致性越强), 但多样性下降、颜色易过饱和; 典型取值 $w = 7\text{–}8$ (Stable Diffusion), 视频/级联模型常用 $w = 3\text{–}5$。其本质是对 score 的重新加权: 与分类器引导 $\nabla_{x_t}\log p(x_t) + \gamma\nabla_{x_t}\log p(c \mid x_t)$ 等价地把梯度外推向条件似然方向, 但无需训练任何额外分类器。

文生图/文生视频的提示对齐 (SD/Flux 默认开启), 面试高频追问 “CFG 怎么实现? w 取多大? 为什么 w 过大图会过饱和、多样性变差?”。

纯条件扩散模型文本控制弱、采样结果偏离提示; 分类器引导需要额外的判别模型且对对抗噪声敏感; CFG 只需一次训练 (dropout) 与两次前向推理 (条件/无条件), 零额外模型即可在推理期大幅提升条件一致性。

写出 CFG 采样公式 ε̂ = ε_θ(x_t,∅) + w·(ε_θ(x_t,c) − ε_θ(x_t,∅)), 并解释各符号含义?

CFG dropout 概率一般取多少? 训练时如何让条件与无条件分支共用同一网络?

w 增大对提示一致性、多样性、过饱和分别有什么影响? 为什么?

Classifier-Free Guidance 与分类器引导 (classifier guidance) 的关系? 各自优缺点?

w=1 与 w=0 分别对应什么? CFG 在推理期的额外计算开销是多少?