InfoNCE 对比损失

InfoNCE (Info Noise-Contrastive Estimation) 是对比学习 (CLIP/SimCLR/MoCo) 的核心损失——拉近正对、推远 batch 内所有负对: $\mathcal{L} = -\log \frac{\exp(\text{sim}(x_i, y_i) / \tau)}{\sum_{j} \exp(\text{sim}(x_i, y_j) / \tau)}$, 其中 $\text{sim}(\cdot, \cdot)$ 为余弦相似度, $y_i$ 是与 $x_i$ 匹配的正样本, 分母遍历 batch 内全部候选 (1 个正对 + $N-1$ 个负对), $\tau$ 是温度超参——把相似度除以 $\tau$ 再进 softmax。

图文对齐 (CLIP)、自监督表征 (SimCLR/MoCo)、跨模态检索; 面试必考「温度 $\tau$ 的作用」与「为什么 batch size 越大越好」。

三元组损失只对比单个负样本, 梯度稀疏且依赖难例挖掘; InfoNCE 把全部 batch 内负样本放进 softmax 分母, 负样本利用率与梯度信号都更强, 与多分类交叉熵同构 (正类 logit = $\text{sim}(x_i,y_i)/\tau$)。温度 $\tau$ 控制判别锐利度: $\tau$ 小 → logits 被放大, 正对必须「碾压式」胜出; $\tau$ 大 → 分布变平滑, 正负差异被稀释、梯度消失。数值例: 正对 $\text{sim}=0.9$、负对 $\text{sim}=0.2$; 当 $\tau=0.07$ (CLIP 默认) 时 logits 为 $0.9/0.07 \approx 12.86$ 对 $0.2/0.07 \approx 2.86$, softmax 后正对概率 $\approx 99.99\%$, 损失趋近 0; 若 $\tau=1$, logits 只剩 0.9 对 0.2, 正对概率约 $66.7\%$, 模型几乎失去判别能力。

检验攻克程度：针对「InfoNCE 对比损失」专属刷题排雷

做单选排雷题、推导选项机制，答错自动收录进专属错题本。