ESMM 全空间多任务模型

ESMM（Entire Space Multi-Task Model，由阿里妈妈算法团队在 SIGIR 2018 提出）是一种专为解决推荐与广告系统中转化率 (CVR) 预估两大业界核心难题——样本选择偏差 (Sample Selection Bias, SSB) 与数据稀疏 (Data Sparsity)——而设计的全空间多任务网络架构；根据概率链式法则，点击且转化概率等于点击率乘点击后转化率：$p\text{CTCVR} = p\text{CTR} \times p\text{CVR}$；ESMM 在全量曝光样本空间（全部展示记录）上同时建模与训练主任务 $p\text{CTR}$ 和辅助任务 $p\text{CTCVR}$，通过二者隐式导出 $p\text{CVR} = \frac{p\text{CTCVR}}{p\text{CTR}}$，彻底摆脱了传统 CVR 模型只能在“已点击样本子集”上训练的局限。

电商交易转化率预估、广告计费 pCVR 预估、O2O 下单转化率与多步转化漏斗建模。

传统 CVR 模型仅用“点击样本”训练，但在线 Serving 却要在“全量曝光样本”上推理，造成极严重的样本分布偏移 (SSB)；且由于点击率通常仅 2%~5%，点击后购买样本极其稀疏导致过拟合；ESMM 在全空间建模主任务与辅助任务，彻底攻克样本偏差与数据稀疏两大顽疾。

推导 ESMM 的联合损失函数公式 $\mathcal{L}(\theta_{ctr}, \theta_{cvr}) = \sum_{i=1}^N l(y_i, f(x_i; \theta_{ctr})) + \sum_{i=1}^N l(y_i \& z_i, f(x_i; \theta_{ctr}) \times f(x_i; \theta_{cvr}))$？

为什么在在线推理 (Serving) 阶段，系统只需要直接提取 CVR Tower 的输出值作为预估转化率 $p\text{CVR}$？

ESMM 结构中 CTR 塔与 CVR 塔底层共享 Embedding 查找表是如何极大缓解 CVR 塔样本稀疏问题的？

针对多步转化漏斗（如 曝光 -> 点击 -> 加购 -> 购买），如何将 ESMM 进一步拓展为 ESM2 (有向无环图全空间多步转化网络)？

分析为什么直接在训练中让 CVR 塔以除法形式优化可能会导致数值不稳定性（如 $p\text{CTR} \to 0$ 时梯度爆炸）？