M7-088M7: 检索、排序与推荐系统离线评估与 OPEHard
⚡闪卡盲测➔掌握度:
解释 OPE 的适用条件与失败模式
🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
📐 核心数学机理公式
⚡ 一句话直击要害答案
OPE 需三大假设(无混淆/正性/SUTVA);常见失败:正性违反(新策略选新物品)、混淆、干扰、非平稳。
📌 核心要点提炼
- •无混淆:展示只依赖可观测特征
- •正性/重叠:新策略的动作在历史中有非零展示概率
- •SUTVA:无干扰;另有'非平稳'(分布随时间变化)
📐 数学机理与严密推导
数学机理:OPE 的三大假设——(1) 无混淆(unconfoundedness / ignorability)——'展示'(动作)只依赖可观测的特征(无隐藏的混淆变量);违反的后果——估计有偏(因为'隐藏因素'同时影响展示与奖励);例子——'高价值用户更可能被展示广告'(若'用户价值'未观测,则估计有偏)。(2) 正性/重叠(positivity / overlap)——新策略会选的每个动作在历史数据中都有非零的展示概率(π_old(a|x)>0);违反的后果——(a) 无法估计(该动作无数据 → 外推);(b) 权重爆炸(π_old→0);这是最易违反的假设——新策略常'推荐历史上没出现过的物品'(如新物品、长尾);检测——检查'新策略的动作在历史中的展示率'(若有动作的展示率为 0 → 违反)。(3) SUTVA(Stable Unit Treatment Value Assumption)——(a) 无干扰(no interference)——一个物品的反馈不受'其他被展示物品'影响;(b) 无隐藏变体——同一动作只有一个版本;违反的后果——估计有偏;例子——推荐列表的'位置'影响点击(同一物品在不同位置点击率不同 → '动作'不只是'展示哪个物品',还包括'位置')。(4) 非平稳(non-stationarity)——(a) 用户兴趣/物品质量/市场随时间变化;(b) 历史数据的分布与当前不同;(c) 违反的后果——估计不适用(历史不代表现在);(d) 对策——(i) 用'近期数据';(ii) 加'时间特征';(iii) 监控漂移。其他失败模式——(a) 倾向模型错误(π_old 估计不准 → IPS 有偏);(b) 模型错误(DR 的模型不准 → 修正项方差大);(c) 奖励的定义问题(奖励延迟、稀疏);(d) 特征缺失(历史日志未记录某些特征 → 无法建模);(e) '动作空间大'(推荐的动作空间百万级 → 倾向极难估计)。检测与缓解——(a) 正性检查——统计'新策略动作的历史展示率';(b) 重叠度——计算'有效样本量(ESS)';(c) 倾向模型诊断(AUC/校准);(d) 模拟实验(用合成数据验证 OPE 的准确性);(e) 与 A/B 对比(最终验证);(f) 限制动作空间(只在'重叠区'评估);(g) 用'随机化数据'补充(打破混淆与正性问题)。实践建议——(a) 先检查假设(尤其正性);(b) 保留随机化数据(小流量随机是'金标准');(c) 限制评估范围(只在重叠区);(d) 倾向模型要诊断;(e) 与 A/B 对比(最终验证);(f) 注意非平稳(用近期数据);(g) 离线只做粗筛。度量——(a) 正性违反率;(b) ESS;(c) 倾向模型的 AUC/校准;(d) OPE vs A/B 的偏差。
🏭 深度剖析与工业落地权衡
深度剖析与工程权衡:① '正性最易违反'是关键——新策略常推荐历史未展示的物品;面试中能指出这一点是深度理解的标志。② '位置是动作的一部分'——若'动作'只定义为'展示哪个物品'而忽略位置,则 SUTVA 违反(位置影响点击)。③ '随机化数据是金标准'——它能同时解决'混淆'与'正性'问题(因为随机策略对所有动作有正概率)。④ '非平稳'常被忽视——历史数据不代表现在;故需用近期数据。⑤ '倾向模型诊断'必需——π_old 估计不准则 IPS 有偏。⑥ 面试要点——被问'OPE 什么时候失效',应给出'三大假设(无混淆/正性/SUTVA)+ 非平稳 + 其他失败(倾向错/模型错/奖励定义/特征缺失)+ 检测与缓解';能指出'正性最易违反'是深度理解的标志。
⚠️ 常见面试陷阱与高频失分点
- ✕不检查正性(新策略动作无历史数据)
- ✕忽略'位置是动作的一部分'(SUTVA 违反)
🎯 面试官连环追问与延伸考察
- ?哪个假设最易违反?
- ?违反假设时如何检测?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!