M1-055M1: Mathematics & Statistics Fundamentals实验设计 (A/B)Hard
Mastery:
实验设计 (A/B): CTR 上升但 CVR 没动,如何用统计方法分析原因。
📐 Mathematical Definition
⚡ Executive Summary
Core Concept: 先做指标一致性检查(分流/口径/延迟),再用分层与中介分析判断是'流量结构变化'还是'转化链路被削弱'。
📌 Key Takeaways
- •分层分析(按用户等级/品类)看效应是否被 Simpson 反转
- •检查 CVR 的分母是否被 CTR 提升污染
- •用序贯/长周期观察延迟转化
- •必要时做 holdout 或 switchback 验证
📐 Mathematical Derivations
分析框架分三层:① <strong>先排除基础设施问题</strong>——SRM 检验、指标口径一致性(CVR 的分母是'点击'还是'访问'?若分母是点击,则 CTR 上升会自动改变 CVR 的分母构成,产生<strong>分母污染</strong>)、转化延迟(CVR 有更长滞后,短期观测会低估)、日志完整性。② <strong>再做分解分析</strong>——把 CVR 按链路拆解(曝光→点击→详情页→加购→下单),看哪一环的转化率变化;用<strong>中介分析</strong>(mediation analysis)量化'CTR 提升通过哪些路径影响最终转化',判断是<strong>部分中介</strong>(效果通过中间环节传导)还是<strong>被抵消</strong>(某环节转化率下降抵消了流量增长)。③ <strong>最后做分层与结构分析</strong>——按用户等级/品类/新老用户分层,检查是否存在 <strong>Simpson 悖论</strong>(整体 CVR 不变但各层都变,或反之);检查<strong>流量结构变化</strong>(CTR 提升可能吸引了不同意图的用户,其转化率天然更低)。
🏭 Production Trade-offs
典型的两种结论与对策:① <strong>'流量结构变化'型</strong>——CTR 提升带来的是低意图流量(如更强的标题吸引点击但用户发现不匹配),此时整体 GMV 可能仍上升但 CVR 下降;对策是优化相关性而非单纯提升吸引力,或用更下游的指标(GMV、留存)做主指标。② <strong>'链路削弱'型</strong>——某环节体验变差(如新 UI 增加点击但详情页加载变慢),需定位并修复该环节。<strong>统计工具</strong>:分层分析(含交互项检验)、CUPED 降方差后重测、贝叶斯后验概率(P(CVR 变化 > 阈值))、以及必要时延长观测期(转化延迟)。<strong>决策原则</strong>:不应仅凭'CVR 没动'就否定改动——若主指标是 GMV 且 GMV 上升,CVR 持平是可接受的;关键是在实验前明确主指标与护栏指标的优先级。
⚠️ Common Interview Pitfalls
- ✕忽略 CVR 分母被 CTR 提升污染(口径不一致)
- ✕只看整体 CVR 而不做分层,漏掉 Simpson 悖论
- ✕只看'CVR 没动'就否定改动,忽略主指标(GMV/留存)可能已改善
- ✕未检查转化延迟就下结论
🎯 Interviewer Follow-ups
- ?如果某层样本极小怎么办?(贝叶斯收缩 / 合并层)
- ?Simpson 悖论在 A/B 中的典型表现是什么?
📚
Associated Knowledge Base Guides & Mindmaps
Explore the comprehensive technical article, exam cards, and global architecture tree.