M7-101M7: Retrieval, Ranking & RecSysOnline Metrics & GuardrailsHard
Mastery:
Online Metrics & Guardrails: 解释分层实验与互斥域(layer / domain)。
📐 Mathematical Definition
⚡ Executive Summary
Core Concept: 分层(layer)把流量分成独立层,不同层可同时跑实验(提高密度);互斥域(domain)让相互干扰的实验互斥。
📌 Key Takeaways
- •分层:不同层用独立随机化 → 层间正交 → 可同时跑多实验
- •互斥域:相互干扰的实验放同一域(互斥)
- •提高实验密度:同一批用户可参与多个层的实验
📐 Mathematical Derivations
数学机理:<strong>分层实验(layered experiments)</strong>——(1) <strong>问题</strong>——若所有实验都用'同一批流量的同一随机化',则<strong>同一用户只能进一个实验</strong>(互斥)→ <strong>实验密度低</strong>(同期只能跑少数实验);而大公司每天有数百个实验需求。(2) <strong>分层(layer)的解法</strong>——(a) <strong>做法</strong>——把流量分成<strong>多个独立的层</strong>(layer);每层用<strong>独立的随机化</strong>(独立的哈希种子);(b) <strong>效果</strong>——<strong>同一用户可以同时参与多个层的实验</strong>(因为不同层的随机化独立);(c) <strong>前提</strong>——<strong>层间正交(orthogonality)</strong>——即'一个实验的处理不影响另一个层的实验的指标';(d) <strong>为什么能正交</strong>——因为不同层的随机化独立 → '实验 A 的组别'与'实验 B 的组别'在统计上独立(不相关);(e) <strong>结果</strong>——(i) <strong>实验密度提升</strong>(同期可跑'层数'倍的实验);(ii) <strong>样本量不变</strong>(每层仍有全量用户)。(3) <strong>正交的前提(重要)</strong>——(a) <strong>'处理不相互影响'</strong>——若 A 与 B 都改'同一个 UI 元素',则 A 的效果依赖 B 的处理(<strong>不正交</strong>);(b) <strong>'指标的叠加性'</strong>——若 A 与 B 的效果是'相加'的,则正交成立;若'相乘'或有交互,则不正交;(c) <strong>实践</strong>——通常假设'不同模块的改动正交'(如'推荐算法改动'与'UI 颜色改动'正交);但'同一模块'的改动不正交。(4) <strong>互斥域(domain)</strong>——(a) <strong>做法</strong>——把'相互干扰'的实验放在<strong>同一个域</strong>(domain),域内互斥;(b) <strong>例子</strong>——'两个都改首页推荐的实验'放同一域(互斥);'改首页推荐'与'改搜索排序'放不同域(正交);(c) <strong>本质</strong>——<strong>域 = 一组互斥的实验集合</strong>;层 = 一组正交的实验集合(域可以看作'一层的特例')。(5) <strong>实现细节</strong>——(a) <strong>哈希</strong>——用 (user_id + layer_id) 哈希到 [0,1),决定'该用户在该层的组别';(b) <strong>一致性</strong>——同一用户在同一层始终在同一组(稳定);(c) <strong>流量比例</strong>——每层的实验可占不同比例(如实验占 10%、剩余 90% 作为该层的对照);(d) <strong>'空层'</strong>——未使用的层可作为'对照'(用于观测'层间的相互影响')。<strong>与其他问题的关系</strong>——(a) 与'实验平台能力'(分层是平台的核心功能);(b) 与'网络效应'(干扰是分层的反例);(c) 与'多重比较'(层间正交降低了多重比较的关联性)。<strong>实践建议</strong>——(a) <strong>按'模块'分层</strong>(推荐/搜索/UI/广告各一层);(b) <strong>相互干扰的实验放同一域</strong>(互斥);(c) <strong>验证正交性</strong>(用'空层'或'A/A 测试');(d) <strong>层数不宜过多</strong>(管理复杂);(e) <strong>记录层与域的配置</strong>(元数据)。<strong>度量</strong>——(a) 实验密度(同期实验数);(b) 正交性验证(A/A 测试的假阳性率);(c) 层间的相互影响。
🏭 Production Trade-offs
深度剖析与工程权衡:① <strong>'分层提高实验密度'是核心价值</strong>——同一用户可参与多层;面试中能指出这一点是深度理解的标志。② <strong>'层间正交的前提是处理不相互影响'</strong>——同一模块的改动不正交;故需按模块分层。③ <strong>'互斥域'处理干扰</strong>——相互干扰的实验放同一域。④ <strong>'用空层验证正交性'</strong>——实用技巧(观测层间的相互影响)。⑤ <strong>'层数不宜过多'</strong>——管理复杂度上升。⑥ <strong>面试要点</strong>——被问'如何同时跑很多实验',应给出'<strong>分层(独立随机化 → 正交)+ 互斥域(相互干扰的实验互斥)+ 按模块分层 + 用空层验证</strong>';能指出'同一模块的改动不正交'是深度理解的标志。
⚠️ Common Interview Pitfalls
- ✕把所有实验放在同一层(密度低、互斥)
- ✕把相互干扰的实验放不同层(不正交)
🎯 Interviewer Follow-ups
- ?'层间正交'的前提是什么?
- ?如何判断两个实验是否'相互干扰'?
📚
Associated Knowledge Base Guides & Mindmaps
Explore the comprehensive technical article, exam cards, and global architecture tree.