Monitoring & Drift Detection: 解释数据漂移与概念漂移的差异。

Core Concept: 数据漂移：输入分布 P(X) 变化；概念漂移：条件分布 P(Y|X) 变化；两者对策不同。

数学机理：<strong>三种漂移</strong>——(1) <strong>数据漂移（data drift / 协变量漂移 covariate shift）</strong>——(a) <strong>定义</strong>——<strong>输入分布 P(X) 变化</strong>，而'条件分布 P(Y|X) 不变'；(b) <strong>例子</strong>——'用户年龄分布变化'、'新设备类型出现'、'季节性商品'；(c) <strong>后果</strong>——模型在新输入分布上表现下降（因为它只在旧分布上训练）；<strong>(d) 关键</strong>——数据漂移<strong>不一定有害</strong>（若新输入落在模型学好的区域，则无害）；故需结合'性能监控'判断。(2) <strong>概念漂移（concept drift）</strong>——(a) <strong>定义</strong>——<strong>条件分布 P(Y|X) 变化</strong>（'输入到输出的映射'变了）；(b) <strong>例子</strong>——'用户对同一商品的偏好变了'、'欺诈手法变了'、'经济环境变化导致同一特征预示不同结果'；(c) <strong>后果</strong>——<strong>更严重</strong>（模型学到的规律失效）；(d) <strong>特点</strong>——<strong>更难检测</strong>（因为'无标签时看不到 P(Y|X)'）。(3) <strong>标签漂移（label drift / prior shift）</strong>——(a) <strong>定义</strong>——<strong>P(Y) 变化</strong>（正例比例变化）；(b) <strong>例子</strong>——'欺诈率上升'、'点击率下降'；(c) <strong>后果</strong>——(i) 若只变 P(Y) 而 P(X|Y) 不变，则可用'先验校正'修正；(ii) 也影响阈值选择（最优阈值依赖先验）。(4) <strong>检测方法</strong>——(a) <strong>数据漂移</strong>——(i) 单变量（PSI/KL/KS 检验/卡方）；(ii) 多变量（分类器两样本检验——训练一个分类器区分'训练分布'与'当前分布'，若 AUC 高则漂移）；(iii) 统计量监控（均值/方差/分位数/基数）；(b) <strong>概念漂移</strong>——(i) <strong>有标签</strong>——监控性能指标（AUC/准确率）——最直接；(ii) <strong>无标签</strong>——(1) <strong>代理指标</strong>（如'点击率'作为'满意度'的代理）；(2) <strong>'置信度分布'</strong>（模型的预测置信度变化）；(3) <strong>'不确定性'</strong>（预测熵上升）；(4) <strong>'输入-输出一致性'</strong>（如'同一用户的连续行为是否一致'）；(5) <strong>'标签延迟'</strong>（等标签到达后再检测——滞后）；(c) <strong>标签漂移</strong>——直接监控 P(Y)（若有标签）。(5) <strong>对策</strong>——(a) <strong>数据漂移</strong>——(i) 重训（用新数据）；(ii) 加'漂移特征'（让模型感知分布）；(iii) 若'只是输入分布变了但 P(Y|X) 不变'——可用'重要性加权'（importance weighting）；(b) <strong>概念漂移</strong>——(i) 重训（必须）；(ii) <strong>在线学习</strong>（持续更新）；(iii) <strong>滑动窗口</strong>（只用近期数据）；(c) <strong>标签漂移</strong>——(i) <strong>先验校正</strong>（调整输出分布）；(ii) <strong>阈值重调</strong>。<strong>与其他问题的关系</strong>——(a) 与'漂移检测方法'（下一题）；(b) 与'标签延迟'（概念漂移的检测难题）；(c) 与'在线学习'（概念漂移的对策）。<strong>实践建议</strong>——(a) <strong>数据漂移</strong>（易检测，监控输入分布）；(b) <strong>概念漂移</strong>（难检测，需性能或代理指标）；(c) <strong>标签漂移</strong>（监控 P(Y)）；(d) <strong>区分'漂移'与'性能下降'</strong>（漂移不一定有害）；(e) <strong>对策分层</strong>（加权/重训/在线学习）；(f) <strong>监控告警</strong>（见告警设计题）。<strong>度量</strong>——(a) 各漂移的统计量（PSI/KL）；(b) 性能指标的变化；(c) 检测延迟（从漂移到发现）；(d) 重训的效果。

深度剖析与工程权衡：① <strong>'数据漂移不一定有害'是重要认知</strong>——需结合性能判断；面试中能指出是深度理解的标志。② <strong>'概念漂移更难检测'</strong>——无标签时看不到 P(Y|X)；需代理指标。③ <strong>'分类器两样本检验'是检测多变量漂移的实用方法</strong>——训练分类器区分'训练分布'与'当前分布'。④ <strong>'先验校正'修标签漂移</strong>——若 P(X|Y) 不变。⑤ <strong>'漂移 ≠ 需要重训'</strong>——若漂移不影响性能则不必重训（重训有成本）。⑥ <strong>面试要点</strong>——被问'数据漂移与概念漂移'，应给出'<strong>定义（P(X) vs P(Y|X) vs P(Y)）+ 检测（统计量/分类器检验 vs 性能/代理）+ 对策（加权/重训/在线学习）+ 数据漂移不一定有害</strong>'；能指出'概念漂移更难检测'是深度理解的标志。