Missing Values & Data Leakage: 缺失值的三种机制是什么？分别该如何处理。

Core Concept: MCAR（完全随机）、MAR（依赖可观测变量）、MNAR（依赖缺失值本身）。

三种机制的严格定义（R 为缺失指示变量）：① <strong>MCAR（Missing Completely At Random）</strong>——缺失与任何变量（含缺失值本身）都无关，即 P(R|X_obs,X_mis)=P(R)；例如随机仪器故障导致的缺失。<strong>后果</strong>：完整案例分析（删缺失）无偏但损失信息；插补也无偏。② <strong>MAR（Missing At Random）</strong>——缺失依赖于<strong>可观测</strong>变量，即 P(R|X_obs,X_mis)=P(R|X_obs)；例如'收入'缺失与'年龄'相关（年轻人更可能不填），但给定年龄后缺失与收入无关。<strong>后果</strong>：删除会有偏，但<strong>基于可观测变量的插补（MICE、回归插补）可得到无偏估计</strong>。③ <strong>MNAR（Missing Not At Random）</strong>——缺失依赖于<strong>缺失值本身</strong>，即 P(R|X_obs,X_mis)≠P(R|X_obs)；例如'高收入者更不愿披露收入'。<strong>后果</strong>：最麻烦——标准插补都有偏，需显式建模缺失机制（选择模型、Heckman 校正、模式混合模型），且<strong>假设不可检验</strong>（因为缺失值不可观测）。

处理策略与要点：① <strong>机制判断</strong>——MCAR 可用 Little's test 检验（检验缺失模式与可观测变量的独立性）；MAR 不可直接检验（只能基于领域知识）；MNAR 完全不可检验（需做<strong>敏感性分析</strong>：在不同 MNAR 假设下看结论是否稳健）。② <strong>方法选择</strong>——MCAR：删除或简单插补均可；MAR：<strong>多重插补（MICE）</strong> 是标准方法（多次抽样反映不确定性，比单次插补更正确地反映方差）；MNAR：需专门建模或敏感性分析。③ <strong>简单插补的问题</strong>——均值/中位数插补会<strong>压缩方差</strong>（所有缺失值取同一个数）并<strong>扭曲相关性</strong>（人为降低方差导致相关系数偏高），应避免用于统计分析；树模型可用代理分裂或默认方向原生处理缺失。④ <strong>指示变量</strong>——当缺失本身有信息（MNAR 或缺失与目标相关）时，加入'是否缺失'的二值特征可显著提升模型（这是最实用的技巧之一）。⑤ <strong>缺失比例</strong>——若某特征缺失 >50–70%，通常直接删除该特征；但需先确认缺失是否随机。