Model Governance & Risk Management: 解释偏见的来源与缓解层次。

Core Concept: 偏见来自历史数据、采样、标注、特征代理与目标设定；缓解分预处理（数据）、处理中（约束/正则/对抗）、后处理（阈值校准）三个层次。

数学机理：<strong>偏见的来源</strong>——(1) <strong>历史偏见（historical bias）</strong>——(a) 数据反映既有的社会不平等（历史招聘/信贷/执法决策）；(b) 即使采样完美，模型也会学习并延续这些模式；(c) 最难消除（根在社会）。(2) <strong>表示/采样偏见（representation bias）</strong>——(a) 某些群体在数据中<strong>样本不足</strong>；(b) 后果——模型对这些群体表现差（欠拟合）；(c) 例——语音识别对少数口音差。(3) <strong>测量/标注偏见（measurement/label bias）</strong>——(a) 标注者主观（不同标注者标准不同）；(b) 标注指南缺陷（定义模糊）；(c) 代理标签（用'被捕'代理'犯罪'）；(d) 历史标签延续偏见。(4) <strong>聚合偏见（aggregation bias）</strong>——(a) 用单一模型服务异质群体；(b) 忽略群体差异（如不同地区同一模型）。(5) <strong>评估偏见（evaluation bias）</strong>——(a) 评估集本身有偏；(b) 指标不反映公平目标。(6) <strong>部署偏见（deployment bias）</strong>——(a) 系统在与其设计环境不同的场景中被使用；(b) 反馈环（预测影响数据）。(7) <strong>代理特征（proxy features）</strong>——(a) 看似中性（邮编、消费记录）但高度相关于受保护属性；(b) <strong>故'去掉受保护属性'不足</strong>（冗余编码 principle）——相关特征会间接传递偏见。<strong>缓解层次</strong>——(1) <strong>预处理（pre-processing，改数据）</strong>——(a) <strong>重加权</strong>——给欠代表群体更高权重；(b) <strong>重采样</strong>——过采样少数群体、欠采样多数；(c) <strong>数据增强</strong>——合成少数群体样本；(d) <strong>去偏表示</strong>——学习与受保护属性独立的表示（对抗去偏）；(e) <strong>优点</strong>——模型无关、通用；(f) <strong>缺点</strong>——可能损失信息、不保证下游公平。(2) <strong>处理中（in-processing，改训练）</strong>——(a) <strong>正则项</strong>——在损失中加公平约束（如 DP/EO 差异惩罚）；(b) <strong>约束优化</strong>——带公平约束的训练；(c) <strong>对抗训练</strong>——让预测器与'预测受保护属性的判别器'对抗；(d) <strong>公平表示学习</strong>；(e) <strong>优点</strong>——直接优化公平目标；(f) <strong>缺点</strong>——需改训练、可能损精度、需调权衡。(3) <strong>后处理（post-processing，改输出）</strong>——(a) <strong>按群体调阈值</strong>——满足 EO/均等赔率（Hardt 等）；(b) <strong>校准</strong>——各群体分别校准；(c) <strong>优点</strong>——模型无关、易实施、可精确满足某定义；(d) <strong>缺点</strong>——需部署时知道受保护属性、可能损整体精度。(4) <strong>数据/流程层（更根本）</strong>——(a) 改善采样覆盖；(b) 改进标注指南与标注者多样性；(c) 移除/修正代理特征；(d) 调整目标函数（多目标）。(5) <strong>无法消除</strong>——(a) 历史偏见根在社会，模型只能缓解；(b) 公平是持续过程（监控 + 迭代）。<strong>与其他问题的关系</strong>——(a) 与公平性度量（目标）；(b) 与高风险场景验证（评估）；(c) 与模型卡（披露）；(d) 与反馈环（部署偏见）。<strong>度量</strong>——(a) 各群体样本量与表现差异；(b) 代理特征与受保护属性的相关性；(c) 公平度量在各层次的改善；(d) 精度-公平权衡。

深度剖析与工程权衡：① <strong>'去掉受保护属性'不能消除偏见</strong>——代理特征会间接传递；面试中能指出'冗余编码'是深度理解的标志。② <strong>历史偏见最难消除</strong>——根在社会。③ <strong>三层次各有取舍</strong>——预处理通用、处理中直接、后处理易实施。④ <strong>后处理需部署时知道受保护属性</strong>——可能涉及隐私。⑤ <strong>偏见也来自目标设定与反馈环</strong>——不只数据。⑥ <strong>公平是持续过程</strong>——需监控与迭代。⑦ <strong>面试要点</strong>——被问怎么缓解偏见，应给出'<strong>来源（历史/采样/标注/代理/目标）+ 三层次缓解（预处理/处理中/后处理）+ 指出去掉属性不足 + 持续监控</strong>'；能指出代理特征与冗余编码是深度理解的标志。