可解释性 SHAP 与 LIME

SHAP 与 LIME 是最常用的两类模型可解释性方法。SHAP 基于博弈论 Shapley 值做严格加性的特征归因: $\phi_i = \sum_{S \subseteq N\setminus\{i\}} \frac{|S|!(|N|-|S|-1)!}{|N|!}[v(S\cup\{i\}) - v(S)]$,其中 $v(S)$ 是特征子集 $S$ 的预测期望,权重 $\frac{|S|!(|N|-|S|-1)!}{|N|!}$ 是特征 $i$ 在联盟序列中的排列占比;Shapley 值是唯一同时满足效率性、对称性、虚拟性与可加性的归因解,输出被精确分解为 $\sum_i \phi_i = f(x) - E[f]$。TreeSHAP 利用树结构在 $O(TLD^2)$ 内精确计算(无需采样),LIME 则拟合局部可解释替代模型 $\min_g \mathcal{L}(f, g, \pi_x)$,在实例 $x$ 的 $\pi_x$ 加权邻域内用稀疏线性/决策树 $g$ 近似 $f$。

风控/信贷/推荐模型上线后做特征解释;面试常问“SHAP 和 LIME 怎么选”“给黑盒模型做归因用什么”;全局解释看 SHAP 特征重要性排序与依赖图,单样本解释看 force plot 或 LIME 局部权重;树模型(如 XGBoost/LightGBM)在工业界一律用 TreeSHAP。

相比线性模型系数只能解释可加线性关系,SHAP 把任意非线性模型的输出公平分解到各特征——加性属性保证 $\sum_i \phi_i = f(x) - E[f]$、归因和恒等于预测与基线之差,且跨模型、跨样本可比较;相比 LIME 随机采样导致的不可复现(扰动范围与采样种子都会改变结果),TreeSHAP 对树模型精确、快速且结果唯一确定。

检验攻克程度：针对「可解释性 SHAP 与 LIME」专属刷题排雷

做单选排雷题、推导选项机制，答错自动收录进专属错题本。