Linear Regression: 解释多重共线性，它如何影响系数估计与显著性检验。

Core Concept: 特征高度相关 → XᵀX 接近奇异 → 系数方差爆炸、符号不稳定，但预测仍可能准。

方差膨胀的数学来源：由 Var(ŵ)=σ²(XᵀX)⁻¹，其对角元可写成 Var(ŵⱼ)=σ²/[(1−Rⱼ²)Σ(xᵢⱼ−x̄ⱼ)²]，其中 Rⱼ² 是第 j 个特征对其余所有特征回归的 R²。当特征高度相关时 Rⱼ²→1，分母→0，方差→<strong>无穷</strong>。定义 <strong>VIFⱼ=1/(1−Rⱼ²)</strong> 度量膨胀倍数：VIF=10 意味着方差被放大 10 倍（Rⱼ²=0.9），标准误放大 √10≈3.16 倍，故原本显著的系数可能变得不显著。<strong>关键区分</strong>：共线性不影响<strong>预测</strong>（因为 Xw 的组合是稳定的，只是分解方式不唯一），但严重影响<strong>系数解释</strong>与<strong>显著性检验</strong>。

三个实践要点：① <strong>诊断</strong>——VIF>10（严格些用 >5）、条件数 κ(X)>30、相关系数矩阵；② <strong>处理</strong>——删除冗余特征（保留解释性更强的）、PCA/PLS（牺牲可解释性换稳定性）、岭回归（加 λI 使可逆，且把方差'均摊'到相关特征上）、或把相关特征合并为综合指标；③ <strong>为什么 L1 在这里不稳</strong>——LASSO 在相关特征组中只随机保留一个，换个样本可能选中另一个，选择结果不稳定；ElasticNet 或分组 LASSO 更合适。特别注意：<strong>共线时系数的符号可能反直觉</strong>（如'教育年限'与'收入'都为正相关，但同时放入回归后其中一个系数可能为负），这不是 bug 而是方差膨胀的表现，此时不应解读单个系数。