M1-019M1: 数学与统计基础线性代数Medium
⚡闪卡盲测➔掌握度:

解释 Moore-Penrose 伪逆,以及它如何给出最小二乘解。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M1-020 →
📐 核心数学机理公式
A+=VΣ+U⊤,x^=A+bA^+=V\Sigma^+U^\top,\qquad \hat x=A^+b
⚡ 一句话直击要害答案
伪逆通过 SVD 对非零奇异值取倒数构造,给出最小范数最小二乘解。

📌 核心要点提炼

  • •
    秩亏时唯一给出最小范数解
  • •
    等价于岭回归在 λ→0 的极限(数值上更稳)

📐 数学机理与严密推导

伪逆的构造完全依赖 SVD:若 A=UΣVᵀ(秩 r),则 A⁺=VΣ⁺Uᵀ,其中 Σ⁺ 是把 Σ 的非零奇异值取倒数、零奇异值保持为零后转置得到的 n×m 矩阵。它满足四个 Penrose 条件(AA⁺A=A、A⁺AA⁺=A⁺、(AA⁺)ᵀ=AA⁺、(A⁺A)ᵀ=A⁺A),因此在所有'最小二乘解'中,A⁺b 是唯一具有最小范数的那个。具体地,Ax=b 的解集可写为 A⁺b+(I−A⁺A)w(w 任意),其中 A⁺b 是与零空间正交的分量,范数最小。当 A 列满秩时 A⁺=(AᵀA)⁻¹Aᵀ,退化为标准最小二乘解。

🏭 深度剖析与工业落地权衡

三个实用价值:① 秩亏/欠定的统一处理——当特征完全共线(AᵀA 奇异)或方程数少于未知数时,普通求逆失败,伪逆仍给出唯一的最小范数解(这也是 np.linalg.lstsq 与 pinv 内部用 SVD 的原因);② 与岭回归的关系——岭回归解 (AᵀA+λI)⁻¹Aᵀb 可写成 Σᵢ σᵢ/(σᵢ²+λ)·vᵢuᵢᵀb,即把伪逆中的 1/σᵢ 替换为 σᵢ/(σᵢ²+λ)——两者都抑制小奇异值方向,但岭回归是平滑抑制(λ→0 时趋于伪逆),伪逆是硬截断;③ 数值实现——SVD 截断(丢弃小于阈值的奇异值)比伪逆更可控,是实践中处理病态的首选(如 PCA、协同过滤中的潜在因子)。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    把伪逆等同于普通逆(仅在满秩方阵时相同)
  • ✕
    在需要稳定解时用普通求逆而非 SVD 截断
🎯 面试官连环追问与延伸考察
  • ?
    伪逆与岭回归解的关系?
  • ?
    什么时候必须用伪逆而不能求逆?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M1-018: 什么是病态矩阵与条件数?它如何影响数值求解与训练?📋 返回题库下一题 →M1-020: 解释正定性,以及它在优化与协方差矩阵中的意义。