M1-017M1: Mathematics & Statistics FundamentalsLinear AlgebraEasy
Mastery:

Linear Algebra: 解释矩阵的秩、零空间、列空间,以及秩与可解性的关系。

📐 Mathematical Definition
rank(A)+dim⁡N(A)=n,Ax=b 可解  ⟺  b∈C(A)\mathrm{rank}(A)+\dim\mathcal N(A)=n,\qquad Ax=b\ \text{可解}\iff b\in\mathcal C(A)
⚡ Executive Summary
Core Concept: 秩 = 线性无关列数 = 列空间维数;Ax=b 有解当且仅当 b 在列空间中。

📌 Key Takeaways

  • •
    满秩方阵 → 唯一解
  • •
    秩亏 → 无穷多解或无解(用最小二乘/pinv)

📐 Mathematical Derivations

四个基本子空间构成线性代数的骨架:<strong>列空间</strong> C(A)={Ax}(A 的列的所有线性组合,维数=秩 r)、<strong>零空间</strong> N(A)={x:Ax=0}(维数=n−r,秩-零化度定理)、行空间 C(Aᵀ)(维数=r)与左零空间 N(Aᵀ)(维数=m−r)。关键正交关系:N(A)⊥C(Aᵀ)、N(Aᵀ)⊥C(A),这给出了 Ax=b 的<strong>可解性判据</strong>——b 必须落在 C(A) 中,且此时解集为 x_particular+N(A)。秩的三种等价理解:线性无关列的最大数目、非零奇异值的个数、行阶梯形中主元的个数。

🏭 Production Trade-offs

工程含义:① <strong>最小二乘的几何</strong>——当 b∉C(A)(超定),无解,转而求 b 在 C(A) 上的正交投影,得到正规方程 AᵀAx=Aᵀb,其解即最小二乘解(残差与列空间正交);② <strong>秩亏时的处理</strong>——若 AᵀA 奇异(共线性),需用伪逆/pinv(SVD 截断小奇异值)或加 L2 正则(岭回归使 AᵀA+λI 可逆);③ <strong>低秩假设的威力</strong>——真实数据矩阵常近似低秩(用户-物品评分矩阵、语言模型权重增量),这使矩阵补全(推荐系统)、LoRA(ΔW=BA,秩 r≪min(d,k))、压缩感知成为可能。LoRA 的本质就是用秩-r 子空间逼近全参微调的更新。
⚠️ Common Interview Pitfalls
  • ✕
    认为 Ax=b 总有解
  • ✕
    在秩亏时直接求逆而不使用伪逆或正则化
🎯 Interviewer Follow-ups
  • ?
    低秩结构为什么能用于模型压缩?(LoRA)
📚

Associated Knowledge Base Guides & Mindmaps

Explore the comprehensive technical article, exam cards, and global architecture tree.

← PreviousM1-016: Linear Algebra: 解释特征值、特征向量与奇异值分解(SVD)的几何含义。📋Back to BankNext →M1-018: Linear Algebra: 什么是病态矩阵与条件数?它如何影响数值求解与训练?