M1-017M1: Mathematics & Statistics FundamentalsLinear AlgebraEasy
Mastery:
Linear Algebra: 解释矩阵的秩、零空间、列空间,以及秩与可解性的关系。
📐 Mathematical Definition
⚡ Executive Summary
Core Concept: 秩 = 线性无关列数 = 列空间维数;Ax=b 有解当且仅当 b 在列空间中。
📌 Key Takeaways
- •满秩方阵 → 唯一解
- •秩亏 → 无穷多解或无解(用最小二乘/pinv)
📐 Mathematical Derivations
四个基本子空间构成线性代数的骨架:<strong>列空间</strong> C(A)={Ax}(A 的列的所有线性组合,维数=秩 r)、<strong>零空间</strong> N(A)={x:Ax=0}(维数=n−r,秩-零化度定理)、行空间 C(Aᵀ)(维数=r)与左零空间 N(Aᵀ)(维数=m−r)。关键正交关系:N(A)⊥C(Aᵀ)、N(Aᵀ)⊥C(A),这给出了 Ax=b 的<strong>可解性判据</strong>——b 必须落在 C(A) 中,且此时解集为 x_particular+N(A)。秩的三种等价理解:线性无关列的最大数目、非零奇异值的个数、行阶梯形中主元的个数。
🏭 Production Trade-offs
工程含义:① <strong>最小二乘的几何</strong>——当 b∉C(A)(超定),无解,转而求 b 在 C(A) 上的正交投影,得到正规方程 AᵀAx=Aᵀb,其解即最小二乘解(残差与列空间正交);② <strong>秩亏时的处理</strong>——若 AᵀA 奇异(共线性),需用伪逆/pinv(SVD 截断小奇异值)或加 L2 正则(岭回归使 AᵀA+λI 可逆);③ <strong>低秩假设的威力</strong>——真实数据矩阵常近似低秩(用户-物品评分矩阵、语言模型权重增量),这使矩阵补全(推荐系统)、LoRA(ΔW=BA,秩 r≪min(d,k))、压缩感知成为可能。LoRA 的本质就是用秩-r 子空间逼近全参微调的更新。
⚠️ Common Interview Pitfalls
- ✕认为 Ax=b 总有解
- ✕在秩亏时直接求逆而不使用伪逆或正则化
🎯 Interviewer Follow-ups
- ?低秩结构为什么能用于模型压缩?(LoRA)
📚
Associated Knowledge Base Guides & Mindmaps
Explore the comprehensive technical article, exam cards, and global architecture tree.