Linear Algebra: 解释特征值、特征向量与奇异值分解（SVD）的几何含义。

Core Concept: 特征向量是被矩阵线性变换后方向不变的向量；SVD 把任意矩阵分解为旋转-缩放-旋转。

<strong>特征分解</strong>只对可对角化的方阵存在：A=VΛV⁻¹，其中特征向量 vᵢ 满足 Avᵢ=λᵢvᵢ——即矩阵作用在这些特殊方向上只做伸缩、不改变方向，λᵢ 是伸缩倍数。对称阵的特征向量正交且特征值为实数，这是它被广泛使用的原因。<strong>SVD</strong> 则对任意 m×n 矩阵成立：A=UΣVᵀ，其中 V 的列是 AᵀA 的特征向量（输入空间的正交基），U 的列是 AAᵀ 的特征向量（输出空间的正交基），Σ 的对角元 σᵢ=√λᵢ(AᵀA) 是非负奇异值。几何上，SVD 说'任何线性变换 = 旋转(Vᵀ) → 沿坐标轴伸缩(Σ) → 旋转(U)'。奇异值按降序排列，前 k 个奇异值对应能量最大的 k 个方向。

工程含义：① <strong>截断 SVD 是最优低秩近似</strong>——Eckart-Young 定理保证取前 k 个奇异值给出 Frobenius 范数意义下的最优秩-k 近似，这是 PCA、LoRA（低秩增量）、推荐系统矩阵分解、图像压缩的共同理论基础；② <strong>数值上应优先用 SVD 而非特征分解</strong>——因为直接构造 AᵀA 会使条件数平方（κ(AᵀA)=κ(A)²），放大舍入误差，而 SVD 算法（Golub-Kahan 双对角化）数值稳定；③ <strong>秩与信息</strong>——奇异值为 0 的个数等于零空间维数，决定方程组 Ax=b 是否有唯一解；接近 0 的奇异值则意味着'病态方向'，是正则化（岭回归/截断 SVD）的作用对象。