M1-020M1: 数学与统计基础线性代数Hard
⚡闪卡盲测➔掌握度:

解释正定性,以及它在优化与协方差矩阵中的意义。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M1-021 →
📐 核心数学机理公式
A≻0  ⟺  λi>0 ∀iA\succ0\iff \lambda_i>0\ \forall i
⚡ 一句话直击要害答案
xᵀAx>0 对所有非零 x 成立;保证严格凸与唯一极小点。

📌 核心要点提炼

  • •
    协方差矩阵半正定;若严格正定则各维无完全共线性
  • •
    海森矩阵正定 ⇒ 局部凸 ⇒ 二阶充分条件

📐 数学机理与严密推导

正定的定义是二次型恒正:xᵀAx>0 ∀x≠0,等价条件有三——所有特征值为正、所有顺序主子式为正(Sylvester 判据)、存在可逆 B 使 A=BᵀB(Cholesky 分解存在)。半正定(xᵀAx≥0)允许特征值为 0,即存在非零方向使二次型为 0。在优化中,海森矩阵正定 ⇔ 严格局部极小(二阶充分条件):一阶导为零给出驻点,二阶导的正定性区分极小、极大与鞍点。在统计中,协方差矩阵 Σ 必然半正定(因为 Σ=E[(X−μ)(X−μ)ᵀ],对任意 a 有 aᵀΣa=Var(aᵀX)≥0);它严格正定当且仅当各维度不存在完全线性相关。

🏭 深度剖析与工业落地权衡

三个工程含义:① 共线性诊断——若协方差矩阵(或设计矩阵 XᵀX)奇异或接近奇异,说明存在完全/近似的线性相关,此时回归系数方差爆炸(Var(ŵⱼ)=σ²/[(1−Rⱼ²)Σ(xᵢⱼ−x̄ⱼ)²] 中 Rⱼ²→1),系数符号不稳定但预测仍可能准确——这正是岭回归(加 λI 使其正定)的动机;② Cholesky 分解的效率——正定矩阵可分解为 LLᵀ,使线性方程组求解与多元高斯采样(L·z,z~N(0,I))从 O(n³) 降到 O(n³/3) 且数值稳定,是高斯过程与贝叶斯推断的核心;③ 非凸优化的鞍点——高维深度学习中,一阶驻点处海森通常既非正定也非负定(大量正负特征值),即鞍点远多于局部极小,这是 SGD 噪声能有效逃离鞍点的原因。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    把半正定当作正定(忽略了零特征值方向)
  • ✕
    认为海森负定也可能是局部极小(必为鞍点或极大)
🎯 面试官连环追问与延伸考察
  • ?
    半正定但非正定意味着什么?
  • ?
    共线性如何影响线性回归系数?
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M1-019: 解释 Moore-Penrose 伪逆,以及它如何给出最小二乘解。📋 返回题库下一题 →M1-021: 写出泰勒展开,并说明梯度、海森矩阵在优化中的角色。