M1-039M1: 数学与统计基础估计理论 (MLE/MAP)Medium
⚡闪卡盲测➔掌握度:

什么是一致性与有效性?MLE 具备这两个性质吗。

🎯 深度面试自测闭环(先口述或草拟,再核对解析)
免登录记录进度:核心结论回忆 → 避坑清单自查 → 标记掌握或加入错题队列。
Step 1 · 尝试用 1–2 句话回答这道题的核心结论与适用边界
Step 2 · 勾选已覆盖的陷阱与追问思考
下一题: M1-040 →
📐 核心数学机理公式
n(θ^MLE−θ)→dN(0, I(θ)−1)\sqrt n(\hat\theta_{MLE}-\theta)\xrightarrow{d}\mathcal N(0,\ I(\theta)^{-1})
⚡ 一句话直击要害答案
一致性指 n→∞ 时收敛到真值;有效性指达到 Cramér-Rao 下界。MLE 在正则条件下两者兼有(渐近)。

📌 核心要点提炼

  • •
    渐近正态 → 可用 Fisher 信息构造置信区间
  • •
    有限样本下可能无偏性不成立

📐 数学机理与严密推导

一致性(consistency)指 θ̂_n 依概率收敛到真值 θ:∀ε>0, P(|θ̂_n−θ|>ε)→0。它是估计量的最低要求——不一致的估计量即使样本无限也无法逼近真值。有效性(efficiency)指估计量的渐近方差达到 Cramér-Rao 下界 Var(θ̂)≥1/(nI(θ)),其中 I(θ)=E[(∂log p/∂θ)²]=−E[∂²log p/∂θ²] 是 Fisher 信息量(衡量数据对参数的信息含量,也等于对数似然的曲率)。MLE 在正则条件下渐近有效且渐近正态:√n(θ̂−θ)→N(0, I(θ)⁻¹),这称为 MLE 的渐近正态性。

🏭 深度剖析与工业落地权衡

三个实用推论:① 置信区间的构造——由渐近正态性,θ̂±z_{α/2}/√(nI(θ̂)) 即为近似 95% 置信区间,这是极大似然推断的标准做法(如逻辑回归系数的标准误即来自海森/信息矩阵的逆);② Fisher 信息的可加性——独立样本的信息相加,故 n 个样本的方差是单样本的 1/n,解释了'标准误 ∝ 1/√n';③ MLE 失效的正则条件——参数在参数空间边界(如方差为 0)、模型不可辨识(多个 θ 产生同一分布)、似然无界(如 GMM 中某个分量塌缩到单点时似然趋于无穷)时,渐近理论不成立,实践中需加正则或约束。有限样本下 MLE 也不保证无偏(高斯方差估计即有偏),无偏性并非 MLE 的追求目标。
⚠️ 常见面试陷阱与高频失分点
  • ✕
    认为 MLE 在有限样本下无偏
  • ✕
    忽视渐近理论成立所需的正则条件
🎯 面试官连环追问与延伸考察
  • ?
    Fisher 信息量的含义?
  • ?
    什么时候 MLE 会失效?(边界参数/不可辨识)
⚡
想检验本题的肌肉记忆?进入 3 阶闪卡主动回忆盲测
隐藏答案遮罩,自测:审题锚点 ➔ 数理公式机理 ➔ 工业标杆代码与连环追问。3 分钟攻破认知盲区!
🎯 立即在闪卡中盲测此题➔
📚

关联知识库专题与交互式导图

← 上一题M1-038: 解释偏差-方差分解,并写出期望泛化误差的分解式。📋 返回题库下一题 →M1-040: 什么是可辨识性(identifiability)?举一个不可辨识的例子。