估计理论 (MLE/MAP): 什么是一致性与有效性？MLE 具备这两个性质吗。

Core Concept: 一致性指 n→∞ 时收敛到真值；有效性指达到 Cramér-Rao 下界。MLE 在正则条件下两者兼有（渐近）。

<strong>一致性</strong>（consistency）指 θ̂_n 依概率收敛到真值 θ：∀ε>0, P(|θ̂_n−θ|>ε)→0。它是估计量的最低要求——不一致的估计量即使样本无限也无法逼近真值。<strong>有效性</strong>（efficiency）指估计量的渐近方差达到 Cramér-Rao 下界 Var(θ̂)≥1/(nI(θ))，其中 I(θ)=E[(∂log p/∂θ)²]=−E[∂²log p/∂θ²] 是 <strong>Fisher 信息量</strong>（衡量数据对参数的信息含量，也等于对数似然的曲率）。MLE 在正则条件下<strong>渐近有效且渐近正态</strong>：√n(θ̂−θ)→N(0, I(θ)⁻¹)，这称为 MLE 的渐近正态性。

三个实用推论：① <strong>置信区间的构造</strong>——由渐近正态性，θ̂±z_{α/2}/√(nI(θ̂)) 即为近似 95% 置信区间，这是极大似然推断的标准做法（如逻辑回归系数的标准误即来自海森/信息矩阵的逆）；② <strong>Fisher 信息的可加性</strong>——独立样本的信息相加，故 n 个样本的方差是单样本的 1/n，解释了'标准误 ∝ 1/√n'；③ <strong>MLE 失效的正则条件</strong>——参数在参数空间边界（如方差为 0）、模型不可辨识（多个 θ 产生同一分布）、似然无界（如 GMM 中某个分量塌缩到单点时似然趋于无穷）时，渐近理论不成立，实践中需加正则或约束。有限样本下 MLE 也不保证无偏（高斯方差估计即有偏），无偏性并非 MLE 的追求目标。