M1-047M1: Mathematics & Statistics FundamentalsConfidence Intervals & BootstrapEasy
Mastery:

Confidence Intervals & Bootstrap: 解释 bootstrap 的原理,并写出求均值置信区间的步骤。

📐 Mathematical Definition
x(b)∗∼resample(x,n),θ^(b)∗=stat(x(b)∗)x^*_{(b)}\sim\text{resample}(x,n),\qquad \hat\theta^*_{(b)}=\mathrm{stat}(x^*_{(b)})
⚡ Executive Summary
Core Concept: 用有放回重采样模拟抽样分布;取重采样统计量的分位数得到 CI。

📌 Key Takeaways

  • •
    无需分布假设
  • •
    对均值/中位数/相关系数等都可用
  • •
    B 通常取 1000–10000

📐 Mathematical Derivations

bootstrap 的核心思想是<strong>用经验分布 F̂ 替代真实分布 F</strong>:既然观测样本是总体的一个代表,那么'从 F̂ 中有放回重采样 n 个点'就模拟了'从 F 中再抽样一次'的过程。具体步骤:① 从原始样本 x₁,…,xₙ 中有放回抽取 n 个点,得到重采样样本 x*;② 计算统计量 θ̂*=stat(x*);③ 重复 B 次(B=1000–10000)得到 θ̂*₁,…,θ̂*_B 的经验分布;④ 取该分布的 α/2 与 1−α/2 分位数即为百分位法 CI。其理论依据是 <strong>bootstrap 一致性</strong>:在温和条件下,√n(θ̂*−θ̂) 的分布与 √n(θ̂−θ) 的分布渐近相同。

🏭 Production Trade-offs

适用与失效:① <strong>适用范围极广</strong>——均值、中位数、分位数、相关系数、回归系数、AUC、乃至自定义的复杂统计量,只要有计算方式就能 bootstrap,无需推导解析方差(这是它相对 delta method 的最大优势)。② <strong>失效情形</strong>——(a) <strong>极值统计量</strong>(最大值、最小值):bootstrap 样本的最大值最多等于原样本最大值,无法反映超出观测范围的尾部,故严重低估不确定性;(b) <strong>重尾分布</strong>:重采样难以复现极端值的影响,方差估计不稳;(c) <strong>依赖结构</strong>:时间序列/聚类数据需用 block bootstrap 或 cluster bootstrap 保持依赖结构,否则会低估方差;(d) <strong>参数在边界</strong>(如方差为 0)时分布非正态,需用 BCa 等修正方法。③ <strong>实践建议</strong>——B 取 1000 以上(分位数估计需要足够样本),固定随机种子保证可复现,A/B 测试中应直接对<strong>差值</strong>做 bootstrap 而非分别构造 CI 后比较。
⚠️ Common Interview Pitfalls
  • ✕
    对最大值/最小值做 bootstrap(严重低估不确定性)
  • ✕
    对时间序列用朴素 bootstrap(破坏依赖结构)
🎯 Interviewer Follow-ups
  • ?
    bootstrap 不适合估计哪些统计量?(极值、重尾)
  • ?
    为什么极值统计量 bootstrap 会失败?
📚

Associated Knowledge Base Guides & Mindmaps

Explore the comprehensive technical article, exam cards, and global architecture tree.

← PreviousM1-046: Confidence Intervals & Bootstrap: 解释置信区间的频率派含义,以及它与 p-value 的关系。📋Back to BankNext →M1-048: Confidence Intervals & Bootstrap: 什么是 bootstrap 的三种区间构造方法?