Bootstrap

Bootstrap (自助法) 用有放回重采样估计统计量 $\hat\theta = g(x_1, \dots, x_n)$ 的抽样分布:独立重复 $B$ 次,每次从原始 $n$ 个观测中有放回抽取 $n$ 个,并算出对应的 $\hat\theta^{*b}$($b = 1, \dots, B$),用这 $B$ 个重采样估计的经验分布近似 $\hat\theta$ 的分布。方差与标准误估计:

百分位区间取重采样分布的分位数 $\bigl[\hat\theta^{*}_{(\alpha/2)},\; \hat\theta^{*}_{(1-\alpha/2)}\bigr]$。统计依据:把样本经验分布 $\hat F_n$ 当作真实分布 $F$ 的近似,重采样即在 $\hat F_n$ 上“重复实验”。

中位数、相关系数等无解析标准误的统计量,小样本置信区间,以及模型评估指标(如 AUC、RMSE)的不确定性估计;面试常考“bootstrap 为什么有效”与 CLT 的关系。

解析标准误依赖 CLT 与大样本、要求统计量可微,bootstrap 对任意统计量、任意分布(只需 i.i.d.)给出近似抽样分布,实现仅需 $O(B n)$ 次重采样运算;局限是重采样集不引入样本外信息,对相关数据(时间序列)失效,需用 block bootstrap 等变体。

检验攻克程度：针对「Bootstrap」专属刷题排雷

做单选排雷题、推导选项机制，答错自动收录进专属错题本。