bootstrap方法

bootstrap 方法是一种基于重抽样的统计推断方法，通过对原始样本进行有放回的重抽样来估计统计量的分布。

分类

• 非参数 bootstrap：直接从经验分布重抽样，不指定有限维参数分布，但仍依赖抽样结构和统计量的正则条件
• 参数 bootstrap：先估计总体参数，再从参数模型中生成新样本

基本步骤

以下是 iid 样本的普通非参数 bootstrap：

1. 从原始样本 $\{x_1, \dots, x_n\}$ 中有放回地抽取 $B$ 个容量为 $n$ 的 bootstrap 样本
2. 对每个 bootstrap 样本计算感兴趣的统计量 $\hat{\theta}_b^*$
3. 用条件于原数据的重抽样分布估计抽样波动；用于推断时比较的是适当中心化、缩放的 $\hat\theta^*-\hat\theta$ 与 $\hat\theta-\theta$，近似有效性需要论证

应用

• 估计标准误差：$SE(\hat{\theta}) \approx \sqrt{\frac{1}{B-1} \sum_{b=1}^B (\hat{\theta}_b^* - \bar{\theta}^*)^2}$
• 构造置信区间（分位数法、BCa 法等）
• 假设检验

不能靠增加重抽样次数解决的问题

增大 $B$ 只减少 Monte Carlo 误差，不增加原始样本的信息。独立成对观测应整对重抽；时间相关数据可考虑保留依赖结构的区块重抽样，不能逐点打散；原假设检验还需要在原假设下构造适当参考分布。

普通 bootstrap 也并非对所有统计量一致。例如连续 $U[0,\theta]$ 样本的最大值 $M$：任何重抽样最大值 $M^*\le M$，且 $P^*(M^*=M)=1-(1-1/n)^n\to1-e^{-1}$；真实最大值的分布没有这个点质量。因而不能直接用普通百分位 bootstrap 解决这个端点参数问题。