第 9 章：假设检验（Hypothesis Testing）

这一章从“估计参数是多少”转向“根据数据作决策”：在概率控制下，选择拒绝或不拒绝一个统计假设。

---

0. 本章定位

前两章参数估计回答：

$$\theta \text{ 大概是多少？}$$

假设检验回答：

$$\text{数据是否足以反驳某个默认说法 }{H}_0？$$

知识链条：

原假设 H0 / 备择假设 H1
        -> 检验统计量
        -> 拒绝域 / 临界值
        -> 显著性水平 α
        -> p-value
        -> Type I / Type II error
        -> 功效 power
        -> GLRT / 渐近检验

---

1. 假设检验的基本语言

1.1 原假设与备择假设

• 原假设 $H_0$：默认立场，通常代表“无效”“无差异”“参数等于某个值”。
• 备择假设 $H_1$：研究者希望发现的方向，代表“有效”“有差异”“参数偏离某个值”。

例：汽油添加剂是否提高油耗。

$$H_0:\mu =25.0$$$$H_1:\mu >25.0$$

其中 $H_1$ 是右侧单边备择。

1.2 决策只有两种

检验最后只做两类决策：

1. 拒绝 $H_0$；
2. 不拒绝 $H_0$。

注意：不拒绝 $H_0$ 不等于证明 $H_0$ 为真，只是说数据还不足以反驳它。

---

2. 拒绝域、临界值与显著性水平

2.1 检验统计量

检验统计量是从样本中算出的量，用于衡量数据和 $H_0$ 的冲突程度。

例如正态均值、方差已知时：

$$\boxed{{\displaystyle Z=\frac{\overline{Y}-{\mu }_0}{\sigma /\sqrt{n}}}}$$

在 $H_0:\mu ={\mu }_0$ 为真时：

$$Z\sim N(0,1)$$

2.2 拒绝域

拒绝域 $C$ 是检验统计量落入时拒绝 $H_0$ 的区域。

例如右尾检验：

$$C=\{Z\ge z_{\alpha }\}$$

2.3 显著性水平

显著性水平 $\alpha$ 是 $H_0$ 为真时误拒 $H_0$ 的概率：

$$\boxed{{\displaystyle \alpha =P(\text{Reject }{H}_0\mid H_0\text{ true})}}$$

也称检验的 size。

常见取值：0.10、0.05、0.01。

---

3. 单边与双边检验

3.1 右尾检验

检验

$$H_0:\mu ={\mu }_0,H_1:\mu >{\mu }_0$$

拒绝域：

$$\boxed{{\displaystyle Z\ge z_{\alpha }}}$$

3.2 左尾检验

检验

$$H_0:\mu ={\mu }_0,H_1:\mu <{\mu }_0$$

拒绝域：

$$\boxed{{\displaystyle Z\le -z_{\alpha }}}$$

3.3 双边检验

检验

$$H_0:\mu ={\mu }_0,H_1:\mu \ne {\mu }_0$$

拒绝域：

$$\boxed{{\displaystyle |Z|\ge z_{\alpha /2}}}$$

双边检验把显著性水平分到两个尾部。

---

4. p-value

4.1 定义

p-value 是：在 $H_0$ 为真时，观察到当前这么极端或更极端统计量的概率。

直觉：

p-value 越小
  -> 当前数据在 H0 下越罕见
  -> 越有理由拒绝 H0

4.2 决策规则

给定显著性水平 $\alpha$：

$$\boxed{{\displaystyle p\text{-value}\le \alpha \Rightarrow \text{Reject }{H}_0}}$$

否则不拒绝。

4.3 双边 p-value

若观测到 $z_{\text{obs}}$，双边检验：

$$\boxed{{\displaystyle p=2P(Z\ge |z_{\text{obs}}|)}}$$

例如 $z_{\text{obs}}=0.60$：

$$p=P(Z\ge 0.60)+P(Z\le -0.60)$$

---

5. 二项数据检验：$H_0:p=p_0$

5.1 精确检验

若

$$X\sim \mathrm{Binomial}(n,p)$$

检验

$$H_0:p=p_0$$

则在 $H_0$ 下：

$$X\sim \mathrm{Binomial}(n,p_0)$$

根据备择方向选择尾部概率：

• $H_1:p>p_0$：大 $X$ 支持备择；
• $H_1:p<p_0$：小 $X$ 支持备择；
• $H_1:p\ne p_0$：两端都极端。

5.2 正态近似

当 $n$ 大时：

$$\boxed{{\displaystyle Z=\frac{\hat{p}-p_0}{\sqrt{p_0(1-p_0)/n}}\approx N(0,1)}}$$

其中 $\hat{p}=X/n$。

---

6. Type I / Type II error 与功效

6.1 两类错误

决策	真实 $H_0$ 成立	真实 $H_0$ 不成立
拒绝 $H_0$	Type I error	正确拒绝
不拒绝 $H_0$	正确不拒绝	Type II error

Type I error：

$$\alpha =P(\text{Reject }{H}_0\mid H_0\text{ true})$$

Type II error：

$$\beta (\theta )=P(\text{Fail to reject }{H}_0\mid \theta \in H_1)$$

6.2 功效函数

功效：

$$\boxed{{\displaystyle \mathrm{Power}(\theta )=1-\beta (\theta )}}$$

它表示当备择为真时，检验能发现差异的概率。

6.3 取舍

在样本量固定时，通常：

• 降低 $\alpha$ 会提高 $\beta$；
• 提高功效需要更大样本量、更强效应或更小噪声。

---

7. 广义似然比检验（GLRT）

7.1 核心思想

比较两件事：

1. 在 $H_0$ 限制下，数据最大可能有多大；
2. 在完整参数空间下，数据最大可能有多大。

若 $H_0$ 下的最大似然远小于总体最大似然，则数据不支持 $H_0$。

7.2 定义

设参数空间为 $\mathrm{\Theta }$，原假设对应 ${\mathrm{\Theta }}_0\subset \mathrm{\Theta }$。似然为 $L(\theta )$。

广义似然比：

$$\boxed{{\displaystyle \lambda =\frac{\underset{\theta \in {\mathrm{\Theta }}_0}{sup}L(\theta )}{\underset{\theta \in \mathrm{\Theta }}{sup}L(\theta )}}}$$

由于 ${\mathrm{\Theta }}_0\subset \mathrm{\Theta }$，所以

$$0\le \lambda \le 1$$

7.3 检验规则

GLRT 在 $\lambda$ 足够小时拒绝 $H_0$：

$$\boxed{{\displaystyle \lambda \le c\Rightarrow \text{Reject }{H}_0}}$$

常用等价形式：

$$-2\log \lambda$$

它在许多正则条件下具有渐近 ${\chi }^2$ 分布。

---

8. 渐近检验

当精确分布复杂或样本量大时，使用渐近检验。

8.1 渐近显著性水平

若检验序列 $T_n$ 满足：

$$\underset{n\to \mathrm{\infty }}{lim sup}{\alpha }_{T_n}(P)\le \alpha ,P\in {\mathcal{P}}_0$$

则称 $\alpha$ 是渐近显著性水平。

8.2 一致检验

若在备择下 Type II error 趋于 0，则检验一致：

$${\beta }_n(P)\to 0,P\in {\mathcal{P}}_1$$

直觉：样本量足够大时，真有差异就几乎一定能发现。

---

9. 本章知识图谱

                         假设检验
                             |
        ┌────────────────────┼────────────────────┐
        |                    |                    |
     决策框架              错误控制              构造方法
        |                    |                    |
 H0 / H1 / 统计量        Type I α               Z 检验
        |                    |                    |
 拒绝域 / 临界值         Type II β              二项检验
        |                    |                    |
 p-value                 Power=1-β              GLRT
        |                    |                    |
 单边 / 双边             样本量影响             渐近检验

---

10. 易错点与考点

误区	正确认识
不拒绝 $H_0$ 就证明 $H_0$ 成立	只能说证据不足
p-value 是 $H_0$ 为真的概率	p-value 是在 $H_0$ 为真时数据更极端的概率
$\alpha$ 是犯错总概率	$\alpha$ 只控制 Type I error
双边检验用 $z_{\alpha }$	双边要用 $z_{\alpha /2}$
功效越大越容易犯 Type I error	在 $\alpha$ 固定时，功效通过样本量和检验设计提高
GLRT 比值越大越拒绝	比值越小越拒绝

---

11. 关键公式速查表

内容	公式
z 统计量	$Z=(\overline{Y}-{\mu }_0)/(\sigma /\sqrt{n})$
右尾拒绝域	$Z\ge z_{\alpha }$
左尾拒绝域	$Z\le -z_{\alpha }$
双尾拒绝域	$
二项近似 z	$(\hat{p}-p_0)/\sqrt{p_0(1-p_0)/n}$
Type I error	$\alpha =P(\text{Reject }{H}_0\mid H_0)$
Type II error	$\beta =P(\text{Fail to reject }{H}_0\mid H_1)$
功效	$1-\beta$
GLR	$\lambda =\underset{{\mathrm{\Theta }}_0}{sup}L/\underset{\mathrm{\Theta }}{sup}L$

---

12. 学习建议

1. 先写清 $H_0,H_1$，尤其备择方向。
2. 再判断检验统计量在 $H_0$ 下的分布。
3. 单边看一个尾，双边看两个尾。
4. p-value 的解释要严格：它不是“原假设概率”。
5. Type II error 和 power 一定是在具体备择参数值下计算。
6. GLRT 的套路是“受限最大似然 / 无受限最大似然”。

---

13. 专题深化：假设检验的决策结构

假设检验不是“算一个统计量然后看显著不显著”，而是一个完整的决策规则：

1. 建立原假设 $H_0$ 和备择假设 $H_1$；
2. 选择检验统计量 $T(Y)$；
3. 在 $H_0$ 下确定 $T$ 的分布；
4. 给定显著性水平 $\alpha$；
5. 构造拒绝域；
6. 根据样本落入拒绝域与否作决定。

13.1 原假设与备择假设的角色

通常 $H_0$ 是“默认状态”或“没有差异”的命题，例如

$$H_0:\mu ={\mu }_0.$$

备择假设表示研究者想寻找的方向：

研究问题	备择
是否变大	$H_1:\mu >{\mu }_0$
是否变小	$H_1:\mu <{\mu }_0$
是否不同	$H_1:\mu \ne {\mu }_0$

备择方向决定拒绝域在哪个尾部。

13.2 已知方差正态均值 z 检验

设

$$Y_1,\dots ,Y_n\sim N(\mu ,{\sigma }^2),$$

且 $\sigma$ 已知。检验

$$H_0:\mu ={\mu }_0.$$

在 $H_0$ 下，

$$Z=\frac{\overline{Y}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1).$$

若

$$H_1:\mu >{\mu }_0,$$

拒绝域为

$$Z\ge z_{\alpha }.$$

若

$$H_1:\mu <{\mu }_0,$$

拒绝域为

$$Z\le -z_{\alpha }.$$

若

$$H_1:\mu \ne {\mu }_0,$$

拒绝域为

$$|Z|\ge z_{\alpha /2}.$$

13.3 以汽油里程类例题理解拒绝域

常见场景是：厂家声称平均油耗或里程达到某个标准，研究者抽样验证。

如果目标是质疑“平均里程至少 ${\mu }_0$”，则可写

$$H_0:\mu \ge {\mu }_0,H_1:\mu <{\mu }_0.$$

实际计算时常用边界点 $\mu ={\mu }_0$ 构造统计量：

$$Z=\frac{\overline{Y}-{\mu }_0}{\sigma /\sqrt{n}}.$$

若样本均值显著偏小，即 $Z$ 落入左尾，则拒绝 $H_0$。

要点是：检验方向由实际问题决定，不是由样本均值事后决定。

---

14. 专题深化：p-value、二项检验与正态近似

14.1 p-value 的严格含义

p-value 是在 $H_0$ 成立时，观察到当前样本这么极端或更极端的概率。

右尾检验：

$$p\text{-value}=P_{H_0}(Z\ge z_{obs}).$$

左尾检验：

$$p\text{-value}=P_{H_0}(Z\le z_{obs}).$$

双尾检验：

$$p\text{-value}=P_{H_0}(|Z|\ge |z_{obs}|).$$

它不是 $P(H_0\mid data)$，也不是“原假设为真的概率”。

14.2 p-value 与拒绝域等价

在固定 $\alpha$ 下：

$$p\text{-value}\le \alpha ⟺\text{拒绝 }{H}_0.$$

但 p-value 给出的是更细的证据强度。例如 $p=0.049$ 和 $p=0.0001$ 都在 5% 水平拒绝，但证据强度不同。

14.3 精确二项检验

若

$$X\sim Bin(n,p),$$

检验

$$H_0:p=p_0.$$

右尾备择 $H_1:p>p_0$ 的 p-value 为

$$P_{p_0}(X\ge x_{obs}).$$

左尾备择 $H_1:p<p_0$ 的 p-value 为

$$P_{p_0}(X\le x_{obs}).$$

双尾二项检验的“更极端”定义略复杂，课程中若未特别强调，常以软件输出或对称近似处理。

14.4 二项检验的正态近似

当 $n$ 较大时，

$$\hat{p}=\frac{X}{n}$$

在 $H_0:p=p_0$ 下近似满足

$$\frac{\hat{p}-p_0}{\sqrt{p_0(1-p_0)/n}}\approx N(0,1).$$

注意分母使用 $p_0$，因为检验统计量的 null distribution 必须在 $H_0$ 下计算。

---

15. 专题深化：Type I、Type II、Power 与样本量

15.1 两类错误

真实情况	决策：不拒绝 $H_0$	决策：拒绝 $H_0$
$H_0$ 真	正确	Type I error
$H_1$ 真	Type II error	正确

显著性水平

$$\alpha =P(\text{Reject }{H}_0\mid H_0\text{ true})$$

控制的是第一类错误。

第二类错误

$$\beta (\theta )=P_{\theta }(\text{Fail to reject }{H}_0)$$

依赖具体备择参数 $\theta$。

功效函数为

$$\pi (\theta )=1-\beta (\theta )=P_{\theta }(\text{Reject }{H}_0).$$

15.2 z 检验中的 Type II error

检验

$$H_0:\mu ={\mu }_0,H_1:\mu >{\mu }_0.$$

拒绝域为

$$\overline{Y}\ge {\mu }_0+z_{\alpha }\frac{\sigma }{\sqrt{n}}.$$

若真实均值为 ${\mu }_a>{\mu }_0$，则 Type II error 是

$$\beta ({\mu }_a)=P_{{\mu }_a}(\overline{Y}<{\mu }_0+z_{\alpha }\frac{\sigma }{\sqrt{n}}).$$

标准化：

$$\beta ({\mu }_a)=\mathrm{\Phi }(\frac{{\mu }_0-{\mu }_a}{\sigma /\sqrt{n}}+z_{\alpha }).$$

所以功效为

$$1-\beta ({\mu }_a).$$

15.3 样本量如何影响功效

当 $n$ 增大时，

$$\frac{{\mu }_a-{\mu }_0}{\sigma /\sqrt{n}}$$

增大，备择分布与原假设分布分离得更明显，功效上升。

提高功效的方式：

1. 增大样本量；
2. 降低噪声 $\sigma$；
3. 使用更有针对性的单侧检验；
4. 接受更大的 $\alpha$，但这会增加 Type I error。

15.4 样本量公式的典型形态

右尾 z 检验中，如果希望在 ${\mu }_a$ 处达到功效 $1-\beta$，则需要

$$n\ge {\left[\frac{(z_{\alpha }+z_{\beta })\sigma }{{\mu }_a-{\mu }_0}\right]}^2.$$

这里 $z_{\beta }$ 满足 $\mathrm{\Phi }(z_{\beta })=1-\beta$ 的具体写法会随教材记号略有不同，复习时重点是理解：

$$n\propto \frac{{\sigma }^2}{({\mu }_a-{\mu }_0{)}^2}.$$

效应越小，所需样本量按平方速度增加。

---

16. 专题深化：广义似然比检验 GLRT

GLRT 用来处理没有简单 z/t 统计量的检验问题。

设参数空间为 $\mathrm{\Theta }$，原假设对应子空间 ${\mathrm{\Theta }}_0$。广义似然比为

$$\lambda (y)=\frac{\underset{\theta \in {\mathrm{\Theta }}_0}{sup}L(\theta ;y)}{\underset{\theta \in \mathrm{\Theta }}{sup}L(\theta ;y)}.$$

因为 ${\mathrm{\Theta }}_0\subseteq \mathrm{\Theta }$，所以

$$0\le \lambda (y)\le 1.$$

$\lambda (y)$ 越小，说明原假设下能达到的最大似然远低于不受限制时的最大似然，越倾向拒绝 $H_0$。

16.1 GLRT 的计算模板

1. 写出全参数空间 $\mathrm{\Theta }$ 下的 MLE；
2. 写出原假设限制 ${\mathrm{\Theta }}_0$ 下的 constrained MLE；
3. 分别代入似然；
4. 计算比值 $\lambda$；
5. 将 $\lambda$ 化成更直观的统计量；
6. 找临界值或使用渐近分布。

16.2 Uniform 上界例题的思路

若样本来自

$$Uniform(0,\theta ),$$

似然为

$$L(\theta )={\theta }^{-n}I(\theta \ge y_{(n)}).$$

全空间 MLE 是

$$\hat{\theta }=y_{(n)}.$$

检验形如

$$H_0:\theta \le {\theta }_0$$

时，受限最大似然要看 $y_{(n)}$ 是否已经超过 ${\theta }_0$。这类题的核心不是求导，而是处理支持集约束。

16.3 Wilks 定理的直觉

在正则条件下，

$$-2\log \lambda (Y){\to }_d{\chi }_r^2,$$

其中 $r$ 是原假设限制掉的参数维数。

直觉是：大样本下 log-likelihood 在 MLE 附近近似二次型，限制参数会造成一个平方距离损失，因此出现卡方极限。

---

17. 本章复习清单

核心内容	复习时要能做到
假设设定	会根据问题写 $H_0,H_1$ 和备择方向
z 检验	会推 null distribution 和拒绝域
单侧/双侧	能正确放置临界值
p-value	能写出 tail probability，避免误解为 $P(H_0\mid data)$
二项检验	会区分精确检验和正态近似
Type I error	知道由 $\alpha$ 控制
Type II error	会在具体备择值下计算
Power	知道功效随效应和样本量增加而上升
样本量	会解释 $n$ 与 ${\sigma }^2$、效应平方的关系
GLRT	会写受限最大似然 / 无受限最大似然
Wilks 定理	知道 $-2\log \lambda$ 的卡方近似来源

18. 综合深化：FDR、功效曲线与充分统计量检验

18.1 从单次错误率到错误发现率

同时检验许多假设时，即使每次检验的显著性水平都是 $\alpha$，出现至少一个假阳性的概率也会迅速增大。设 $R$ 为拒绝总数、$V$ 为其中错误拒绝数，错误发现率定义为

$$\mathrm{FDR}=\mathbb{E}\left[\frac{V}{R\vee 1}\right].$$

Benjamini--Hochberg 方法把 $m$ 个 p-value 排序为 $p_{(1)}\le \cdots \le p_{(m)}$，寻找最大的 $k$ 使

$$p_{(k)}\le \frac{k}{m}q,$$

然后拒绝前 $k$ 个假设。在独立等常见条件下，它把 FDR 控制在目标水平 $q$ 附近。它控制的是“发现中的错误比例”，与控制“至少一次错误”的 Bonferroni 方法目标不同。

18.2 功效曲线是备择参数的函数

对已知方差的右侧 z 检验，拒绝域为

$$\overline{X}>{\mu }_0+z_{1-\alpha }\frac{\sigma }{\sqrt{n}}.$$

当真实均值为 $\mu$ 时，功效函数为

$$\pi (\mu )=1-\mathrm{\Phi }(z_{1-\alpha }-\frac{\sqrt{n}(\mu -{\mu }_0)}{\sigma }).$$

它清楚展示了四个因素：效应越大、样本量越大或噪声越小，功效越高；把 $\alpha$ 取得更小则会降低功效。

18.3 利用充分统计量构造精确检验

若 $X_i\sim \mathrm{Unif}(0,\theta )$，检验 $H_0:\theta ={\theta }_0$ 对 $H_1:\theta >{\theta }_0$，自然统计量是 $X_{(n)}$。因为

$$P_{{\theta }_0}(X_{(n)}\le c)={\left(\frac{c}{{\theta }_0}\right)}^n,$$

水平为 $\alpha$ 的右尾拒绝域可写为

$$X_{(n)}>{\theta }_0(1-\alpha {)}^{1/n}.$$

若 $X_i\sim \mathrm{Poisson}(\lambda )$，则 $T=\sum _i{X}_i\sim \mathrm{Poisson}(n\lambda )$。于是关于 $\lambda$ 的单侧检验可以直接用 $T$ 的精确尾概率，而不必先做正态近似。

18.4 一致性与误差指数

一个检验序列若对每个固定备择参数都有功效趋于 1，就称为一致检验。大偏差理论进一步研究错误概率以多快速度衰减；Chernoff 型界通常呈现

$$P(\text{错误})\lesssim e^{-nC},$$

其中 $C$ 衡量两个分布的可分离程度。样本量带来的不仅是“更高功效”，往往还是指数级的错误概率下降。

18.5 完整报告不止一个 p-value

有信息量的检验报告至少应同时给出：效应估计、标准误或置信区间、检验方向与 p-value、样本量，以及模型假设和可能的多重比较调整。p-value 描述零假设下数据有多极端，不等于效应大小、实际重要性或零假设为真的概率。