第 5 章 多样本推断（Multisample Inference / ANOVA）

对应课件 5 Multisample inference.pdf，覆盖 Rosner 第 12 章。 本章把双样本均值比较推广到 $\ge 3$ 组：方差分析（ANOVA）。 核心思想：整体差异是否大于组内噪声？ → 比"组间方差"和"组内方差"。

---

1. ANOVA 概览

1.1 ANOVA 解决什么问题？

• 比较 $\ge 3$ 组（连续型结局变量、近似正态、各组方差相等）的均值
• 双样本 t 检验只能 2 组；多组用 t 一对对比会带来"多重比较"问题
• ANOVA 一次回答："是否存在至少一对均值不同？"

核心思想：组间差异（信号）远大于组内噪声 → 拒绝 $H_0$。

1.2 历史背景

• 1918 年 Fisher 在论文中提出"variance"和方差分析
• 1925 年《Statistical Methods for Research Workers》普及
• 1950 年代 Tukey、Scheffé 等提出多重比较修正

1.3 三种效应模型

模型	含义	例子
固定效应（Fixed）	处理组由实验者预先指定	教材列表里指定 5 本，比较哪本好
随机效应（Random）	处理组是随机抽自一个总体	随机抽研究生，调查他们用的本科教材
混合效应（Mixed）	既有固定也有随机因子	性别（固定）+ 实验室（随机）

---

2. 单因素方差分析（One-way ANOVA, Fixed Effects）

2.1 引例：被动吸烟与肺功能（FEF）

6 组（每组男女各半）：

1. NS（不吸烟无暴露） $n=400$
2. PS（被动吸烟） $n=400$
3. NI（吸但不吸入） $n=100$
4. LS（轻度吸烟，1–10 支/天 ≥20年）$n=400$
5. MS（中度，11–39 支/天 ≥20年）$n=400$
6. HS（重度，≥40 支/天 ≥20年）$n=400$

男性数据：

组	n	Mean FEF	SD
NS	200	3.78	0.79
PS	200	3.30	0.77
NI	50	3.32	0.86
LS	200	3.23	0.78
MS	200	2.73	0.81
HS	200	2.59	0.82

→ 6 组均值是否显著不同？

---

2.2 模型

$$y_{ij}=\mu +{\alpha }_i+e_{ij},i=1,\dots ,k;j=1,\dots ,n_i$$

• $\mu$：总体均值（常数）
• ${\alpha }_i$：第 $i$ 组的"效应"（偏离总均值）
• $e_{ij}\sim N(0,{\sigma }^2)$：随机误差（各组方差相同！）
• $y_{ij}\sim N(\mu +{\alpha }_i,{\sigma }^2)$

约束：参数 $k+1$ 个 $\{\mu ,{\alpha }_1,\dots ,{\alpha }_k\}$ 但只有 $k$ 个组均值，所以加约束

$$\sum _{i=1}^k{\alpha }_i=0\text{或}{\alpha }_{\text{ref}}=0$$

---

2.3 假设

$$H_0:{\mu }_1={\mu }_2=\cdots ={\mu }_k\iff {\alpha }_1=\cdots ={\alpha }_k=0$$$$H_1:\text{至少有一对 }{\mu }_i\ne {\mu }_j$$

---

2.4 平方和分解（核心）

每个观测的总偏离可分两部分：

$$\underset{\text{总}}{\underbrace{y_{ij}-\overline{y}}}=\underset{\text{组内}}{\underbrace{(y_{ij}-{\overline{y}}_i)}}+\underset{\text{组间}}{\underbrace{({\overline{y}}_i-\overline{y})}}$$

平方求和后交叉项为 0，得：

$$\boxed{{\displaystyle \underset{\text{TSS（总）}}{\underbrace{\sum _{i,j}(y_{ij}-\overline{y}{)}^2}}=\underset{\text{WSS（组内）}}{\underbrace{\sum _{i,j}(y_{ij}-{\overline{y}}_i{)}^2}}+\underset{\text{BSS（组间）}}{\underbrace{\sum _{i,j}({\overline{y}}_i-\overline{y}{)}^2}}}}$$

直觉：

• BSS 大、WSS 小 → 组间差异远超噪声 → 至少一组不同
• BSS 小、WSS 大 → 信号被噪声淹没

---

2.5 均方（Mean Squares）

$$\text{BMS}=\frac{\text{BSS}}{k-1},\text{WMS}=\frac{\text{WSS}}{n-k}$$

• 组间自由度：$k-1$（k 个均值减一个总均值约束）
• 组内自由度：$n-k$（每组 $n_i$ 个观测减一个组均值）

---

2.6 F 检验

$$F=\frac{\text{BMS}}{\text{WMS}}\sim F_{k-1,n-k}(\text{在 }{H}_0\text{ 下})$$

决策：$F>F_{k-1,n-k,1-\alpha }$ → 拒绝 $H_0$。

注意：F 检验是右尾检验！因为只有 BMS 远大于 WMS 时才"显著"。

ANOVA 表：

来源	SS	df	MS	F	p
组间（Between）	BSS	$k-1$	BMS	BMS/WMS	$P(F_{k-1,n-k}>F)$
组内（Within）	WSS	$n-k$	WMS	–	–
总（Total）	TSS	$n-1$	–	–	–

---

2.7 例：吸烟数据 ANOVA

计算公式：

$$\text{BSS}=\sum n_i{\overline{y}}_i^2-n{\overline{y}}^2,\text{WSS}=\sum (n_i-1)s_i^2$$$$\text{BSS}=184.38,\text{WSS}=663.87$$$$\text{BMS}=184.38/(6-1)=36.875,\text{WMS}=663.87/(1050-6)=0.636$$$$F=36.875/0.636=58.0,F_{5,1044,0.95}\approx 2.22$$

→ $F\gg$ 临界值，p < 0.001，强烈拒绝 $H_0$，至少有一组均值不同。

---

2.8 方差齐性检验：Bartlett 检验

ANOVA 假设各组方差相等（同方差性 / homoscedasticity）。Bartlett 检验：

$$H_0:{\sigma }_1^2=\cdots ={\sigma }_k^2$$

统计量：

$${\chi }^2=\frac{(n-k)\ln s_p^2-\sum (n_i-1)\ln s_i^2}{1+\frac{1}{3(k-1)}(\sum \frac{1}{n_i-1}-\frac{1}{n-k})}\sim {\chi }_{k-1}^2$$

其中合并方差 $s_p^2=\frac{\sum (n_i-1)s_i^2}{n-k}$。

${\chi }^2>{\chi }_{k-1,1-\alpha }^2$ 即拒绝。

警告：Bartlett 对正态性也很敏感；非正态时可改用 Levene 检验（更稳健，但 Rosner 课程主要讲 Bartlett）。

---

3. ANOVA 显著后做什么？组间多重比较

整体 F 显著只告诉你"至少有一对不同"，并不指出哪些。

3.1 单一预设比较（Pre-specified）

只关心一个比较时，做 1 次 t 检验即可。

3.2 LSD 方法（Least Significant Difference）

LSD = 用 ANOVA 的合并方差 $s^2=\text{WMS}$ 替代两样本 t 中的合并方差。

$$t=\frac{{\overline{y}}_i-{\overline{y}}_j}{\sqrt{s^2({\displaystyle \frac{1}{n_i}}+{\displaystyle \frac{1}{n_j}})}}\sim t_{n-k}$$

CI：

$$({\overline{y}}_i-{\overline{y}}_j)\pm t_{n-k,1-\alpha /2}\cdot \sqrt{s^2(1/n_i+1/n_j)}$$

优势：用了所有组的信息估计 ${\sigma }^2$，比仅用两组的合并方差更精确（自由度更大、临界值更小）。

前提：方差相等。

---

3.3 线性对比（Linear Contrast）

线性对比 $L$：系数和为 0 的线性组合。

$$L=\sum _{i=1}^k{c}_i{\overline{y}}_i,\sum c_i=0$$

• $c=(1,-1,0,\dots )$ → 两组比较
• $c=(1,-\frac{1}{3},-\frac{1}{3},-\frac{1}{3})$ → 第 1 组 vs 其他三组平均

检验 $H_0:{\mu }_L=\sum c_i{\alpha }_i=0$：

$$t=\frac{\sum c_i{\overline{y}}_i}{\sqrt{s^2\sum c_i^2/n_i}}\sim t_{n-k}$$

例：肺功能对比

$$L={\overline{y}}_1-0.1{\overline{y}}_4-0.7{\overline{y}}_5-0.2{\overline{y}}_6$$

（用 NS 与吸烟人群"加权平均"比较）

$$L=3.78-0.1(3.23)-0.7(2.73)-0.2(2.59)=1.03$$$$\mathrm{Var}(L)=0.636[\frac{1}{200}+\frac{0.01}{200}+\frac{0.49}{200}+\frac{0.04}{200}]=0.00489$$$$t=1.03/\sqrt{0.00489}=14.69\sim t_{1044},p<0.001$$

---

4. 多重比较问题（Multiple Comparisons）

4.1 问题本质

每个检验有 $\alpha$ 概率犯第一类错误。做 $W$ 个独立检验：

$$P(\text{至少一次假阳性})=1-(1-\alpha {)}^W$$

$W=10,\alpha =0.05$ → 约 40% 概率"被骗"。

4.2 常见修正方法

方法	适用
Bonferroni	通用、简单、保守
Tukey HSD	ANOVA 后所有两两配对
Scheffé	任意线性对比
Dunnett	多组 vs 单一对照（k−1 次）
FDR (Benjamini–Hochberg)	控制错误发现率，功效高

---

4.3 Bonferroni 修正

$k$ 组所有两两比较共 $W=(\genfrac{}{}{0ex}{}{k}{2})=k(k-1)/2$ 次。

调整水平：

$$\boxed{{\displaystyle {\alpha }^{\ast }=\alpha /W}}$$

每个比较都用 ${\alpha }^{\ast }$ 作为显著性水平：

$$|t|>t_{n-k,1-{\alpha }^{\ast }/2}\Rightarrow \text{拒绝}$$

理论依据（Bonferroni 不等式）：

$$P(\text{至少一次假阳性})\le \sum P(\text{每次假阳性})=W{\alpha }^{\ast }$$

设 $W{\alpha }^{\ast }=\alpha$ → ${\alpha }^{\ast }=\alpha /W$。

---

例：FEF 数据

$k=6$，$W=15$，$\alpha =0.05$ → ${\alpha }^{\ast }=0.05/15\approx 0.0033$。

t 临界值由 $t_{1044,1-{\alpha }^{\ast }/2}$ 得到 $\approx 2.94$（远大于 LSD 的 1.96）。

比较	t	LSD（1.96）	Bonferroni（2.94）
NS vs PS	6.02	显著	显著
NS vs HS	14.92	显著	显著
NS vs NI	3.65	显著	显著
PS vs LS	0.88	不显著	不显著
MS vs HS	1.76	不显著	不显著

Bonferroni 更保守：减少 Type I 错误，但也可能漏掉真实差异（功效降低）。

---

4.4 报告方式

方法 1：报告原始 p 值，但说明显著阈值已调到 ${\alpha }^{\ast }$

"实验级 $\alpha =0.05$，5 个比较，调整后 ${\alpha }^{\ast }=0.01$；只有 $p<0.01$ 的比较才显著。"

方法 2：报告调整后的 p 值（每个 p 乘以 $W$），仍按 0.05 判断

"Bonferroni 调整后，$p_{\text{adj}}<0.05$ 才显著。"

---

5. 两因素方差分析（Two-way ANOVA）

5.1 为什么不直接用一因素？

可以把"性别 × 饮食"组合成一个 6 水平因子做 one-way，但两因素 ANOVA 能分别评估每个因子的主效应及二者的交互。

5.2 模型

$$y_{ijk}=\mu +{\alpha }_i+{\beta }_j+{\gamma }_{ij}+e_{ijk}$$

• ${\alpha }_i$：因子 A（如性别）的主效应
• ${\beta }_j$：因子 B（如饮食）的主效应
• ${\gamma }_{ij}$：A × B 交互效应
• $e_{ijk}\sim N(0,{\sigma }^2)$

约束：$\sum {\alpha }_i=0$，$\sum {\beta }_j=0$，$\sum _j{\gamma }_{ij}=0\mathrm{\forall }i$，$\sum _i{\gamma }_{ij}=0\mathrm{\forall }j$。

---

5.3 三个假设检验

$$\begin{array}{rl}{H}_0^A& :\text{所有 }{\alpha }_i=0\\ H_0^B& :\text{所有 }{\beta }_j=0\\ H_0^{AB}& :\text{所有 }{\gamma }_{ij}=0\end{array}$$

5.4 平方和分解

$$y_{ijk}-{\overline{y}}_{..}=(y_{ijk}-{\overline{y}}_{ij})+({\overline{y}}_{i.}-{\overline{y}}_{..})+({\overline{y}}_{.j}-{\overline{y}}_{..})+({\overline{y}}_{ij}-{\overline{y}}_{i.}-{\overline{y}}_{.j}+{\overline{y}}_{..})$$

来源	SS	df	MS	F
A	$SS(A)$	$a-1$	$MS(A)$	$MS(A)/MS(E)$
B	$SS(B)$	$b-1$	$MS(B)$	$MS(B)/MS(E)$
AB	$SS(AB)$	$(a-1)(b-1)$	$MS(AB)$	$MS(AB)/MS(E)$
误差	$SS(E)$	$N-ab$	$MS(E)$	–
总	$SS(T)$	$N-1$	–	–

5.5 交互的几何含义

模式	含义
平行折线	无交互
不平行但不相交	主效应明显，交互可能
交叉	强交互（一个因子的效应方向取决于另一个因子）

交互显著时，不能单独解释主效应——必须分组讨论。

---

6. 随机效应模型（Random Effects）

6.1 适用场景

• 关心的不是"组间差异有多大"，而是"总变异中有多少来自组间 vs 组内"
• 例：抽 5 名女性各 2 个血样测雌二醇 → 关注：测量误差 vs 个体差异

---

6.2 模型

$$y_{ij}=\mu +{\alpha }_i+e_{ij}$$

但与固定效应不同：

$${\alpha }_i\sim N(0,{\sigma }_{\alpha }^2),e_{ij}\sim N(0,{\sigma }^2),{\alpha }_i\perp e_{ij}$$

→ 三个参数：$\mu ,{\sigma }_{\alpha }^2,{\sigma }^2$。

观测的边际分布与协方差：

$$y_{ij}\sim N(\mu ,{\sigma }^2+{\sigma }_{\alpha }^2)$$$$\mathrm{Cov}(y_{ij},y_{i^{\prime }{j}^{\prime }})=\{\begin{array}{ll}{\sigma }^2+{\sigma }_{\alpha }^2& i=i^{\prime },j=j^{\prime }\\ {\sigma }_{\alpha }^2& i=i^{\prime },j\ne j^{\prime }\\ 0& i\ne i^{\prime }\end{array}$$

→ 同一受试者的两次观测相关！

---

6.3 F 检验

$$H_0:{\sigma }_{\alpha }^2=0\text{vs}{H}_1:{\sigma }_{\alpha }^2>0$$$$F=\frac{\text{BMS}}{\text{WMS}}\sim F_{k-1,n-k}(H_0)$$

形式上与固定效应 ANOVA 相同，但含义不同：固定效应检验"均值是否相等"；随机效应检验"组间方差是否为 0"。

---

6.4 方差成分估计

可证明：

$$E(\text{WMS})={\sigma }^2,E(\text{BMS})={\sigma }^2+n_0{\sigma }_{\alpha }^2$$

（balanced 设计：每组 $n_0$ 次观测）

→

$${\hat{\sigma }}^2=\text{WMS},{\hat{\sigma }}_{\alpha }^2=max(\frac{\text{BMS}-\text{WMS}}{n_0},0)$$

不平衡设计中 $n_0$ 替换为：

$$n_0^{\ast }=\frac{\sum n_i-\sum n_i^2/\sum n_i}{k-1}$$

---

例：护士血浆雌二醇可重复性

5 名受试者，每人 2 个等分样品。对数变换后做随机效应 ANOVA：

来源	SS	df	MS
组间	2.658	4	0.6644
组内	0.150	5	0.0300
总	2.808	9	–

$${\hat{\sigma }}^2=0.030,{\hat{\sigma }}_{\alpha }^2=max(\frac{0.6644-0.030}{2},0)=0.32$$

→ 个体差异（0.32）远大于测量误差（0.030） → 该指标可重复性较好。

为何要 log 变换？因为原始数据中"差值"随均值增大而增大（不齐性）；log 变换后近似齐性。

---

7. 各种 ANOVA 模型一览

类型	模型
One-way ANOVA / 1 fixed	单因子，固定
Two-way ANOVA / 2 fixed	两因子，均固定
One-way / 1 random	随机效应模型
Two-way / 1 fixed + 1 random	混合模型（Mixed）

---

8. 自测要点（Checklist）

单因素 ANOVA

• [ ] ANOVA 的核心思想：组间 vs 组内
• [ ] 模型 $y_{ij}=\mu +{\alpha }_i+e_{ij}$，约束 $\sum {\alpha }_i=0$
• [ ] BSS / WSS / TSS 的分解（交叉项为 0）
• [ ] BMS、WMS、F 的定义与自由度
• [ ] F 是右尾检验
• [ ] Bartlett 检验前提与统计量

ANOVA 后比较

• [ ] LSD vs 标准 t 检验：用合并方差与更大自由度
• [ ] 线性对比的系数约束 $\sum c_i=0$
• [ ] 线性对比的方差公式 $s^2\sum c_i^2/n_i$

多重比较

• [ ] 多重比较为何会膨胀 Type I 错误
• [ ] Bonferroni ${\alpha }^{\ast }=\alpha /W$ 的来源
• [ ] LSD vs Bonferroni 的功效/保守性权衡
• [ ] Tukey、Scheffé、Dunnett、FDR 各自适用

两因素 ANOVA

• [ ] 主效应、交互效应的含义
• [ ] 平方和分解、ANOVA 表
• [ ] 交互显著时，不能单独解释主效应

随机效应

• [ ] 固定 vs 随机的根本区别
• [ ] ${\sigma }^2,{\sigma }_{\alpha }^2$ 的含义与估计
• [ ] 同组观测之间的相关结构

思考题

1. 6 组各 100 人，全局 F 检验显著，紧接着做所有两两 t 检验都不显著，可能吗？为什么？
2. 双样本 t 检验和 $k=2$ 时的 ANOVA 等价吗？为何 F 平方根 = t 绝对值？
3. 你做了 100 个独立检验，5 个 p<0.05。是否应"庆祝"？请用 Bonferroni 和 FDR 两种思路评论。
4. 一个研究"基因 × 处理"在小鼠中的表达，建议用一/二因素 ANOVA？为什么？