第 5 章：Poisson、Normal、Geometric、Negative Binomial、Gamma

这一章整理最常用的离散与连续分布。学习重点是理解它们之间的生成关系：二项极限得到 Poisson，Poisson 过程等待时间得到 Exponential/Gamma，独立正态线性组合仍是正态。

---

0. 本章总览

离散分布：
Bernoulli -> Binomial -> Poisson 极限
                         |
                         -> 事件计数模型

Geometric -> Negative Binomial
首次成功等待   第 r 次成功等待

连续分布：
Poisson 过程等待时间 -> Exponential -> Gamma
Binomial/样本和极限   -> Normal

---

1. Poisson 分布

1.1 Poisson 极限定理

若

$$X_n\sim \mathrm{Binomial}(n,p_n),n\to \mathrm{\infty },p_n\to 0,n{p}_n\to \lambda$$

则

$$P(X_n=k)\to \frac{e^{-\lambda }{\lambda }^k}{k!}$$

这解释了 Poisson 分布为什么适合“次数多、单次概率小”的稀有事件计数。

1.2 定义

若

$$\boxed{{\displaystyle P(X=k)=\frac{e^{-\lambda }{\lambda }^k}{k!}}},k=0,1,2,\dots$$

则

$$X\sim \mathrm{Poisson}(\lambda )$$

其中

$$\boxed{{\displaystyle E(X)=\lambda ,\mathrm{Var}(X)=\lambda }}$$

1.3 典型使用场景

• 单位时间内电话呼入数；
• 某区域内缺陷点个数；
• 单位面积内污染粒子数；
• 稀有疾病发生数；
• 火山喷发、事故、故障等事件计数。

Poisson 模型常隐含：

1. 事件以稳定平均速率发生；
2. 不相交区间内事件数独立；
3. 极短区间内发生两个及以上事件概率可忽略。

---

2. Exponential 分布：Poisson 事件的等待时间

若 Poisson 事件以速率 $\lambda$ 发生，令 $Y$ 为相邻两次事件之间的等待时间，则

$$\boxed{{\displaystyle Y\sim \mathrm{Exponential}(\lambda )}}$$

密度为：

$$\boxed{{\displaystyle f_Y(y)=\lambda e^{-\lambda y}}},y>0$$

分布函数：

$$F_Y(y)=1-e^{-\lambda y}$$

均值与方差：

$$\boxed{{\displaystyle E(Y)=\frac{1}{\lambda },\mathrm{Var}(Y)=\frac{1}{{\lambda }^2}}}$$

核心性质：无记忆性。

$$P(Y>s+t\mid Y>s)=P(Y>t)$$

---

3. Normal 分布

3.1 定义

若

$$\boxed{{\displaystyle f_Y(y)=\frac{1}{\sqrt{2\pi }\sigma }\exp [-\frac{1}{2}{\left(\frac{y-\mu }{\sigma }\right)}^2]}}$$

则

$$Y\sim N(\mu ,{\sigma }^2)$$

其中 $\mu$ 控制位置，$\sigma$ 控制尺度。

标准化：

$$\boxed{{\displaystyle Z=\frac{Y-\mu }{\sigma }\sim N(0,1)}}$$

3.2 正态分布的重要性

正态分布重要有两层原因：

1. 很多实际测量误差可近似为正态；
2. 中心极限定理告诉我们，大量独立小随机误差之和近似正态。

3.3 二项分布的正态极限

若 $X\sim \mathrm{Binomial}(n,p)$，当 $n$ 大时：

$$\frac{X-np}{\sqrt{np(1-p)}}\approx N(0,1)$$

3.4 独立正态的线性组合

若 $Y_1,Y_2$ 独立，且

$$Y_i\sim N({\mu }_i,{\sigma }_i^2)$$

则

$$Y_1+Y_2\sim N({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2)$$

更一般地：

$$\sum _i{a}_i{Y}_i\sim N(\sum _i{a}_i{\mu }_i,\sum _i{a}_i^2{\sigma }_i^2)$$

---

4. 中心极限定理（CLT）

若 $W_1,\dots ,W_n$ i.i.d.，且

$$E(W_i)=\mu ,\mathrm{Var}(W_i)={\sigma }^2<\mathrm{\infty }$$

则

$$\boxed{{\displaystyle \frac{\overline{W}-\mu }{\sigma /\sqrt{n}}\stackrel{d}{\to }N(0,1)}}$$

等价地：

$$\overline{W}\approx N(\mu ,\frac{{\sigma }^2}{n})$$

这是后续置信区间、假设检验和渐近推断的基础。

---

5. Geometric 分布

5.1 定义

重复独立 Bernoulli 试验，成功概率为 $p$。令 $X$ 为第一次成功出现所需试验次数，则

$$\boxed{{\displaystyle P(X=k)=(1-p{)}^{k-1}p}},k=1,2,\dots$$

记作：

$$X\sim \mathrm{Geometric}(p)$$

均值与方差：

$$\boxed{{\displaystyle E(X)=\frac{1}{p},\mathrm{Var}(X)=\frac{1-p}{p^2}}}$$

5.2 直觉

几何分布是“等待首次成功”。
失败越容易，即 $p$ 越小，等待时间平均越长。

---

6. Negative Binomial 分布

6.1 定义

重复 Bernoulli 试验，成功概率为 $p$。令 $X$ 为第 $r$ 次成功出现时的试验次数，则

$$\boxed{{\displaystyle P(X=k)=(\genfrac{}{}{0ex}{}{k-1}{r-1})p^r(1-p{)}^{k-r}}},k=r,r+1,\dots$$

记作负二项分布。

6.2 与几何分布的关系

几何分布是负二项分布在 $r=1$ 时的特例。

Geometric: 等第 1 次成功
Negative Binomial: 等第 r 次成功

---

7. Gamma 分布

7.1 Gamma 函数

$$\boxed{{\displaystyle \mathrm{\Gamma }(r)={\int }_0^{\mathrm{\infty }}{y}^{r-1}{e}^{-y}dy}}$$

递推关系：

$$\mathrm{\Gamma }(r)=(r-1)\mathrm{\Gamma }(r-1)$$

若 $r$ 为正整数：

$$\mathrm{\Gamma }(r)=(r-1)!$$

7.2 Gamma 分布定义

若

$$\boxed{{\displaystyle f_Y(y)=\frac{{\lambda }^r}{\mathrm{\Gamma }(r)}{y}^{r-1}{e}^{-\lambda y}}},y>0$$

则

$$Y\sim \mathrm{\Gamma }(r,\lambda )$$

其中这里采用 rate 参数 $\lambda$。

均值与方差：

$$\boxed{{\displaystyle E(Y)=\frac{r}{\lambda },\mathrm{Var}(Y)=\frac{r}{{\lambda }^2}}}$$

7.3 与 Poisson 过程的关系

若 Poisson 事件速率为 $\lambda$，等待第 $r$ 个事件发生的时间服从：

$$\mathrm{\Gamma }(r,\lambda )$$

当 $r=1$ 时就是指数分布：

$$\mathrm{\Gamma }(1,\lambda )=\mathrm{Exponential}(\lambda )$$

7.4 Gamma 和的性质

若

$$U\sim \mathrm{\Gamma }(r,\lambda ),V\sim \mathrm{\Gamma }(s,\lambda )$$

且独立，则

$$\boxed{{\displaystyle U+V\sim \mathrm{\Gamma }(r+s,\lambda )}}$$

---

8. 分布关系图

图表渲染中…

---

9. 易错点与考点

误区	正确认识
Poisson 的均值和方差不同	Poisson 中 $E(X)=Var(X)=\lambda$
指数分布参数 $\lambda$ 是均值	$\lambda$ 是 rate，均值是 $1/\lambda$
Gamma 参数一定是 scale	本章使用 rate 参数 $\lambda$
几何分布从 0 开始	本章定义为第几次成功，取值 $1,2,\dots$
负二项分布只数失败次数	不同教材定义不同，本章可理解为第 $r$ 次成功所需试验次数
正态近似二项不需要条件	通常要求 $np$ 和 $n(1-p)$ 都不太小

---

10. 关键公式速查表

分布	pmf/pdf	均值	方差
Poisson$(\lambda )$	$e^{-\lambda }{\lambda }^k/k!$	$\lambda$	$\lambda$
Exponential$(\lambda )$	$\lambda e^{-\lambda y}$	$1/\lambda$	$1/{\lambda }^2$
Normal$(\mu ,{\sigma }^2)$	$\frac{1}{\sqrt{2\pi }\sigma }{e}^{-(y-\mu {)}^2/(2{\sigma }^2)}$	$\mu$	${\sigma }^2$
Geometric$(p)$	$(1-p{)}^{k-1}p$	$1/p$	$(1-p)/p^2$
Negative Binomial$(r,p)$	$(\genfrac{}{}{0ex}{}{k-1}{r-1})p^r(1-p{)}^{k-r}$	$r/p$	$r(1-p)/p^2$
Gamma$(r,\lambda )$	${\lambda }^r{y}^{r-1}{e}^{-\lambda y}/\mathrm{\Gamma }(r)$	$r/\lambda$	$r/{\lambda }^2$

---

11. 学习建议

1. 先背“场景”，再背公式：计数、等待、测量误差分别对应不同分布。
2. Poisson、Exponential、Gamma 要一起学，因为它们来自同一个 Poisson 过程。
3. Normal 的重点不是密度公式，而是标准化和线性组合。
4. 看到“第一次成功”“第 $r$ 次成功”，立刻联想到 Geometric/Negative Binomial。
5. 做题时先确认参数化，尤其 Gamma 的 rate/scale 不要混。

---

12. 专题深化：Poisson 分布与稀有事件

Poisson 分布在本章中通常不是孤立出现的。它连接了二项极限、单位时间事件数、Poisson 过程和指数等待时间。

12.1 从 Binomial 到 Poisson

若

$$X_n\sim Bin(n,p_n),n{p}_n\to \lambda ,$$

则对固定的 $k$，

$$P(X_n=k)=(\genfrac{}{}{0ex}{}{n}{k})p_n^k(1-p_n{)}^{n-k}.$$

令 $p_n=\lambda /n$，则

$$(\genfrac{}{}{0ex}{}{n}{k}){\left(\frac{\lambda }{n}\right)}^k=\frac{n(n-1)\cdots (n-k+1)}{k!}\frac{{\lambda }^k}{n^k}\to \frac{{\lambda }^k}{k!},$$

且

$${(1-\frac{\lambda }{n})}^n\to e^{-\lambda },{(1-\frac{\lambda }{n})}^{-k}\to 1.$$

所以

$$P(X_n=k)\to e^{-\lambda }\frac{{\lambda }^k}{k!}.$$

直觉是：试验次数很多、单次成功概率很小、总体平均次数稳定时，计数近似 Poisson。

12.2 Poisson 模型的适用场景

Poisson 适合描述某个固定区域或时间窗口内的事件次数，例如：

场景	随机变量
一小时内客服电话数	计数
一页书中的印刷错误数	计数
一段 DNA 上突变数	计数
某路口一天事故数	计数

使用 Poisson 模型时，隐含假设通常包括：

1. 事件在不相交区间内近似独立；
2. 单位区间内平均发生率稳定；
3. 在极小区间内发生两个及以上事件的概率可以忽略。

12.3 Poisson 的加法性

若

$$X_i\sim Poisson({\lambda }_i)$$

相互独立，则

$$\sum _{i=1}^m{X}_i\sim Poisson\left(\sum _{i=1}^m{\lambda }_i\right).$$

可以用 MGF 证明，也可以用“独立来源的事件流合并”理解。

这条性质在建模中很常见：多个部门的呼叫量、多个区域的事故数、多个时间段的到达数相加后仍是 Poisson。

12.4 条件 Poisson 变成 Binomial/Multinomial

如果 $X\sim Poisson({\lambda }_1)$，$Y\sim Poisson({\lambda }_2)$ 独立，给定 $X+Y=n$，则

$$X\mid X+Y=n\sim Bin(n,\frac{{\lambda }_1}{{\lambda }_1+{\lambda }_2}).$$

解释：总事件数已经固定为 $n$，每个事件来自第一类来源的概率为

$$\frac{{\lambda }_1}{{\lambda }_1+{\lambda }_2}.$$

多类别时会推广为 multinomial。

---

13. 专题深化：Poisson 过程、Exponential 与 Gamma

13.1 Poisson 过程的两个随机量

Poisson 过程可以从两个角度看：

1. $N(t)$：时间 $t$ 内发生的事件数；
2. $T_k$：等到第 $k$ 个事件所需的时间。

若过程速率为 $\lambda$，则

$$N(t)\sim Poisson(\lambda t).$$

第一个事件等待时间 $T_1$ 满足

$$P(T_1>t)=P(N(t)=0)=e^{-\lambda t}.$$

因此

$$F_{T_1}(t)=1-e^{-\lambda t},f_{T_1}(t)=\lambda e^{-\lambda t}.$$

即

$$T_1\sim Exponential(\lambda ).$$

13.2 指数分布的无记忆性

指数分布有

$$P(T>s+t\mid T>s)=P(T>t).$$

证明：

$$P(T>s+t\mid T>s)=\frac{P(T>s+t)}{P(T>s)}=\frac{e^{-\lambda (s+t)}}{e^{-\lambda s}}=e^{-\lambda t}.$$

含义是：已经等了多久，不会改变还要继续等待的分布。这是连续型等待时间中非常特殊的性质。

13.3 Gamma 分布作为第 $r$ 次到达时间

第 $r$ 次事件到达时间

$$T_r=X_1+\cdots +X_r,$$

其中 $X_i$ 是独立的 Exponential$(\lambda )$ 间隔时间。因此

$$T_r\sim Gamma(r,\lambda )$$

在本章的 rate 参数化下，密度为

$$f(t)=\frac{{\lambda }^r}{\mathrm{\Gamma }(r)}{t}^{r-1}{e}^{-\lambda t},t>0.$$

当 $r$ 是正整数时，

$$\mathrm{\Gamma }(r)=(r-1)!.$$

均值和方差为

$$E(T_r)=\frac{r}{\lambda },\mathrm{Var}(T_r)=\frac{r}{{\lambda }^2}.$$

13.4 Gamma 与卡方分布

卡方分布是 Gamma 的特殊情形：

$${\chi }_{\nu }^2\sim Gamma(\frac{\nu }{2},\frac{1}{2})$$

若使用 rate 参数化，则也可写作

$${\chi }_{\nu }^2\sim Gamma(\frac{\nu }{2},\lambda =\frac{1}{2}).$$

后续第 10 章会用它描述正态样本方差：

$$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }_{n-1}^2.$$

---

14. 专题深化：Normal 分布与近似

14.1 标准化

如果

$$Y\sim N(\mu ,{\sigma }^2),$$

则

$$Z=\frac{Y-\mu }{\sigma }\sim N(0,1).$$

标准化的作用是把不同均值、不同尺度的正态变量统一转成标准正态，从而查表或使用分位数。

常见概率计算：

$$P(a<Y<b)=P(\frac{a-\mu }{\sigma }<Z<\frac{b-\mu }{\sigma }).$$

14.2 正态线性组合

若 $Y_1,\dots ,Y_n$ 独立且

$$Y_i\sim N({\mu }_i,{\sigma }_i^2),$$

则任意线性组合仍为正态：

$$\sum _{i=1}^n{a}_i{Y}_i\sim N(\sum a_i{\mu }_i,\sum a_i^2{\sigma }_i^2).$$

特别地，若 $Y_i\sim N(\mu ,{\sigma }^2)$ iid，则

$$\overline{Y}\sim N(\mu ,\frac{{\sigma }^2}{n}).$$

这为第 9、10 章的 z 检验和 t 检验提供基础。

14.3 二项分布的正态近似

当 $X\sim Bin(n,p)$，且 $np$ 与 $n(1-p)$ 都足够大时，

$$\frac{X-np}{\sqrt{np(1-p)}}\approx N(0,1).$$

如果要求 $P(a\le X\le b)$，可以使用连续性修正：

$$P(a\le X\le b)\approx P(a-0.5<Y<b+0.5),$$

其中

$$Y\sim N(np,np(1-p)).$$

连续性修正的直觉是：离散整数点 $a,\dots ,b$ 对应连续轴上的区间 $[a-0.5,b+0.5]$。

14.4 Poisson 的正态近似

当 $\lambda$ 较大时，

$$Poisson(\lambda )\approx N(\lambda ,\lambda ).$$

标准化为

$$\frac{X-\lambda }{\sqrt{\lambda }}\approx N(0,1).$$

同样可使用连续性修正。

---

15. 专题深化：Geometric 与 Negative Binomial

15.1 Geometric：第一次成功所需试验次数

本章采用的定义是

$$P(Y=k)=(1-p{)}^{k-1}p,k=1,2,\dots$$

即第 $k$ 次试验第一次成功。

因此

$$E(Y)=\frac{1}{p},\mathrm{Var}(Y)=\frac{1-p}{p^2}.$$

它的离散无记忆性为

$$P(Y>s+t\mid Y>s)=P(Y>t).$$

15.2 Negative Binomial：第 $r$ 次成功所需试验次数

若 $Y$ 表示第 $r$ 次成功发生在第 $k$ 次试验，则

$$P(Y=k)=(\genfrac{}{}{0ex}{}{k-1}{r-1})p^r(1-p{)}^{k-r},k=r,r+1,\dots$$

解释：

1. 第 $k$ 次必须成功；
2. 前 $k-1$ 次中恰好有 $r-1$ 次成功；
3. 所以组合数是 $(\genfrac{}{}{0ex}{}{k-1}{r-1})$。

均值与方差：

$$E(Y)=\frac{r}{p},\mathrm{Var}(Y)=\frac{r(1-p)}{p^2}.$$

当 $r=1$ 时，负二项分布退化为几何分布。

15.3 离散等待时间与连续等待时间的对应

过程	第一次等待	第 $r$ 次等待
Bernoulli 试验序列	Geometric	Negative Binomial
Poisson 过程	Exponential	Gamma

---

16. 本章复习清单

核心内容	复习时要能做到
Poisson 极限定理	能从 Binomial 推到 Poisson
Poisson 建模	能说明稀有、独立、稳定率假设
Poisson 加法性	会用 MGF 或事件流解释
条件 Poisson	能推出给定总数后的 Binomial
Poisson 过程	理解 $N(t)$ 与等待时间的双视角
Exponential	会推导密度和无记忆性
Gamma	知道是多个指数等待时间之和
Normal 标准化	能把任意正态概率转成 $Z$
正态线性组合	会写均值和方差
二项正态近似	会判断条件并使用连续性修正
几何分布	会解释第几次首次成功
负二项分布	会解释组合数 $(\genfrac{}{}{0ex}{}{k-1}{r-1})$

---

17. 综合深化：正态近似的使用与诊断

17.1 航空超售与连续性校正

航空公司售出 178 张票，只有 168 个座位，每位乘客独立地以概率 $0.9$ 登机。登机人数

$$X\sim Bin(178,0.9),$$

其均值和标准差为

$$E(X)=160.2,\sqrt{\mathrm{Var}(X)}=\sqrt{178(0.9)(0.1)}\approx 4.00.$$

座位足够的概率是 $P(X\le 168)$。用正态近似时作连续性校正：

$$P(X\le 168)\approx \mathrm{\Phi }\left(\frac{168.5-160.2}{4.00}\right)\approx 0.981.$$

不作 $0.5$ 校正相当于用连续面积错误地近似离散柱形，尾部误差往往更明显。

17.2 分位数反解：顶尖百分位

若智商近似 $N(100,{15}^2)$，进入最高 2% 需要满足

$$P(X>c)=0.02.$$

因此

$$c=100+15z_{0.98}\approx 100+15(2.054)\approx 130.8.$$

这类题的关键是先把“前 2%”翻译为右尾概率，再确认应查 $0.98$ 分位数而不是 $0.02$。

17.3 小尾概率是证据，不是结论本身

已知某指标在基准人群中服从 $N(\mu ,{\sigma }^2)$，观测到 $x$ 后计算

$$P_{H_0}(X\ge x)$$

可衡量该观测在基准模型下有多极端。但应注意：

• 这是在 $H_0$ 成立下的数据尾概率，不是 $H_0$ 为真的概率；
• 若从许多人中挑出最极端的一人，必须考虑选择和多重性；
• 正态模型、均值和方差若由数据估计，零分布也会改变；
• 统计极端不自动提供因果或身份判断。

例如单个犯罪指数很极端，可能反对“来自普通人群”的模型；但若嫌疑人从一个很大的群体中筛选而来，至少一人极端的概率会远高于单人尾概率。

17.4 二项分布的两种近似方向

• $n$ 大、$p$ 不太靠近 0 或 1：用正态近似，关注中心区域与连续性校正；
• $n$ 大、$p$ 很小且 $np=\lambda$ 适中：用 Poisson$(\lambda )$ 近似，关注稀有计数。

同一个二项模型选择哪种近似，取决于参数区域，而不是只看样本量。