bt

概率论与数理统计 — 完整复习笔记

· 93 min read · 概率论 , 数理统计 , 期末复习

⚠︎ This post has no English translation yet — showing the original Chinese text.

教材:范益政、郑婷婷、陈华友《概率论与数理统计》(科学出版社)。本笔记按教材章节逐节整理,覆盖全部定义、定理、公式与经典例题,星号 标出考试高频重点,并给初学者补充了”人话”理解。

全书地图:前 5 章是概率论(从”事件”到”随机变量”到”数字特征”到”极限定理”),后 3 章是数理统计(用样本反过来推断总体:估计 + 检验)。一条主线:概率论回答”如果分布已知会怎样”,数理统计回答”分布未知时如何用数据猜”。

1.1 随机事件

基本概念

  • 确定性现象:一定条件下必然出现(太阳从东方升起);随机现象:事先无法预知结果(抛硬币)。
  • 统计规律性:随机现象在大量重复试验中表现出的固有规律——概率论研究的就是它。
  • 随机试验 $E$:可重复进行、所有可能结果事先已知、单次结果无法预言。
  • 样本点 $\omega$:试验的每一个可能结果;样本空间 $\Omega$:样本点的全体。
    • 注意 :样本空间不唯一。比如”某地气温”可以取 $\Omega=(-\infty,+\infty)$,也可以取 $\Omega={(x,y)\mid T_0\le x\le y\le T_1}$(最低温、最高温的数对)——选一个方便解题的就好。
  • 随机事件:样本空间 $\Omega$ 的子集,常用 $A,B,C$ 表示;某次试验中 $A$ 里的某个样本点出现了,就称”事件 $A$ 发生”。
  • 必然事件 $\Omega$(一定发生)、不可能事件 $\varnothing$(一定不发生)、基本事件(只含一个样本点)。

事件的关系与运算

关系/运算记号含义
和(并)$A\cup B$$A,B$ 至少一个发生
积(交)$A\cap B=AB$$A,B$ 同时发生
差$A-B$$A$ 发生而 $B$ 不发生
对立事件$\overline{A}=\Omega-A$$A$ 不发生
包含$A\subset B$$A$ 发生必导致 $B$ 发生
互斥$AB=\varnothing$不能同时发生(此时 $A\cup B$ 记作 $A+B$)

运算律(做题的肌肉记忆):

  • 交换律、结合律(和普通加乘一样)
  • 分配律:$A\cup BC=(A\cup B)(A\cup C)$;$A(B\cup C)=AB\cup AC$
  • 德摩根律 :$\overline{A\cup B}=\overline{A},\overline{B}$,$\overline{AB}=\overline{A}\cup\overline{B}$(“长横线拆开,∪与∩互换”)

【教材例1.1.6】用运算表示事件(设 $A,B,C$ 为三个事件):

  • 都发生:$ABC$
  • 恰好发生一个:$A\overline{B},\overline{C}+\overline{A}B\overline{C}+\overline{A},\overline{B}C$
  • 恰好发生两个:$AB\overline{C}+A\overline{B}C+\overline{A}BC$
  • 至少发生一个:$A\cup B\cup C$(也可写成 $\overline{\overline{A},\overline{B},\overline{C}}$,“都不发生”的对立)
  • $A$ 发生而 $B,C$ 不发生:$A\overline{B},\overline{C}$,即 $A-(B\cup C)$
  • $A,B$ 发生而 $C$ 不发生:$AB\overline{C}$,即 $AB-ABC$

初学者提示:见到”至少""恰好""都不”先翻译成事件的和差交,再化简。“至少一个”用并、“恰好 k 个”拆成互斥项之和是标准套路。

1.2 频率与概率

频率与频率的稳定性

定义1.2.1:$n$ 次试验中事件 $A$ 发生的次数 $n_A$ 叫频数,$f_n(A)=\dfrac{n_A}{n}$ 叫频率。频率满足:$0\le f_n(A)\le1$,$f_n(\Omega)=1$,互不相容事件的频率可加。

抛硬币实验(教材表1.2.1):$n=5$ 时频率乱跳,$n=500$ 时频率都挤在 0.5 附近;历史上蒲丰 4040 次得 0.5069、皮尔逊 24000 次得 0.5005。频率的稳定性:$n$ 很大时 $f_n(A)$ 稳定于某个常数 $p$ 附近。

概率的定义

统计定义:频率稳定所在的常数 $p$ 称为概率 $P(A)=p$。缺点:$p$ 的存在性需要理论保证(第5章大数定律补上)。价值:提供估计概率的方法和检验理论的准则。

定义1.2.3(公理化定义) :$P(A)$ 是定义在事件族上的实值函数,满足三条公理:

  1. 非负性:$P(A)\ge0$
  2. 规范性:$P(\Omega)=1$
  3. 可列可加性:$A_1,A_2,\cdots$ 两两互不相容时 $P\Big(\bigcup_{i=1}^{\infty}A_i\Big)=\sum_{i=1}^{\infty}P(A_i)$

配上 $\sigma$-代数(对补、可列并封闭的事件族 $\mathcal F$),三元组 $(\Omega,\mathcal F,P)$ 称为概率空间。

概率的性质(全部由三公理推出)

  1. $P(\varnothing)=0$
  2. 有限可加性:两两互不相容时 $P(\bigcup_{i=1}^nA_i)=\sum_{i=1}^nP(A_i)$
  3. 减法公式:$P(B-A)=P(B)-P(AB)$;特别地 $A\subset B$ 时 $P(B-A)=P(B)-P(A)$
  4. 单调性:$A\subset B\Rightarrow P(A)\le P(B)$
  5. $P(A)\le1$;对立公式:$P(\overline{A})=1-P(A)$
  6. 加法公式 :$P(A\cup B)=P(A)+P(B)-P(AB)$
  7. 三事件推广:$P(A\cup B\cup C)=\sum P - \sum P(AB) + P(ABC)$
  8. 容斥公式($n$ 个事件):$P(\bigcup_{i=1}^nA_i)=\sum P(A_i)-\sum_{i<j}P(A_iA_j)+\cdots+(-1)^{n-1}P(A_1\cdots A_n)$
  9. 次可加性:$P(\bigcup A_i)\le\sum P(A_i)$

【教材例1.2.2】 已知 $P(\overline{A})=0.5$,$P(\overline{A}B)=0.2$,$P(B)=0.4$: $P(AB)=P(B)-P(\overline{A}B)=0.2$;$P(A-B)=P(A)-P(AB)=0.3$;$P(A\cup B)=0.7$;$P(\overline{A},\overline{B})=1-P(A\cup B)=0.3$。

古典概型

两个特征:①样本空间有限;②每个样本点等可能发生。

$$P(A)=\frac{A\ \text{包含的样本点数}}{\Omega\ \text{包含的样本点数}}$$

【教材例1.2.5 抽签公平性】 袋中 $a$ 白 $b$ 红,$k$ 人依次取一球,无论放回与否、无论第几个取,取到白球的概率都是 $\dfrac{a}{a+b}$——抽签与次序无关(买彩票人人机会均等)。

【教材例1.2.6 分配问题/生日问题】 $n$ 个人等可能分到 $N$ 个房间($N>n$):

  • 指定的 $n$ 个房间各住一人:$p_1=\dfrac{n!}{N^n}$
  • 恰有 $n$ 个房间各住一人:$p_2=\dfrac{\mathrm{A}_N^n}{N^n}=\dfrac{N(N-1)\cdots(N-n+1)}{N^n}$

同模型的生日问题:$n$ 个人中至少两人生日相同的概率

$$p=1-\frac{365\times364\times\cdots\times(365-n+1)}{365^n}$$

$n$202330405064100
$p$0.4110.5070.7060.8910.9700.9970.9999997

n=23 就过半,64 人的班级几乎必然有人同生日——反直觉但真实。

【教材例1.2.7 抽样问题/超几何公式】 $N$ 件产品含 $D$ 件次品,任取 $n$ 件恰有 $k$ 件次品:

$$p=\frac{\dbinom{D}{k}\dbinom{N-D}{n-k}}{\dbinom{N}{n}}\tag{超几何分布概率公式}$$

【教材例1.2.8 配对问题】 $N$ 个人随机拿帽子:

  • 没人拿到自己帽子的概率:$1-1+\dfrac{1}{2!}-\dfrac{1}{3!}+\cdots+(-1)^N\dfrac{1}{N!}\approx e^{-1}\approx0.3678$
  • 恰有 $k$ 人拿到自己帽子:$\dfrac{1-1+\frac{1}{2!}-\cdots+(-1)^{N-k}\frac{1}{(N-k)!}}{k!}\approx\dfrac{e^{-1}}{k!}$(与泊松分布挂钩)

关键工具是容斥公式:$P(E_{i_1}\cdots E_{i_n})=\dfrac{(N-n)!}{N!}$,求和项合并后 $\binom{N}{n}\dfrac{(N-n)!}{N!}=\dfrac{1}{n!}$。

【教材例1.2.16 会面问题(几何概型代表)】 甲乙约定 7~8 点见面,先到者等 20 分钟。设两人到达时刻为 $x,y\in[0,60]$,能会面即 $|x-y|\le20$:

$$P(A)=\frac{60^2-40^2}{60^2}=\frac{5}{9}$$

几何概型

样本点不可列但”均匀”时,用几何度量代替计数:

$$P(A)=\frac{m(A)}{m(\Omega)}\tag{m 为长度/面积/体积}$$

概率与 $A$ 的测度成正比,与位置、形状无关。几何概型是古典概型向无穷样本点的推广。

【教材例1.2.11 小概率原理】 12 次接待全在周二/周四,若随机则概率 $\dfrac{2^{12}}{7^{12}}=0.0000003$——小概率事件在一次试验中几乎不发生,居然发生了 → 有理由怀疑假设,推断接待时间有规定。小概率原理是第 8 章假设检验的灵魂。

1.3 条件概率、全概率公式和贝叶斯公式

条件概率与乘法公式

定义1.3.1 :$P(A)>0$ 时,

$$P(B|A)=\frac{P(AB)}{P(A)}$$

直观:把样本空间缩小到”已知 $A$ 发生”的世界里重新算概率。

条件概率也是概率:$P(\cdot|A)$ 同样满足三公理,所以减法、加法、对立公式全部适用:$P(\overline{B}|A)=1-P(B|A)$ 等。

定理1.3.1(乘法公式):$P(AB)=P(A)P(B|A)$;推广:

$$P(A_1A_2\cdots A_n)=P(A_1)P(A_2|A_1)\cdots P(A_n|A_1A_2\cdots A_{n-1})$$

【教材例1.3.4 透镜】 三次落下打破的概率依次为 1/2、7/10、9/10,三次都未打破:

$$P=(1-\tfrac12)(1-\tfrac7{10})(1-\tfrac9{10})=\frac{3}{200}$$

全概率公式与贝叶斯公式

定义1.3.2(划分):$B_1,\cdots,B_n$ 两两互斥且 $\bigcup B_i=\Omega$(把样本空间切成互不重叠的几块)。

定理1.3.2(全概率公式):$P(B_i)>0$ 时,

$$P(A)=\sum_{i=1}^{n}P(B_i)P(A|B_i)$$

定理1.3.3(贝叶斯公式):$P(A)>0$ 时,

$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\displaystyle\sum_{j=1}^{n}P(A|B_j)P(B_j)}$$

一句话理解:全概率公式是”由因推果”(知道各种原因的发生概率和原因下结果的概率,求结果的概率);贝叶斯公式是”由果溯因”(结果已经发生,反推是哪种原因导致的)。$P(B_i)$ 叫先验概率(事前的判断),$P(B_i|A)$ 叫后验概率(见到证据后修正的判断)。

【教材例1.3.6 机器调整】 调整良好时合格率 98%,故障时 55%,故障率 5%。第一件产品合格,求机器良好的概率:

$$P(B|A)=\frac{0.98\times0.95}{0.98\times0.95+0.55\times0.05}\approx0.97$$

【教材例1.3.7 癌症普查(必考易错)】 $P(A|C)=0.95$,$P(\overline{A}|\overline{C})=0.95$,$P(C)=0.005$:

$$P(C|A)=\frac{0.95\times0.005}{0.95\times0.005+0.05\times0.995}\approx0.087$$

$P(A|C)\ne P(C|A)$:试验灵敏度 95% ≠ 阳性者真患病概率 8.7%!混淆两者会造成误诊——因为普通人患病率极低,假阳性的人数远超真阳性。

1.4 事件的独立性

两个事件的独立

定义1.4.1:满足 $P(AB)=P(A)P(B)$ 则称 $A,B$ 相互独立。

直观理解:$A$ 发不发生都不影响 $B$ 发生的概率。用乘积式定义是为了避开 $P(A)=0$ 时条件概率没定义的情况。

关键性质:

  • $\Omega$、$\varnothing$ 与任何事件独立
  • 独立与互斥不能同时成立($P(A),P(B)>0$ 时):互斥是”你死我活”的强关联,独立是互不干扰,初学者最易混
  • $P(A)>0$ 时,独立 $\iff P(B|A)=P(B)$
  • 四命题等价:$A,B$ 独立 $\iff A,\overline{B}$ 独立 $\iff \overline{A},B$ 独立 $\iff \overline{A},\overline{B}$ 独立

多个事件的独立

  • 三个事件两两独立:$P(AB)=P(A)P(B)$,$P(BC)=P(B)P(C)$,$P(AC)=P(A)P(C)$ 三式全成立
  • 相互独立:两两独立 且 $P(ABC)=P(A)P(B)P(C)$。两两独立 ⇏ 相互独立
  • $n$ 个事件相互独立:对任意非空子集 $S$,$P\big(\prod_{i\in S}A_i\big)=\prod_{i\in S}P(A_i)$
  • 相互独立 ⇒ 任意 $k$ 个也独立;把其中若干个换成对立事件,仍相互独立

【教材例1.4.2 串并联系统】 元件 1、2 串联为线路 I,3、4 串联为线路 II,两线路并联,可靠性 $p_1,p_2,p_3,p_4$:

$$P(A)=P(A_1A_2\cup A_3A_4)=p_1p_2+p_3p_4-p_1p_2p_3p_4$$

伯努利概型

  • 伯努利试验:只有两种结果($A$ 与 $\overline{A}$);$n$ 重伯努利试验:独立重复 $n$ 次。
  • 首次发生:第 $k$ 次才首次发生 $A$:$P(B_k)=(1-p)^{k-1}p$
  • 二项概率公式:$n$ 次中 $A$ 恰发生 $k$ 次:

$$b(k;n,p)=\binom{n}{k}p^k(1-p)^{n-k},\qquad k=0,1,\cdots,n$$

正是 $(p+q)^n$($q=1-p$)展开式中含 $p^k$ 的项——第 2 章二项分布由此而来。

【教材例1.4.4 导弹】 单发命中 0.96,$1-(0.04)^n>0.999$ 解得 $n=3$,发射 3 枚即可。

2.1 随机变量与分布函数

随机变量

定义2.1.1:定义在 $\Omega$ 上的实值函数 $X=X(\omega)$,若对任意实数 $x$,${\omega\mid X(\omega)\le x}$ 是事件(可测集),则 $X$ 为随机变量。记号 ${X\le x}$ 就表示”X 的取值不超过 x”这个事件。

一句话理解:随机变量就是给每个随机结果贴一个数字标签,把”文字世界”(正面/反面)变成”数字世界”(1/0),数学工具才能进场。

分布函数

定义2.1.2:

$$F(x)=P(X\le x),\qquad -\infty<x<+\infty$$

定理2.1.1(三条基本性质,充要条件):

  1. 单调不减:$x_1<x_2\Rightarrow F(x_1)\le F(x_2)$
  2. 规范性:$F(-\infty)=0$,$F(+\infty)=1$
  3. 右连续:$\lim\limits_{x\to x_0^+}F(x)=F(x_0)$

满足这三条的函数必是某个随机变量的分布函数。

定理2.1.2(用 $F$ 表示各种概率,背熟):记 $F(a^-)=\lim_{x\to a^-}F(x)$:

概率用 $F$ 表示
$P(X\le a)$$F(a)$
$P(X<a)$$F(a^-)$
$P(X>a)$$1-F(b)$(即 $1-F(b)$ 对 $X>b$)
$P(X=a)$$F(a)-F(a^-)$
$P(a<X\le b)$$F(b)-F(a)$
$P(a\le X\le b)$$F(b)-F(a^-)$
$P(a<X<b)$$F(b^-)-F(a)$

分布函数完全刻画了随机变量——知道 $F$ 就知道一切概率。

2.2 离散型随机变量及其分布

定义2.2.1(分布律):$p_i=P(X=x_i)$,写成 $\begin{pmatrix}x_1&x_2&\cdots\ p_1&p_2&\cdots\end{pmatrix}$,满足 ① $p_i\ge0$;② $\sum p_i=1$。分布函数 $F(x)=\sum_{x_i\le x}p_i$ 是阶梯函数,在 $x_i$ 处的跳跃度恰为 $p_i$。

【教材例2.2.1】 $P(X=i)=\left(\frac23\right)^ia$:由 $\sum=1$ 得 $a=\frac12$;$P(X=2)=\frac29$,$P(1\le X\le3)=\frac{19}{27}$,$P(X\le2.5)=\frac59$。

【教材例2.2.2 反向题】 由阶梯形 $F(x)$(跳跃点 $-1,1,3$,跳跃度 $0.4,0.4,0.2$)反求分布律 $\begin{pmatrix}-1&1&3\0.4&0.4&0.2\end{pmatrix}$——用 $P(X=a)=F(a)-F(a^-)$。

六种常见离散分布

① 退化分布:只取一个值,$\begin{pmatrix}a\1\end{pmatrix}$。

② 两点分布(0-1 分布):$P(X=1)=p$,$P(X=0)=1-p$。一次伯努利试验中 $A$ 发生的次数。

③ 二项分布 $B(n,p)$ :$n$ 重伯努利试验中 $A$ 发生的次数:

$$P(X=k)=\binom{n}{k}p^kq^{n-k},\qquad k=0,1,\cdots,n,\ q=1-p$$

④ 几何分布 $G(p)$:试验做到 $A$ 首次发生为止,所需次数:

$$P(X=k)=q^{k-1}p,\qquad k=1,2,\cdots$$

无记忆性 :$P(X>m+n\mid X>m)=P(X>n)$(等了 m 次没发生,白等,像重新开始)。

⑤ 超几何分布:$N$ 白球 $M$ 黑球不放回取 $n$ 个,白球数:

$$P(X=k)=\frac{\dbinom{N}{k}\dbinom{M}{n-k}}{\dbinom{N+M}{n}}$$

$N,M$ 很大而 $n$ 相对小时,不放回 ≈ 放回,可用二项分布近似。

⑥ 泊松分布 $P(\lambda)$ :

$$P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda},\qquad k=0,1,2,\cdots,\ \lambda>0$$

背景:电话呼叫数、候车人数、火灾次数等”单位时间内随机事件数”。

定理2.2.1(泊松定理):$\lambda>0$,$np_n\to\lambda$,则 $\dbinom{n}{k}p_n^k(1-p_n)^{n-k}\to\dfrac{\lambda^k}{k!}e^{-\lambda}$。

实用结论:$n$ 大、$p$ 小、$np=\lambda$ 适中时,$B(n,p)\approx P(\lambda)$。

【教材例2.2.5 进货问题】 月销量 $X\sim P(10)$:95% 以上把握不脱销需 $\sum_{k=0}^{s}\frac{10^k}{k!}e^{-10}\ge0.95$,查表 $s=15$,至少进货 15 件。

【教材例2.2.7 装箱问题】 次品率 0.01,装 $100+s$ 件使正品不少于 100 件的概率 ≥95%:$P(X\le s)\approx\sum_{k=0}^{s}\frac1{k!}e^{-1}\ge0.95$,$s=3$,至少装 103 件。

2.3 连续型随机变量及其分布

定义2.3.1:若存在非负函数 $f(x)$ 使 $F(x)=\int_{-\infty}^{x}f(t),\mathrm dt$,则 $X$ 为连续型随机变量,$f(x)$ 为概率密度函数。

密度的两条性质:① $f(x)\ge0$;② $\int_{-\infty}^{+\infty}f(x),\mathrm dx=1$(反之,满足两条即为某个密度)。

核心区别 :连续型随机变量 $P(X=x)=0$!所以开闭区间无所谓:

$$P(a\le X\le b)=P(a<X<b)=F(b)-F(a)=\int_a^bf(x),\mathrm dx$$

初学者提示:密度 $f(x)$ 不是概率,$f(x)$ 大只说明 x 附近取值”密集”;概率是密度下的面积。$F$ 在 $f$ 的连续点满足 $F’(x)=f(x)$;密度在个别点的取值可以随意改(不影响积分)。

六种常见连续分布

① 均匀分布 $U(a,b)$:

$$f(x)=\frac{1}{b-a}\ (a<x<b);\qquad F(x)=\frac{x-a}{b-a}$$

② 指数分布 $E(\lambda)$ :

$$f(x)=\lambda e^{-\lambda x}\ (x>0)$$

描述等待时间、寿命。可由泊松模型导出:$[0,t]$ 内受击次数 $\sim P(\lambda t)$,则寿命 $P(T\le t)=1-e^{-\lambda t}$。

无记忆性:$P(X>r+s\mid X>s)=P(X>r)$(用过的 s 小时白用)。

③ 正态分布 $N(\mu,\sigma^2)$ (重中之重):

$$f(x)=\frac{1}{\sqrt{2\pi},\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}},\qquad x\in(-\infty,+\infty)$$

  • 密度关于 $x=\mu$ 对称,$x=\mu$ 处最大值 $\frac{1}{\sqrt{2\pi}\sigma}$;“中间大、两头小”
  • $\sigma$ 越大曲线越矮胖(取值越分散),$\mu$ 平移曲线位置
  • $\mu=0,\sigma=1$ 为标准正态分布 $N(0,1)$,密度记 $\varphi(x)$,分布函数记 $\Phi(x)$
  • $\Phi(x)$ 无初等表达式,只能查表;$\Phi(-x)=1-\Phi(x)$(负数查表公式)

定理2.3.1(标准化):$X\sim N(\mu,\sigma^2)\Rightarrow Y=\dfrac{X-\mu}{\sigma}\sim N(0,1)$。

推论2.3.1:$F(x)=\Phi!\left(\dfrac{x-\mu}{\sigma}\right)$,一切正态概率计算都化为查标准正态表。

【教材例2.3.8 成绩排名】 成绩 $N(70,100)$,第 100 名 60 分 → $P(X\ge60)=\Phi(1)=0.8413$ → 总人数 $\approx119$;第 20 名 $P(X\ge x)=\frac{2}{119}$ → $x\approx79.6$ 分。

3σ 规则 :

$$P(|X-\mu|<\sigma)=0.6827,\quad P(|X-\mu|<2\sigma)=0.9545,\quad P(|X-\mu|<3\sigma)=0.9973$$

正态变量几乎总落在 $(\mu-3\sigma,\mu+3\sigma)$ 内。

④ Γ 分布 $\Gamma(r,\lambda)$:$f(x)=\dfrac{\lambda^r x^{r-1}e^{-\lambda x}}{\Gamma(r)}\ (x>0)$,$\Gamma(r)=\int_0^{+\infty}x^{r-1}e^{-x}\mathrm dx$;$r=1$ 时即指数分布。

⑤ $\chi^2$ 分布:$f(x)=\dfrac{1}{2^{n/2}\Gamma(n/2)}x^{n/2-1}e^{-x/2}\ (x>0)$(第 6 章详述)。

⑥ 对数正态分布 $LN(\mu,\sigma^2)$:$f(x)=\dfrac{1}{\sqrt{2\pi}\sigma x}e^{-\frac{(\ln x-\mu)^2}{2\sigma^2}}\ (x>0)$,金融资产价格建模常用。

2.4 随机变量的函数及其分布

已知 $X$ 的分布,求 $Y=g(X)$ 的分布。

离散型

把分布律里的 $x_i$ 换成 $g(x_i)$;相同函数值对应的概率要相加合并 。

【教材例2.4.1】 $X\sim\begin{pmatrix}-1&0&1\0.25&0.5&0.25\end{pmatrix}$:$Y_2=X^2\sim\begin{pmatrix}0&1\0.5&0.5\end{pmatrix}$(±1 对应的 1 合并)。

连续型

重要例2.4.2(概率积分变换):$F(x)$ 严格单调增连续 $\Rightarrow Y=F(X)\sim U[0,1]$(模拟随机数的理论基础)。

定理2.4.1(单调情形公式):$g$ 严格单调、反函数 $g^{-1}(y)$ 可导,则

$$\varphi_Y(y)=f\big(g^{-1}(y)\big),\big|\big(g^{-1}(y)\big)‘\big|,\qquad y\in(\alpha,\beta)$$

非单调时用”分布函数法” :先求 $F_Y(y)=P(g(X)\le y)$(按 y 分段讨论,把事件翻译成 X 的范围),再求导得密度。

【教材例2.4.4】 $X\sim U(-1,1)$ 求 $Y=X^2$:$F_Y(y)=P(-\sqrt y\le X\le\sqrt y)=\sqrt y$($0\le y<1$)→ $\varphi_Y(y)=\dfrac{1}{2\sqrt y}\ (0<y<1)$。

注意:$g(X)$ 未必是连续型(可能混合型),用分布函数法最稳妥。

3.1 多维随机变量及其联合分布

联合分布函数

定义3.1.2:二维 $(X,Y)$ 的联合分布函数

$$F(x,y)=P(X\le x,\ Y\le y)$$

矩形概率(式3.1.1):

$$P{x_1<X\le x_2,\ y_1<Y\le y_2}=F(x_2,y_2)-F(x_1,y_2)-F(x_2,y_1)+F(x_1,y_1)$$

$F(x,y)$ 的四条基本性质:① 对每个变量单调不减;② $F(x,-\infty)=F(-\infty,y)=F(-\infty,-\infty)=0$,$F(+\infty,+\infty)=1$;③ 对每个变量右连续;④ 矩形不等式(非负性):上面矩形概率 $\ge0$。

易错 :性质④不能由前三条推出,必须单独验证!反例(教材例3.1.1):$F(x,y)=\begin{cases}0,&x+y<0\1,&x+y\ge0\end{cases}$ 满足①②③但 $F(1,1)-F(-1,1)-F(1,-1)+F(-1,-1)=-1<0$,不是分布函数。

二维离散型:联合分布律

$p_{ij}=P(X=x_i,Y=y_j)$,满足 $p_{ij}\ge0$,$\sum_i\sum_jp_{ij}=1$。

【教材例3.1.2 摸球】 $a$ 红 $b$ 白取两次($X$、$Y$ 记两次是否红球):放回时 $P(1,1)=(\frac{a}{a+b})^2$;不放回时 $P(1,1)=\frac{a(a-1)}{(a+b)(a+b-1)}$。

【教材例3.1.3】 从 14 等可能取 $X$,再从 1$X$ 等可能取 $Y$:$P(X=i,Y=j)=\frac14\cdot\frac1i$($j\le i$),否则 0;$P(X=Y)=\frac14+\frac18+\frac1{12}+\frac1{16}=\frac{25}{48}$。

二维连续型:联合密度

定义3.1.4:$F(x,y)=\int_{-\infty}^{x}\int_{-\infty}^{y}f(u,v),\mathrm du,\mathrm dv$。性质:$f\ge0$,$\iint_{\mathbb R^2}f=1$,连续点 $\dfrac{\partial^2F}{\partial x\partial y}=f$,以及最重要的:

$$P\big((X,Y)\in G\big)=\iint_G f(x,y),\mathrm dx,\mathrm dy\tag{3.1.2}$$

【教材例3.1.4】 $f=k e^{-(4x+5y)}$($x,y>0$):归一性得 $k=20$;$F(x,y)=(1-e^{-4x})(1-e^{-5y})$。

常见多维分布

  1. 多项分布(二项的推广):$P(X_1=k_1,\cdots,X_r=k_r)=\dfrac{n!}{k_1!\cdots k_r!}p_1^{k_1}\cdots p_r^{k_r}$,$\sum k_i=n$
  2. 多维超几何分布:$P=\dfrac{\binom{N_1}{k_1}\cdots\binom{N_r}{k_r}}{\binom{N}{n}}$
  3. n 维均匀分布 $U(G)$:$f=\dfrac{1}{S(G)}$(区域 $G$ 上)
  4. 二维正态分布 :$(X,Y)\sim N(\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rho)$,五个参数:

$$f(x,y)=\frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}}\exp\left{-\frac{1}{2(1-\rho^2)}\left[\frac{(x-\mu_1)^2}{\sigma_1^2}-\frac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2}+\frac{(y-\mu_2)^2}{\sigma_2^2}\right]\right}$$

3.2 边缘分布

边缘分布函数:$F_X(x)=F(x,+\infty)$,$F_Y(y)=F(+\infty,y)$。

离散型边缘分布律:$P(X=x_i)=p_{i\cdot}=\sum_jp_{ij}$(行和);$P(Y=y_j)=p_{\cdot j}=\sum_ip_{ij}$(列和)。

连续型边缘密度 :

$$f_X(x)=\int_{-\infty}^{+\infty}f(x,y),\mathrm dy,\qquad f_Y(y)=\int_{-\infty}^{+\infty}f(x,y),\mathrm dx$$

核心结论:联合分布唯一确定边缘;边缘一般确定不了联合 。

  • 教材例3.2.1:放回与不放回抽取的边缘分布律完全相同,但联合分布律不同——必须知道分量之间的联系
  • 例3.2.4 二维正态的边缘:$X\sim N(\mu_1,\sigma_1^2)$,$Y\sim N(\mu_2,\sigma_2^2)$,与 $\rho$ 无关!不同 $\rho$ 给出不同联合、相同边缘;且边缘都是正态的二维分布未必是二维正态

【教材例3.2.3】 $f=1$(区域 $0<x<1,|y|<x$):$f_X(x)=2x\ (0<x<1)$;$f_Y(y)=1-|y|\ (|y|<1)$——积分限随区域变化是这里的全部技巧。

3.3 条件分布

离散型条件分布律:$P(Y=y_j)>0$ 时,

$$P(X=x_i\mid Y=y_j)=\frac{p_{ij}}{p_{\cdot j}}$$

连续型条件密度 :注意 $P(Y=y)=0$,不能用条件概率定义直接算!通过极限($y\le Y\le y+h$,$h\to0^+$)定义:$f_Y(y)>0$ 时,

$$f(x\mid y)=\frac{f(x,y)}{f_Y(y)},\qquad F(x\mid y)=\int_{-\infty}^{x}\frac{f(u,y)}{f_Y(y)},\mathrm du$$

乘法关系(对比第 1 章乘法公式):

$$f(x,y)=f_X(x),f(y\mid x)=f_Y(y),f(x\mid y)$$

【教材例3.3.4】 $X\sim U(0,1)$,已知 $X=x$ 时 $Y\sim U(x,1)$:联合 $f(x,y)=\dfrac{1}{1-x}\ (0<x<y<1)$,边缘 $f_Y(y)=-\ln(1-y)\ (0<y<1)$——“由条件+边缘拼联合,再积分出另一边缘”的标准流程。

3.4 随机变量的独立性

定义3.4.1:$F(x_1,\cdots,x_n)=F_{X_1}(x_1)\cdots F_{X_n}(x_n)$ 则 $X_1,\cdots,X_n$ 相互独立。

等价条件 :

  • 离散型:$P(X=x,Y=y)=P(X=x)P(Y=y)$ 对一切取值成立
  • 连续型:在联合密度的连续点处 $f(x,y)=f_X(x)f_Y(y)$

独立时联合与边缘互相唯一确定。

例3.4.4(二维正态核心结论):$(X,Y)\sim N(\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rho)$ 时,$X$ 与 $Y$ 独立 $\iff\rho=0$ 。

独立性带来的好消息(定理3.4.1/3.4.2):

  • $X_1,\cdots,X_n$ 独立 ⇒ 各自的函数 $f_1(X_1),\cdots,f_n(X_n)$ 仍独立
  • 两个独立的随机向量,其子向量独立;各自的函数也独立

3.5 多维随机变量的函数的分布

离散型

$Z=g(X,Y)$:把每个 $(x_i,y_j)$ 换成 $g(x_i,y_j)$,函数值相同的概率求和。

离散卷积公式(式3.5.1):$X,Y$ 独立取非负整数,$Z=X+Y$:

$$P(Z=k)=\sum_{i=0}^{k}P(X=i),P(Y=k-i)$$

可加性三兄弟(都要求独立,必背) :

  • 泊松:$X\sim P(\lambda_1),Y\sim P(\lambda_2)$ 独立 $\Rightarrow X+Y\sim P(\lambda_1+\lambda_2)$
  • 二项(同 $p$):$B(n,p)+B(m,p)\Rightarrow B(n+m,p)$
  • 正态:$N(\mu_1,\sigma_1^2)+N(\mu_2,\sigma_2^2)\Rightarrow N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$;推广到线性组合:$\sum a_iX_i\sim N(\sum a_i\mu_i,\ \sum a_i^2\sigma_i^2)$($a_i$ 不全为 0)

连续型:分布函数法

求 $Z=g(X,Y)$ 的密度:先写 $F_Z(z)=\iint_{g(x,y)\le z}f(x,y),\mathrm dx,\mathrm dy$(积分区域随 z 变化),分段算出 $F_Z$,再求导。

例3.5.3(瑞利分布的由来) $X,Y$ 独立 $\sim N(0,1)$,$Z=\sqrt{X^2+Y^2}$:极坐标积分 $F_Z(z)=1-e^{-z^2/2}\ (z\ge0)$,密度 $h(z)=ze^{-z^2/2}\ (z\ge0)$。

和的分布(卷积公式)

$Z=X+Y$:

  • 一般情形:$f_Z(z)=\int_{-\infty}^{+\infty}f(x,z-x),\mathrm dx=\int_{-\infty}^{+\infty}f(z-y,y),\mathrm dy$
  • 独立时(卷积公式) :

$$f_Z(z)=\int_{-\infty}^{+\infty}f_X(x),f_Y(z-x),\mathrm dx=\int_{-\infty}^{+\infty}f_X(z-y),f_Y(y),\mathrm dy$$

【教材例3.5.5】 $X\sim U[0,1]$,$Y\sim E(1)$ 独立:$f_Z(z)=0\ (z\le0)$;$1-e^{-z}\ (0<z<1)$;$e^{-z}(e-1)\ (z\ge1)$——分段是关键。

商与积的分布(独立情形)

$$f_{X/Y}(z)=\int_{-\infty}^{+\infty}f_X(zy),f_Y(y),|y|,\mathrm dy,\qquad f_{XY}(s)=\int_{-\infty}^{+\infty}f_X(x),f_Y!\left(\frac{s}{x}\right)\frac{1}{|x|},\mathrm dx$$

【教材例3.5.7】 $G=[0,2]\times[0,1]$ 上均匀分布,$S=XY$:$f_S(s)=\dfrac12(\ln2-\ln s)\ (0<s<2)$。

极值分布

$X_1,\cdots,X_n$ 相互独立,$M=\max$,$N=\min$:

$$F_M(z)=\prod_{i=1}^{n}F_{X_i}(z),\qquad F_N(z)=1-\prod_{i=1}^{n}\big[1-F_{X_i}(z)\big]$$

独立同分布 $F$ 时:$F_M=[F]^n$,$f_M=n[F]^{n-1}f$;$F_N=1-[1-F]^n$,$f_N=n[1-F]^{n-1}f$。

【教材例3.5.8】 $n$ 个独立 $E(\lambda)$:$\min{X_i}\sim E(n\lambda)$(min 仍是指数分布,参数变 $n\lambda$);而 $\max$ 不再是指数分布,密度 $n(1-e^{-\lambda z})^{n-1}\lambda e^{-\lambda z}$。

随机向量的变换

$\begin{cases}u=g_1(x,y)\ v=g_2(x,y)\end{cases}$ 有唯一反函数、雅可比行列式 $J=\dfrac{\partial(x,y)}{\partial(u,v)}\ne0$ 时:

$$h(u,v)=f\big(x(u,v),,y(u,v)\big),|J|$$

【教材例3.5.9】 $X,Y$ 独立 $\sim E(1)$,$U=X+Y$,$V=X/(X+Y)$:反解 $x=uv,y=u(1-v)$,$J=-u$,得 $h(u,v)=ue^{-u}$($u>0,0<v<1$);进而 $h_U=ue^{-u}$,$h_V=1$($0<v<1$)→ $U$ 与 $V$ 独立(伽马与均匀”解耦”的经典例子)。

4.1 数学期望

定义(要求绝对收敛)

  • 离散型:$EX=\displaystyle\sum_i x_ip_i$
  • 连续型:$EX=\displaystyle\int_{-\infty}^{+\infty}xf(x),\mathrm dx$

注意 :级数/积分必须绝对收敛,否则期望不存在。反例:$P\big(X=(-1)^k\frac{2^k}k\big)=\frac1{2^k}$ 条件收敛于 $-\ln2$ 但 $\sum\frac1k=+\infty$,期望不存在;柯西分布同理。

一句话理解:期望 = 以概率为权重的”加权平均”。频率视角:大量重复试验中取值的平均数会稳定在期望附近(第 5 章大数定律严格化)。

随机变量函数的期望(不用先求分布!)

定理4.1.1(一维):

$$Eg(X)=\sum_i g(x_i)p_i\quad(\text{离散});\qquad Eg(X)=\int_{-\infty}^{+\infty}g(x)f(x),\mathrm dx\quad(\text{连续})$$

定理4.1.2(二维):

$$Eg(X,Y)=\sum_i\sum_jg(x_i,y_j)p_{ij}\quad;\qquad Eg(X,Y)=\iint g(x,y)f(x,y),\mathrm dx,\mathrm dy$$

特别地 $EX=\sum_ix_ip_{i\cdot}$(或 $\iint xf,\mathrm dx\mathrm dy$)。

【教材例4.1.10 送客车问题(随机变量分解法)】 20 名乘客 10 个车站等可能独立下车,有人下才停:设 $X_i$=第 $i$ 站是否停车,则 $X=\sum X_i$,$EX_i=1-(\frac9{10})^{20}$,故

$$EX=10\left[1-\left(\frac{9}{10}\right)^{20}\right]\approx8.784\ \text{次}$$

把复杂变量拆成 0-1 变量之和是求期望的万能套路。

期望的性质

  1. $E(C)=C$;$E(CX)=CEX$
  2. 线性性:$E(X_1+\cdots+X_n)=EX_1+\cdots+EX_n$(不需要独立!)
  3. 独立时:$E(X_1X_2\cdots X_n)=EX_1,EX_2\cdots EX_n$

常见分布的期望(速查)

分布$E(X)$分布$E(X)$
0-1$p$均匀 $U(a,b)$$\frac{a+b}{2}$
二项 $B(n,p)$$np$指数 $E(\lambda)$$\frac1\lambda$
泊松 $P(\lambda)$$\lambda$正态 $N(\mu,\sigma^2)$$\mu$
几何 $G(p)$$\frac1p$$\Gamma(r,\lambda)$$\frac r\lambda$

(泊松的 $\lambda$、正态的 $\mu$ 就是期望——参数意义由此明确。)

4.2 方差

定义与计算

定义4.2.1:$DX=E[(X-EX)^2]$;标准差 $\sigma(X)=\sqrt{DX}$。

最常用公式 :

$$DX=EX^2-(EX)^2$$

一句话理解:方差 = “平方的平均 − 平均的平方”,衡量取值偏离均值的波动程度。不用 $E|X-EX|$ 是因为绝对值难算。

【教材例4.2.2 线段两点距离】 $X,Y$ 独立 $\sim U(0,a)$:$E|X-Y|=\frac a3$,$E(|X-Y|^2)=\frac{a^2}6$,故 $D(|X-Y|)=\frac{a^2}{18}$。

方差的性质

  1. $D(C)=0$;$D(CX)=C^2DX$;$D(X+C)=DX$(平移不改波动)
  2. 任意两个随机变量:

$$D(X\pm Y)=DX+DY\pm2E[(X-EX)(Y-EY)]$$

  1. 独立(或两两独立)时:$D(X_1+\cdots+X_n)=DX_1+\cdots+DX_n$
  2. $DX=0\iff P(X=EX)=1$(方差为 0 ⟺ 以概率 1 取常数)

切比雪夫不等式

定理4.2.1:$EX=\mu$,$DX=\sigma^2$,则对任意 $\varepsilon>0$:

$$P(|X-\mu|\ge\varepsilon)\le\frac{\sigma^2}{\varepsilon^2}\qquad\text{等价地}\qquad P(|X-\mu|<\varepsilon)\ge1-\frac{\sigma^2}{\varepsilon^2}$$

价值:分布未知、只知道期望方差,也能估计概率的界。证明一行:把 $P(|X-\mu|\ge\varepsilon)=\int_{|x-\mu|\ge\varepsilon}f,\mathrm dx\le\int\frac{(x-\mu)^2}{\varepsilon^2}f,\mathrm dx=\frac{\sigma^2}{\varepsilon^2}$。它还是第 5 章大数定律的证明工具。

常见分布的方差(速查)

分布$D(X)$分布$D(X)$
0-1$p(1-p)$均匀 $U(a,b)$$\frac{(b-a)^2}{12}$
二项 $B(n,p)$$np(1-p)$指数 $E(\lambda)$$\frac1{\lambda^2}$
泊松 $P(\lambda)$$\lambda$(=期望!)正态 $N(\mu,\sigma^2)$$\sigma^2$
几何 $G(p)$$\frac{1-p}{p^2}$$\Gamma(r,\lambda)$$\frac r{\lambda^2}$

4.3 协方差与相关系数

协方差

定义4.3.1:

$$\mathrm{Cov}(X,Y)=E[(X-EX)(Y-EY)]=E(XY)-EX\cdot EY$$

(第二个等式是实际计算用的。)

性质:$\mathrm{Cov}(X,X)=DX$;对称;$\mathrm{Cov}(aX,bY)=ab,\mathrm{Cov}(X,Y)$;$\mathrm{Cov}(X+Y,Z)=\mathrm{Cov}(X,Z)+\mathrm{Cov}(Y,Z)$;独立 $\Rightarrow\mathrm{Cov}=0$。

相关系数

定义4.3.2($DX,DY>0$):

$$\rho_{XY}=\frac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}$$

本质是标准化后变量的协方差:$\rho_{XY}=\mathrm{Cov}\big(\frac{X-EX}{\sqrt{DX}},\frac{Y-EY}{\sqrt{DY}}\big)$——消除了量纲和数值大小的影响。

两条核心性质 :

  1. $|\rho_{XY}|\le1$
  2. $|\rho_{XY}|=1\iff P(Y=aX+b)=1$(以概率 1 线性相关):$\rho=1$ 时 $a>0$ 完全正相关;$\rho=-1$ 时 $a<0$ 完全负相关

例:掷 $n$ 次硬币,正面数 $X$ 与反面数 $Y=n-X$,$\rho=-1$。

例4.3.3 二维正态:$(X,Y)\sim N(\mu_1,\mu_2,\sigma_1^2,\sigma_2^2,\rho)$ 的相关系数 $\rho_{XY}$ 恰好就是参数 $\rho$($\mathrm{Cov}(X,Y)=\sigma_1\sigma_2\rho$)。

不相关

定义4.3.3:$\rho_{XY}=0$ 称 $X,Y$ 不相关。六个等价命题:

$$\text{不相关}\iff\mathrm{Cov}=0\iff E(XY)=EX\cdot EY\iff D(X+Y)=DX+DY\iff D(X-Y)=DX+DY\iff D(X-Y)=D(X+Y)$$

最重要的辨析 :

  • 独立 ⇒ 不相关;不相关 ⇏ 独立
  • 不相关只是没有线性关系,可能有非线性关系(如 $X$ 与 $X^2$、$X$ 与 $|X|$)
  • 唯一例外:二维正态分布下”独立 ⟺ 不相关”

4.4 矩与协方差矩阵

定义4.4.1:

  • $k$ 阶原点矩 $EX^k$;$k$ 阶绝对原点矩 $E|X|^k$
  • $k$ 阶中心矩 $E(X-EX)^k$;绝对中心矩 $E|X-EX|^k$

期望是一阶原点矩,方差是二阶中心矩,协方差是 $k+l$ 阶混合中心矩 $E[(X-EX)^k(Y-EY)^l]$($k=l=1$)的特例。$k$ 阶矩存在 ⇒ 所有低阶矩都存在。

例4.4.1 标准正态的各阶矩(结论背下来):

$$E(X^k)=\begin{cases}0,&k\ \text{奇数}\ (k-1)!!,&k\ \text{偶数}\end{cases}\qquad((k-1)!!\ \text{为双阶乘})$$

定义4.4.3(协方差矩阵):$n$ 维随机变量的

$$\mathrm{Cov}(X)=\big(\mathrm{Cov}(X_i,X_j)\big)_{n\times n}$$

必为对称矩阵,且半正定。

5.1 大数定律

依概率收敛

定义5.1.2:若对任意 $\varepsilon>0$,$\lim\limits_{n\to\infty}P(|X_n-X|\ge\varepsilon)=0$,记 $X_n\xrightarrow{P}X$。性质:四则与连续函数都保持依概率收敛($g$ 连续时 $g(X_n)\xrightarrow{P}g(X)$)。

定义5.1.3(大数定律):存在常数列 $a_n$ 使

$$\lim_{n\to\infty}P\left(\left|\frac1n\sum_{i=1}^nX_i-a_n\right|\ge\varepsilon\right)=0$$

则称 ${X_n}$ 服从大数定律。

四大定律(条件对比是考点)

定律条件结论
切比雪夫独立 + 方差有公共上界 $DX_i\le C$$\frac1n\sum X_i\xrightarrow{P}\frac1n\sum EX_i$(证明用切比雪夫不等式,界 $\frac{C}{n\varepsilon^2}\to0$)
马尔可夫马尔可夫条件 $\frac1{n^2}D(\sum_{i=1}^nX_i)\to0$同上(不要求独立,更弱更一般)
伯努利$n$ 重伯努利试验,$n_A$ 为 $A$ 发生次数$\frac{n_A}n\xrightarrow{P}p$(频率稳定性的严格证明,用频率估计概率的依据)
辛钦独立同分布,只需 $EX_1=\mu$ 存在(不要求方差存在)$\frac1n\sum X_i\xrightarrow{P}\mu$

辛钦大数定律的推广(数理统计的理论基础):若 $E|X_1|^k$ 存在,则

$$\frac1n\sum_{i=1}^nX_i^k\xrightarrow{P}EX_1^k$$

——样本矩依概率收敛于总体矩,这就是第 7 章矩估计法的理论依据。

5.2 中心极限定理

一般提法

研究独立随机变量之和什么时候近似正态。令标准化和

$$Y_n=\frac{\sum_{k=1}^nX_k-\sum_{k=1}^nEX_k}{\sqrt{\sum_{k=1}^nDX_k}}$$

若 $Y_n$ 的分布函数趋于 $\Phi(x)$,则称 ${X_n}$ 服从中心极限定理。

三大中心极限定理

① 林德伯格–莱维(独立同分布 CLT):$X_n$ 独立同分布,$EX_n=\mu$,$DX_n=\sigma^2>0$:

$$\frac{\sum_{k=1}^nX_k-n\mu}{\sqrt n,\sigma}\xrightarrow{\text{分布}}N(0,1),\qquad \sum_{k=1}^nX_k\ \stackrel{\cdot}{\sim}\ N(n\mu,\ n\sigma^2)$$

实用式:$P\big(\sum_{k=1}^nX_k\le x\big)\approx\Phi\Big(\dfrac{x-n\mu}{\sqrt n\sigma}\Big)$。不必管原来是什么分布!

② 棣莫弗–拉普拉斯(二项分布的正态近似,历史上第一个 CLT):$n_A\sim B(n,p)$:

$$\frac{n_A-np}{\sqrt{np(1-p)}}\xrightarrow{\text{分布}}N(0,1),\qquad n\ \text{大时}\ n_A\ \stackrel{\cdot}{\sim}\ N\big(np,\ np(1-p)\big)$$

$$P(k_1\le n_A\le k_2)\approx\Phi\Big(\frac{k_2-np}{\sqrt{np(1-p)}}\Big)-\Phi\Big(\frac{k_1-np}{\sqrt{np(1-p)}}\Big)$$

③ 李雅普诺夫(独立不同分布 CLT):$X_k$ 独立,$EX_k=\mu_k$,$DX_k=\sigma_k^2$,$B_n^2=\sum\sigma_k^2$,若李雅普诺夫条件成立(存在 $\delta>0$):

$$\frac{1}{B_n^{2+\delta}}\sum_{k=1}^nE|X_k-\mu_k|^{2+\delta}\to0$$

则 $\sum X_k\ \stackrel{\cdot}{\sim}\ N(\sum\mu_k,\ B_n^2)$。核心意义:不管各个变量服从什么分布,和近似正态——这就是正态分布地位重要的根本原因。

应用套路(考试万能模板)

识别”独立随机变量之和” → 求 $E$ 和 $D$ → 标准化 $\frac{\sum X_k-\sum EX_k}{\sqrt{\sum DX_k}}$ → 用 $\Phi$ 近似 → 反解未知量。

【教材例5.2.1 装车】 每箱重 $\mu=50$kg、$\sigma=5$kg,载重 5 吨:$P(U_n\le5000)\approx\Phi\big(\frac{1000-10n}{\sqrt n}\big)\ge0.977=\Phi(2)$ → $n\le98.02$,最多装 98 箱。

【教材例5.2.3 试卷】 99 题答对概率 $1-\frac i{100}$:$E=49.5$,$B_{99}^2=16.665$,答对 ≥60 题概率 $\approx1-\Phi(2.57)=0.005$——通过的可能性仅千分之五。

6.1 总体与样本

总体:研究对象的全体;抛掉实际背景,总体就是一个概率分布(用一个随机变量 $X$ 代表),个体的取值就是 $X$ 的可能值。样本:从总体随机抽取的 $n$ 个个体 $X_1,\cdots,X_n$;观测后的具体数值 $(x_1,\cdots,x_n)$ 为样本观测值。

样本的二重性:抽取前是随机变量,观测后是确定数值。

简单随机样本:满足①独立性($X_1,\cdots,X_n$ 相互独立)②代表性(每个 $X_i$ 与总体同分布)。有限总体要放回抽样;$N$ 很大且 $n\ll N$ 时不放回可近似看作放回。

样本的联合分布(最大似然估计的基础):

$$F(x_1,\cdots,x_n)=\prod_{i=1}^nF(x_i),\qquad f(x_1,\cdots,x_n)=\prod_{i=1}^nf(x_i)$$

一句话理解:独立同分布样本 = 把总体分布”复印 n 份”。

6.2 统计量

定义6.2.1:样本的函数 $T=T(X_1,\cdots,X_n)$ 不含任何未知参数,称为统计量;其分布称为抽样分布。

注意 :统计量本身不含未知参数,但它的分布可以含(如 $\overline X\sim N(\mu,\sigma^2/n)$);另外还有枢轴量——只含一个未知参数但分布完全已知(如 $\frac{\overline X-\mu}{\sigma_0/\sqrt n}$),它不是统计量,是区间估计的工具。

七种样本矩:

统计量公式
样本均值$\overline X=\dfrac1n\sum X_i$
(未修正)样本方差$S_n^2=\dfrac1n\sum(X_i-\overline X)^2$
(修正)样本方差$S^2=\dfrac{1}{n-1}\sum(X_i-\overline X)^2$
$k$ 阶原点矩$A_k=\dfrac1n\sum X_i^k$
$k$ 阶中心矩$B_k=\dfrac1n\sum(X_i-\overline X)^k$

另有顺序统计量 $X_{(1)}\le\cdots\le X_{(n)}$(次序统计量),样本极差 $X_{(n)}-X_{(1)}$。

为什么分母是 $n-1$? 因为只有 $S^2$ 才是 $\sigma^2$ 的无偏估计($ES^2=\sigma^2$,而 $ES_n^2=\frac{n-1}n\sigma^2$)——第 7 章展开。

核心性质(性质6.2.4):总体 $E X=\mu$,$DX=\sigma^2$,则

$$E\overline X=\mu,\qquad D\overline X=\frac{\sigma^2}n,\qquad ES^2=\sigma^2$$

计算技巧:$S_n^2=\dfrac1n\sum X_i^2-\overline X^2$;$\dfrac1{n(n-1)}\sum_{i<j}(X_i-X_j)^2=S^2$。

6.3 抽样分布

分位数

上侧 $\alpha$ 分位数:$P(X>F_\alpha)=\alpha$,即 $F(F_\alpha)=1-\alpha$。常用关系:$P(F_{1-\alpha/2}<X\le F_{\alpha/2})=1-\alpha$。对称分布(正态、$t$)还有双侧分位数 $P(|X|>F_{\alpha/2})=\alpha$;$\chi^2$、$F$ 非对称,没有双侧分位数。

三大抽样分布(都以标准正态为基石)

① $\chi^2$ 分布:$X_1,\cdots,X_n$ 独立同 $N(0,1)$,则

$$\chi^2=\sum_{i=1}^nX_i^2\ \sim\ \chi^2(n)$$

  • 自由度 $n$:$n$ 个可独立取值的变量的平方和(也可理解为二次型的秩)
  • $E\chi^2=n$,$D\chi^2=2n$
  • 可加性:$X\sim\chi^2(n)$,$Y\sim\chi^2(m)$ 独立 $\Rightarrow X+Y\sim\chi^2(n+m)$
  • $n$ 大时 $\chi^2\ \stackrel{\cdot}{\sim}\ N(n,2n)$

② $t$ 分布:$X\sim N(0,1)$,$Y\sim\chi^2(n)$ 独立:

$$T=\frac{X}{\sqrt{Y/n}}\ \sim\ t(n)$$

Gosset 以 “Student” 笔名发表(学生氏分布),小样本推断的开山之作。性质:关于 $y$ 轴对称(有双侧分位数,$t_\alpha(n)=-t_{1-\alpha}(n)$);尾部比标准正态厚;$n\to\infty$ 时趋于 $N(0,1)$。

③ $F$ 分布:$X\sim\chi^2(m)$,$Y\sim\chi^2(n)$ 独立:

$$F=\frac{X/m}{Y/n}\ \sim\ F(m,n)$$

  • 倒数性质:$1/F\sim F(n,m)$
  • $T\sim t(n)\Rightarrow T^2\sim F(1,n)$
  • 分位数倒数公式(查表必备):$F_{1-\alpha}(m,n)=\dfrac{1}{F_\alpha(n,m)}$——注意自由度要换序!

正态总体的抽样分布定理(统计推断的心脏)

定理6.3.1(费希尔定理):$X\sim N(\mu,\sigma^2)$,样本均值 $\overline X$、样本方差 $S^2$:

  1. $\overline X\sim N\big(\mu,\ \dfrac{\sigma^2}n\big)$
  2. $\dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)$(自由度 $n-1$!)
  3. $\overline X$ 与 $S^2$ 相互独立(正态总体特有)

定理6.3.2(单正态总体):

$$U=\frac{\overline X-\mu}{\sigma/\sqrt n}\sim N(0,1)\quad(\sigma\ \text{已知});\qquad T=\frac{\overline X-\mu}{S/\sqrt n}\sim t(n-1)\quad(\sigma\ \text{未知})$$

定理6.3.3(两正态总体,$X\sim N(\mu_1,\sigma_1^2)$、$Y\sim N(\mu_2,\sigma_2^2)$ 独立,样本容量 $n,m$):

  1. $\dfrac{(\overline X-\overline Y)-(\mu_1-\mu_2)}{\sqrt{\frac{\sigma_1^2}n+\frac{\sigma_2^2}m}}\sim N(0,1)$
  2. $\dfrac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2}\sim F(n-1,,m-1)$
  3. $\sigma_1^2=\sigma_2^2$ 时:$\dfrac{(\overline X-\overline Y)-(\mu_1-\mu_2)}{\sqrt{\dfrac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}\sqrt{\dfrac1n+\dfrac1m}}\sim t(n+m-2)$

记忆要点:$n$ 配 $S_1^2$、$m$ 配 $S_2^2$;等方差时的合并方差 $=\frac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}$;$t$ 的自由度 $n+m-2$。

7.1 点估计的概念与评价标准

点估计:用统计量 $\hat\theta(X_1,\cdots,X_n)$ 估计未知参数 $\theta$;观测后的具体值为估计值。同一参数可以有很多种估计(如 $\overline X$、$X_1$、$\frac12(X_{(1)}+X_{(n)})$),所以要立评价标准。

无偏性

定义7.1.3:$E_\theta(\hat\theta)=\theta$ 对一切 $\theta\in\Theta$ 成立 → 无偏估计(无系统误差)。

  • $\hat\theta$ 无偏 $\Rightarrow\hat\theta^2$ 一般不再无偏($E\hat\theta^2=\theta^2+D\hat\theta$);函数传递只对线性成立
  • $S^2$ 是 $\sigma^2$ 的无偏估计;$S_n^2$ 是渐近无偏
  • 0-1 总体:$\overline X$ 是 $p$ 的无偏估计;$\frac{n\overline X(1-\overline X)}{n-1}$ 与 $S^2$ 是 $p(1-p)$ 的无偏估计
  • 无偏估计可能不唯一($P(\lambda)$:$\overline X$、$S^2$ 及其任意凸组合都无偏),也可能不存在($B(1,p)$ 中 $1/p$ 无偏估计不存在)
  • 小样本别迷信无偏性:存在”荒谬的”无偏估计(偶取 1 奇取 −1 估 $e^{-2\lambda}$)

有效性

定义7.1.4:两个无偏估计 $\hat\theta_1,\hat\theta_2$,若 $D\hat\theta_1\le D\hat\theta_2$(至少一处严格),则 $\hat\theta_1$ 更有效。

  • 一切凸组合 $\sum k_iX_i$($\sum k_i=1$)中 $\overline X$ 方差最小(柯西不等式)
  • $U(0,\theta)$:$\frac{n+1}nX_{(n)}$ 与 $(n+1)X_{(1)}$ 都无偏,前者方差 $\frac{\theta^2}{n(n+2)}<$ 后者 $\frac{2(n+1)\theta^2}{n+2}$,前者更有效

相合性(一致性)

定义7.1.5:$\hat\theta_n\xrightarrow{P}\theta$(依概率收敛)→ 相合估计。大样本下的最基本要求。

  • 验证套路:无偏 + 方差 $\to0$,用切比雪夫不等式收尾
  • 定理7.1.1:$E\theta_n\to\theta$ 且 $D\theta_n\to0$ ⇒ 相合
  • 定理7.1.2:$\theta_n$ 相合、$g$ 连续 ⇒ $g(\theta_n)$ 相合

7.2 参数的点估计

矩估计法(Pearson, 1894)

思想:用样本矩替换总体矩(依据:辛钦大数定律,样本矩依概率收敛于总体矩)。

步骤:① 算总体矩 $\mu_k=EX^k$(含参数);② 把参数用矩表示 $\theta_j=\theta_j(\mu_1,\cdots,\mu_k)$;③ 用 $A_k=\frac1n\sum X_i^k$ 替换 $\mu_k$。

万能结论:$\hat\mu=\overline X$,$\hat\sigma^2=S_n^2=\dfrac1n\sum X_i^2-\overline X^2$(矩估计里的”样本方差”是除以 n 的!)。

注意 :

  • 矩估计不需要知道分布类型,但可能不唯一(用不同矩得到不同估计,如 $E(\lambda)$ 可得 $\hat\lambda=1/\overline X$ 或 $1/S_n$)
  • 矩估计可能不存在(柯西分布无期望)
  • 矩估计与参数空间无关,估计值可能跑到参数空间外面($\hat p=3/7\notin[1/2,2/3]$),只有大样本下才合理
  • $g$ 连续时 $g(\hat\theta)$ 是 $g(\theta)$ 的矩估计

最大似然估计法(MLE)

思想(最大似然原理):已经观测到的样本出现的概率应该最大——“谁最像,就猜谁”。

步骤 :

  1. 写似然函数:离散 $L(\theta)=\prod p(x_i;\theta)$;连续 $L(\theta)=\prod f(x_i;\theta)$
  2. 取对数 $\ln L(\theta)$(连乘变连加)
  3. 解对数似然方程 $\dfrac{\mathrm d\ln L}{\mathrm d\theta}=0$(多参数时偏导方程组)
  4. 检验是不是最大值点;若 $L$ 关于 $\theta$ 单调,则直接按定义取边界值

经典例题:

  • $U[0,\theta]$:$L=(1/\theta)^n$ 关于 $\theta$ 递减 → $\hat\theta=X_{(n)}$(单调时直接取边界,导数法失效!)
  • $U[\theta,\theta+1]$:MLE 不唯一——$\hat\theta=kX_{(1)}+(1-k)(X_{(n)}-1)$,任意 $k\in[0,1]$
  • 估计湖中鱼数:$r$ 条作记号再钓 $s$ 条发现 $x$ 条有记号,$\hat N=\big[\frac{rs}x\big]$
  • 两参数指数分布:$\hat\mu=X_{(1)}$($L$ 关于 $\mu$ 单调增),$\hat\theta=\overline X-X_{(1)}$

MLE 三大注意:① 可能不唯一甚至无穷多;② 可能没有显式解(超越方程需数值求解);③ 驻点不一定是极值点,解完要检验。

7.3 区间估计

置信区间

定义7.3.1:统计量 $\hat\theta_L,\hat\theta_U$ 使

$$P(\hat\theta_L<\theta<\hat\theta_U)=1-\alpha$$

则 $(\hat\theta_L,\hat\theta_U)$ 为置信水平(置信度)$1-\alpha$ 的置信区间;$\alpha$ 称显著性水平。

正确解读(必考易错) :$\theta$ 是常数不是随机变量!不能说”$\theta$ 落入区间的概率是 $1-\alpha$“,而应说”随机区间以 $1-\alpha$ 的概率盖住真值”——反复抽样 100 次,大约 $100(1-\alpha)$ 个区间盖住真值。

可靠度 vs 精度:置信度越高区间越长。样本容量固定时二者矛盾,先保证置信度再谈精度;增大 $n$ 才能两全。

枢轴量法四步:① 取 $\theta$ 的点估计 $T$;② 构造分布已知的 $G(T,\theta)$(枢轴量);③ 取 $c_1,c_2$ 使 $P(c_1<G<c_2)=1-\alpha$;④ 不等式变形解出 $\theta$ 的范围。

正态总体置信区间总表(必背)

待估参数条件枢轴量分布置信区间
$\mu$$\sigma_0^2$ 已知$N(0,1)$$\Big(\overline X\pm\dfrac{\sigma_0}{\sqrt n}u_{\alpha/2}\Big)$
$\mu$$\sigma^2$ 未知$t(n-1)$$\Big(\overline X\pm\dfrac{S}{\sqrt n}t_{\alpha/2}(n-1)\Big)$
$\mu_1-\mu_2$两方差已知$N(0,1)$$\Big(\overline X-\overline Y\pm\sqrt{\dfrac{\sigma_1^2}n+\dfrac{\sigma_2^2}m},u_{\alpha/2}\Big)$
$\mu_1-\mu_2$等方差未知$t(n+m-2)$$\Big(\overline X-\overline Y\pm\sqrt{\dfrac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}\sqrt{\dfrac1n+\dfrac1m};t_{\alpha/2}(n+m-2)\Big)$
$\sigma^2$$\mu$ 未知$\chi^2(n-1)$$\Big(\dfrac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)},\ \dfrac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}\Big)$
$\sigma^2$$\mu_0$ 已知$\chi^2(n)$$\Big(\dfrac{\sum(X_i-\mu_0)^2}{\chi^2_{\alpha/2}(n)},\ \dfrac{\sum(X_i-\mu_0)^2}{\chi^2_{1-\alpha/2}(n)}\Big)$
$\sigma_1^2/\sigma_2^2$均值未知$F(n-1,m-1)$$\Big(\dfrac{S_1^2}{S_2^2F_{\alpha/2}(n-1,m-1)},\ \dfrac{S_1^2}{S_2^2F_{1-\alpha/2}(n-1,m-1)}\Big)$

区间解读:$\mu_1-\mu_2$ 的区间下限 $>0$ ⇒ $\mu_1>\mu_2$;上限 $<0$ ⇒ $\mu_1<\mu_2$;含 0 ⇒ 差异不显著。$\sigma_1^2/\sigma_2^2$ 的区间以 1 为界同理。

实用结论:

  • $\sigma^2$ 已知时若用 $\sigma^2$ 未知的公式($t$ 区间)虽不算错但被视为”错误”——没用上已知信息,精度变差
  • 非正态大样本:$n$ 充分大时 $\mu$ 的近似置信区间 $\Big(\overline X\pm\dfrac S{\sqrt n}u_{\alpha/2}\Big)$(中心极限定理)
  • 比率 $p$ 的大样本区间:$\Big(\overline X\pm\sqrt{\dfrac{\overline X(1-\overline X)}{n}},u_{\alpha/2}\Big)$(支持率、收视率问题)

8.1 假设检验的基本概念和方法

基本概念

  • 原假设 $H_0$ 与备择假设 $H_1$:$H_0$ 是”不应轻易否定”的保守假设(厂家信誉良好则 $H_0$=“产品合格”;新药试验则 $H_0$=“新药不优于旧药”),只有样本提供足够不利的证据才拒绝它。
  • 拒绝域 $W$:使 $H_0$ 被拒绝的样本观测值区域;补集为接受域。
  • 小概率原理:小概率事件在一次试验中几乎不发生。假设检验 = 小概率原理 + 概率反证法:先假定 $H_0$ 真,若导致小概率事件竟然发生,就有理由拒绝 $H_0$。

假设检验四步骤

  1. 建立假设:$H_0:\mu=\mu_0\leftrightarrow H_1:\mu\ne\mu_0$
  2. 选检验统计量($H_0$ 真时分布已知),给拒绝域形式
  3. 由显著性水平 $\alpha$($P(\text{拒绝}H_0\mid H_0\text{真})\le\alpha$)定临界值、确定拒绝域
  4. 计算统计量观测值:落入 $W$ 则拒绝 $H_0$,否则接受

【教材例8.1.1 灯泡】 $X\sim N(1800,100^2)$,$n=25$,$\overline x=1730$:$|u|=\big|\frac5{100}(1730-1800)\big|=3.5>1.96=u_{0.025}$ → 拒绝”$\mu=1800$”。(点估计答不了这题:$P(\overline X=1800)=0$。)

两类错误

真实情况 $H_0$ 真真实情况 $H_1$ 真
拒绝 $H_0$第一类错误(弃真),概率 $\le\alpha$判断正确
接受 $H_0$判断正确第二类错误(取伪),概率 $\beta$
  • $n$ 固定时 $\alpha$ 与 $\beta$ 此消彼长,不能同时减小;一般 $\alpha+\beta\ne1$
  • $\alpha=0.05$ 下拒绝称”显著”;$\alpha=0.01$ 下拒绝称”高度显著”
  • 后果严重的场合(药品毒副作用、飞机部件)$\alpha$ 要取小
  • 典型计算:拒绝域 ${\overline x\ge c}$ 检验 $H_0:\mu=\mu_0\leftrightarrow H_1:\mu=\mu_1$ 时 $\alpha=1-\Phi\big(\frac{\sqrt n(c-\mu_0)}{\sigma_0}\big)$,$\beta=\Phi\big(\frac{\sqrt n(c-\mu_1)}{\sigma_0}\big)$

8.2 正态总体均值的假设检验

U 检验法(σ 已知,统计量 ~ N(0,1))

单总体双侧:$X\sim N(\mu,\sigma_0^2)$,$\sigma_0^2$ 已知,

$$H_0:\mu=\mu_0\leftrightarrow H_1:\mu\ne\mu_0,\qquad U=\frac{\sqrt n(\overline X-\mu_0)}{\sigma_0}\sim N(0,1),\qquad \text{拒绝域 }|u|\ge u_{\alpha/2}$$

单侧检验(拒绝域方向与 $H_1$ 一致):

  • 左侧 $H_1:\mu<\mu_0$:拒绝域 $u\le u_{1-\alpha}=-u_\alpha$
  • 右侧 $H_1:\mu>\mu_0$:拒绝域 $u\ge u_\alpha$
  • $H_0$ 写成 $\mu\ge\mu_0$(或 $\le$)时结论不变,弃真概率仍 $\le\alpha$

两总体(方差已知):$U=\dfrac{\overline X-\overline Y}{\sqrt{\sigma_1^2/n+\sigma_2^2/m}}\sim N(0,1)$,双侧拒绝域 $|u|\ge u_{\alpha/2}$。

【教材例8.2.1 纽扣】 $\mu_0=26$,$\sigma_0^2=5.2$,$n=100$,$\overline x=26.56$:$|u|=2.46$:$\alpha=0.05$ 拒绝($>1.96$),$\alpha=0.01$ 接受($<2.58$)——不同显著性水平可能得出相反结论。

【教材例8.2.3 跨栏 → 单侧更敏锐】 双侧检验 $u=1.849<1.96$ 不显著;改单侧 $H_1:\mu_1>\mu_2$ 后 $u=1.849>1.645=u_{0.05}$ 显著——单侧检验利用了数据的信息。

T 检验法(σ 未知,统计量 ~ t(n−1))

单总体双侧:

$$T=\frac{\sqrt n(\overline X-\mu_0)}{S}\sim t(n-1),\qquad \text{拒绝域 }|t|\ge t_{\alpha/2}(n-1)$$

单侧:左侧拒绝域 $t\le-t_\alpha(n-1)$;右侧拒绝域 $t\ge t_\alpha(n-1)$。

【教材例8.2.5 白糖净重】 $n=9$,$\overline x=499.412$,$s=0.676$:$|t|=2.609>t_{0.025}(8)=2.306$ → 拒绝,净重不合标准;单侧 $t=-2.609<-t_{0.05}(8)=-1.86$ → 净重不足。

重要规律 :因为 $t_\alpha(n)<t_{\alpha/2}(n)$,双侧检验显著 ⇒ 单侧检验必显著;反之不一定。

【教材例8.2.6 原假设提法的影响】 厂家断言 $\mu\le0.8$($t=1.5$):

  • 设 $H_0:\mu\le0.8$:拒绝域 $t\ge1.753$,不拒绝 → 不能否定厂家
  • 设 $H_0:\mu>0.8$:拒绝域 $t\le-1.753$,不拒绝 → 否定厂家

提法不同、着眼点不同,结论可以截然相反——数据的偏向不决定性时,立场会影响结论。

两总体均值的 T 检验(等方差未知)

先用 F 检验验证方差齐性,再用

$$T=\frac{\overline X-\overline Y}{\sqrt{\dfrac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}}\sqrt{\dfrac1n+\dfrac1m}}\sim t(n+m-2),\qquad \text{拒绝域 }|t|\ge t_{\alpha/2}(n+m-2)$$

【教材例8.3.3 安眠药(完整流程示范)】 甲乙两组各 10 人:先 F 检验 $\frac{s_1^2}{s_2^2}=1.25\in\big(\frac1{4.03},4.03\big)$ 方差齐;再 T 检验 $|t|=1.86<t_{0.025}(18)=2.10$ → 两药疗效无显著差异。

8.3 正态总体方差的假设检验

χ² 检验法(单个总体)

条件统计量($H_0$ 真时)双侧拒绝域
$\mu_0$ 已知$\chi^2=\dfrac1{\sigma_0^2}\sum(x_i-\mu_0)^2\sim\chi^2(n)$$\chi^2\ge\chi^2_{\alpha/2}(n)$ 或 $\chi^2\le\chi^2_{1-\alpha/2}(n)$
$\mu$ 未知$\chi^2=\dfrac{(n-1)S^2}{\sigma_0^2}\sim\chi^2(n-1)$$\chi^2\ge\chi^2_{\alpha/2}(n-1)$ 或 $\chi^2\le\chi^2_{1-\alpha/2}(n-1)$

单侧(右):$H_0:\sigma^2\le\sigma_0^2\leftrightarrow H_1:\sigma^2>\sigma_0^2$,用 $\chi_0^2=\frac{(n-1)S^2}{\sigma_0^2}$,拒绝域 $\chi_0^2\ge\chi^2_\alpha(n-1)$。

【教材例8.3.1 洗衣粉】 标准差要求 ≤15g,$n=10$,$s^2=30.23^2$:$\chi_0^2=\frac{9\times30.23^2}{15^2}=36.55>16.919=\chi^2_{0.05}(9)$ → 拒绝,包装机不正常(方差已超标,均值不用再验)。

F 检验法(两个总体)

$$H_0:\sigma_1^2=\sigma_2^2\leftrightarrow H_1:\sigma_1^2\ne\sigma_2^2,\qquad F=\frac{S_1^2}{S_2^2}\ \overset{H_0}{\sim}\ F(n-1,m-1)$$

拒绝域:$\dfrac{s_1^2}{s_2^2}\ge F_{\alpha/2}(n-1,m-1)$ 或 $\dfrac{s_1^2}{s_2^2}\le F_{1-\alpha/2}(n-1,m-1)$(后者用 $F_{1-\alpha/2}(n-1,m-1)=\frac1{F_{\alpha/2}(m-1,n-1)}$ 查表)。

p 值

定义:利用样本值能够拒绝 $H_0$ 的最小显著性水平。

判断规则:$\alpha\ge p$ → 拒绝 $H_0$;$\alpha<p$ → 接受 $H_0$。

【教材例8.3.4】 $X\sim N(\mu,9)$,$n=10$,$\overline x=12$,$H_0:\mu=10$:$|u|=2.11$,$p=P(|U|\ge2.11)=2[1-\Phi(2.11)]=0.0348$——把 $\alpha$ 降到 0.0348 仍然拒绝。统计软件输出的都是 p 值。

假设检验与区间估计的关系

  • 联系:同一枢轴量,方差未知时 $\mu$ 的双侧检验接受域 = 置信区间盖住 $\mu_0$;两者可互相导出
  • 区别:区间估计给出参数的估计范围,假设检验只回答”假设对不对”;检验的信息量不如区间估计确切 → 解读检验结果要小心,最好同时报告区间估计

附录:全书一页纸速查

常见分布一览(记号 / 分布律或密度 / 期望 / 方差):

分布分布律或密度$E(X)$$D(X)$
0-1$P(X=1)=p$$p$$p(1-p)$
二项 $B(n,p)$$\binom nkp^kq^{n-k}$$np$$np(1-p)$
泊松 $P(\lambda)$$\frac{\lambda^k}{k!}e^{-\lambda}$$\lambda$$\lambda$
几何 $G(p)$$q^{k-1}p$$\frac1p$$\frac{1-p}{p^2}$
超几何$\frac{\binom Nk\binom M{n-k}}{\binom{N+M}n}$————
均匀 $U(a,b)$$\frac1{b-a}$$\frac{a+b}2$$\frac{(b-a)^2}{12}$
指数 $E(\lambda)$$\lambda e^{-\lambda x}$$\frac1\lambda$$\frac1{\lambda^2}$
正态 $N(\mu,\sigma^2)$$\frac1{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$$\mu$$\sigma^2$

检验方法选择树:均值检验 → 方差已知用 U 检验 / 未知用 T 检验(两总体先做 F 检验验方差齐性);方差检验 → 单总体 χ² 检验 / 两总体 F 检验。

概率论 → 数理统计的桥梁:辛钦大数定律 ⇒ 矩估计的合理性;中心极限定理 ⇒ 大样本置信区间;伯努利大数定律 ⇒ 频率估计概率。

祝考试顺利!