！！！

misc

• $D(X)=E[X-E(X){]}^2=E(X^2)-[E(X){]}^2$

• 样本均值的方差：$D(\bar{X})=D\left(\frac{1}{n}{\sum }_{i=1}^n{X}_i\right)=\frac{1}{n^2}{\sum }_{i=1}^{n}D(X_i)=\frac{s^2}{n}$。

• $E(X^2)=Var(X)+[E(X){]}^2$

• $Cov(X,X)=D(X)$

• $Cov(X,Y)=E(XY)-E(X)E(Y)$

• $Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y)$

• 相关系数$\rho =\frac{Cov(X_1,X_2)}{\sqrt{Var(X_1)}\sqrt{Var(X_2)}}$

• $\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$

• 样本与均值的协方差：

  $\text{Cov}(X_i,\bar{X})=\frac{s^2}{n}$

• MSE $MSE(\hat{\theta },\theta )=E(\hat{\theta }-\theta {)}^2$ $MSE(\hat{\theta },\theta )=E(\hat{\theta }-E(\hat{\theta })+E(\hat{\theta })-\theta {)}^2=D(\hat{\theta })+(E(\hat{\theta })-\theta {)}^2$

• MSE（向量）

$$\begin{array}{rl}MSE(\hat{\theta },\theta )& =E(|\hat{\theta }-\theta {|}^2)=E((\hat{\theta }-\theta {)}^{\prime }(\hat{\theta }-\theta ))\\ & =trD(\hat{\theta })+|E(\hat{\theta })-\theta {|}^2\end{array}$$

• 无偏性 $E(\hat{\theta })=\theta$
• 拉普拉斯分布 $f(x|\mu ,b)=\frac{1}{2b}\exp \left(-\frac{|x-\mu |}{b}\right)$
  • 期望：$\mu$
  • 方差：$2b^2$

特征函数

特征函数的定义

设 $X$ 的分布函数为 $F(x)$ 称

$\varphi (t)=E\left(e^{itX}\right)={\int }_{-\infty }^{\infty }{e}^{itx}dF(x)=\{\begin{array}{l}{\sum }_{i=1}^{\infty }{e}^{it{x}_i}{p}_i\\ {\int }_{-\infty }^{\infty }{e}^{itx}f(x)d(x)\end{array}$

唯一性定理：分布函数由其特征函数唯一确定。

$\varphi (t)=\varphi (t_1,\cdots ,t_n)={\int }_{-\infty }^{\infty }\cdots {\int }_{-\infty }^{\infty }{e}^{i(t_1{x}_1+\cdots +t_n{x}_n)}dF(x_1,\cdots ,x_n)=E(e^{i{t}^{\prime }X})$

常见的几个分布的特征函数

二项分布 $X\sim B(n,p)$ 参数为 $n,p.$

X的分布律 $P\{X=k\}=C_n^k{p}^k{q}^{n-k}(k=0,1,2,\cdots ,n)$

$$\varphi (t)=(p{e}^{it}+q{)}^n$$

泊松分布: $X\sim P(\lambda )$ 参数为 $\lambda$

分布律 $\because P\{X=k\}=\frac{{\lambda }^k{e}^{-\lambda }}{k!}(k=0,1,2,\cdots )$

$$\varphi (t)=e^{\lambda (e^{it}-1)}$$

指数分布: $X\sim E(\lambda )$ 参数为 $\lambda$

密度函数 $f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x}& ,x>0\\ 0& ,x\le 0\end{array}\lambda >0$

$\varphi (t)=(1-\frac{it}{\lambda }{)}^{-1}$

设 r.v. $\eta =a\xi +ba,b$ 为常数

${\varphi }_{\eta }(t)=e^{itb}{\varphi }_{\xi }(at)$

正态分布: $X\sim N(0,1)$

特征函数 $\varphi (t)=e^{-\frac{1}{2}{t}^2}$

$X\sim N_n(\mu ,\Sigma )$, 则特征函数为 ${\varphi }_X(t)=E(\exp (i{t}^{\prime }X))=\exp \{-\frac{1}{2}{t}^{\prime }\Sigma t+i{t}^{\prime }\mu \}$

$Y=\mu +\sigma X\sim N(\mu ,{\sigma }^2),{\varphi }_Y(t)=e^{i\mu t-\frac{1}{2}{\sigma }^2{t}^2}$

卡方分布

$\varphi (t)=(1-2it{)}^{-\frac{n}{2}}$

特征函数的性质

1

$\varphi (0)=1$ $|\varphi (t)|\le \varphi (0)$ $\varphi (-t)=\overline{\varphi (t)}$ $|\varphi (t_1,\dots ,t_n)|\le \varphi (0,\dots ,0)=1$

2

如果 $\varphi (t_1,\cdots ,t_n)$ 是 $({\xi }_1,\cdots ,{\xi }_n)$ 的特征函数，则

$\eta =a_1{\xi }_1+\cdots +a_n{\xi }_n$ 的特征函数为

${\varphi }_{\eta }(t)={\varphi }_{\xi }(a_{1}t,\cdots ,a_{n}t)={\varphi }_{\xi }(ta)$

3

两个相互独立的随机变量的和特征函 数等于它们的特征函数之积．

4

如果混合矩 $E({\xi }_1^{k_1}\cdots {\xi }_n^{k_n})$ 存在，则

$E({\xi }_1^{k_1}\cdots {\xi }_n^{k_n})=i^{-{\sum }_{j=1}^n{k}_j}{\left[\frac{{\partial }^{k_1+\cdots +k_n}\varphi (t_1,\cdots ,t_n)}{\partial t_1^{k_1}\cdots \partial t_n^{k_n}}\right]}_{t_1=\cdots =t_n=0}$

5

设r.v. $\xi$的n阶矩存在，则它的特征函数n次可微，且有$(k\leqq n)$:

${\varphi }^{(k)}(0)=i^{k}E{\xi }^k$

假设检验

这份文档将 PPT 中的统计假设检验公式整理为结构化的 Markdown 笔记，按单正态总体和双正态总体分类，并区分均值检验与方差检验。

---

统计假设检验公式汇总

符号说明

• $n,n_1,n_2$: 样本容量
• $\bar{X},\bar{Y}$: 样本均值
• $S^2,S_1^2,S_2^2$: 样本方差
• ${\sigma }^2,{\sigma }_1^2,{\sigma }_2^2$: 总体方差
• $\alpha$: 显著性水平
• $U\sim N(0,1)$: 标准正态分布
• $T\sim t(df)$: t 分布
• ${\chi }^2\sim {\chi }^2(df)$: 卡方分布
• $F\sim F(d{f}_1,d{f}_2)$: F 分布

---

一、单正态总体检验

1. 关于均值 $\mu$ 的检验 ($Z$ 检验 & $t$ 检验)

(1) ${\sigma }^2$ 已知 ($Z$ 检验)

• 检验统计量: $U=\frac{\bar{X}-{\mu }_0}{\sigma /\sqrt{n}}\sim N(0,1)$

• 拒绝域:

  • 双侧 ($H_0:\mu ={\mu }_0,H_1:\mu \ne {\mu }_0$): $|U|\ge z_{\alpha /2}$
  • 左侧 ($H_0:\mu \ge {\mu }_0,H_1:\mu <{\mu }_0$): $U\le -z_{\alpha }$
  • 右侧 ($H_0:\mu \le {\mu }_0,H_1:\mu >{\mu }_0$): $U\ge z_{\alpha }$

(2) ${\sigma }^2$ 未知 ($t$ 检验)

• 检验统计量: $T=\frac{\bar{X}-{\mu }_0}{S/\sqrt{n}}\sim t(n-1)$

• 拒绝域:

  • 双侧 ($H_0:\mu ={\mu }_0,H_1:\mu \ne {\mu }_0$): $|T|\ge t_{\alpha /2}(n-1)$
  • 左侧 ($H_0:\mu \ge {\mu }_0,H_1:\mu <{\mu }_0$): $T\le -t_{\alpha }(n-1)$
  • 右侧 ($H_0:\mu \le {\mu }_0,H_1:\mu >{\mu }_0$): $T\ge t_{\alpha }(n-1)$

2. 关于方差 ${\sigma }^2$ 的检验 (${\chi }^2$ 检验)

(1) $\mu$ 已知

• 检验统计量: ${\chi }^2=\frac{{\sum }_{i=1}^n(X_i-\mu {)}^2}{{\sigma }_0^2}\sim {\chi }^2(n)$

• 拒绝域:

  • 双侧 ($H_1:{\sigma }^2\ne {\sigma }_0^2$): ${\chi }^2\le {\chi }_{1-\alpha /2}^2(n)$ 或 ${\chi }^2\ge {\chi }_{\alpha /2}^2(n)$
  • 左侧 ($H_1:{\sigma }^2<{\sigma }_0^2$): ${\chi }^2\le {\chi }_{1-\alpha }^2(n)$
  • 右侧 ($H_1:{\sigma }^2>{\sigma }_0^2$): ${\chi }^2\ge {\chi }_{\alpha }^2(n)$

(2) $\mu$ 未知

• 检验统计量: ${\chi }^2=\frac{(n-1)S^2}{{\sigma }_0^2}=\frac{{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}{{\sigma }_0^2}\sim {\chi }^2(n-1)$

• 拒绝域:

  • 双侧 ($H_1:{\sigma }^2\ne {\sigma }_0^2$): ${\chi }^2\le {\chi }_{1-\alpha /2}^2(n-1)$ 或 ${\chi }^2\ge {\chi }_{\alpha /2}^2(n-1)$
  • 左侧 ($H_1:{\sigma }^2<{\sigma }_0^2$): ${\chi }^2\le {\chi }_{1-\alpha }^2(n-1)$
  • 右侧 ($H_1:{\sigma }^2>{\sigma }_0^2$): ${\chi }^2\ge {\chi }_{\alpha }^2(n-1)$

---

二、双正态总体检验

1. 关于均值差 ${\mu }_1-{\mu }_2$ 及线性组合的检验

(1) ${\sigma }_1^2,{\sigma }_2^2$ 已知 ($Z$ 检验)

A. 均值差检验 (${\mu }_1-{\mu }_2$)

• 检验统计量: $U=\frac{\bar{X}-\bar{Y}}{\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}}\sim N(0,1)$

B. 线性组合检验 ($a{\mu }_1+b{\mu }_2+c$)

• 检验统计量: $U=\frac{a\bar{X}+b\bar{Y}+c}{\sqrt{\frac{a^2{\sigma }_1^2}{n_1}+\frac{b^2{\sigma }_2^2}{n_2}}}\sim N(0,1)$

• 拒绝域 (通用):

  • 双侧 ($\ne$): $|U|\ge z_{\alpha /2}$
  • 左侧 ($<$): $U\le -z_{\alpha }$
  • 右侧 ($>$): $U\ge z_{\alpha }$

(2) ${\sigma }_1^2,{\sigma }_2^2$ 未知但相等 (${\sigma }_1^2={\sigma }_2^2$) ($t$ 检验)

辅助变量 (联合样本方差 $S_w$): $S_w=\sqrt{\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}}$

A. 均值差检验 (${\mu }_1-{\mu }_2$)

• 检验统计量: $T=\frac{\bar{X}-\bar{Y}}{S_w\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}}\sim t(n_1+n_2-2)$

B. 线性组合检验 ($a{\mu }_1+b{\mu }_2+c$)

• 检验统计量: $T=\frac{a\bar{X}+b\bar{Y}+c}{S_w\sqrt{\frac{a^2}{n_1}+\frac{b^2}{n_2}}}\sim t(n_1+n_2-2)$

• 拒绝域 (通用):

  • 双侧 ($\ne$): $|T|\ge t_{\alpha /2}(n_1+n_2-2)$
  • 左侧 ($<$): $T\le -t_{\alpha }(n_1+n_2-2)$
  • 右侧 ($>$): $T\ge t_{\alpha }(n_1+n_2-2)$

---

2. 关于方差比 ${\sigma }_1^2/{\sigma }_2^2$ 的检验 ($F$ 检验)

(1) ${\mu }_1,{\mu }_2$ 均未知

• 检验统计量: $F=\frac{S_1^2}{S_2^2}\sim F(n_1-1,n_2-1)$

• 拒绝域:

  • 双侧 ($H_0:{\sigma }_1^2={\sigma }_2^2,H_1:{\sigma }_1^2\ne {\sigma }_2^2$): $F\le F_{1-\alpha /2}(n_1-1,n_2-1)$ 或 $F\ge F_{\alpha /2}(n_1-1,n_2-1)$
  • 左侧 ($H_0:{\sigma }_1^2\ge {\sigma }_2^2,H_1:{\sigma }_1^2<{\sigma }_2^2$): $F\le F_{1-\alpha }(n_1-1,n_2-1)$
  • 右侧 ($H_0:{\sigma }_1^2\le {\sigma }_2^2,H_1:{\sigma }_1^2>{\sigma }_2^2$): $F\ge F_{\alpha }(n_1-1,n_2-1)$

(2) ${\mu }_1,{\mu }_2$ 已知

• 检验统计量: $F=\frac{{\sum }_{i=1}^{n_1}(X_i-{\mu }_1{)}^2/n_1}{{\sum }_{i=1}^{n_2}(Y_i-{\mu }_2{)}^2/n_2}\sim F(n_1,n_2)$

• 拒绝域:

  • 双侧 ($\ne$): $F\le F_{1-\alpha /2}(n_1,n_2)$ 或 $F\ge F_{\alpha /2}(n_1,n_2)$
  • 左侧 ($<$): $F\le F_{1-\alpha }(n_1,n_2)$
  • 右侧 ($>$): $F\ge F_{\alpha }(n_1,n_2)$

线性回归

若记 $L_{xx}={\sum }_{i=1}^n(x_i-\bar{x}{)}^2={\sum }_{i=1}^n{x}_i^2-n{\bar{x}}^2$

$L_{xy}={\sum }_{i=1}^n(x_i-\bar{x})(y_i-\bar{y})={\sum }_{i=1}^n{x}_i{y}_i-n\bar{x}\bar{y}$

$L_{yy}={\sum }_{i=1}^n(y_i-\bar{y}{)}^2={\sum }_{i=1}^n{y}_i^2-n{\bar{y}}^2$

$\Rightarrow {\hat{\beta }}_1=L_{xy}/L_{xx},{\hat{\beta }}_0=\bar{y}-{\hat{\beta }}_1\bar{x}$

由 ${\hat{\beta }}_0=\bar{y}-{\hat{\beta }}_1\bar{x}\Rightarrow \bar{y}={\hat{\beta }}_0+{\hat{\beta }}_1\bar{x}$

${\hat{\sigma }}^2=\frac{Q_e}{n-2}$ $Q_e$就是后面的$S_{残}$

显著性检验

$S_{总}^2={\sum }_{i=1}^n(y_i-\bar{y}{)}^2={\sum }_{i=1}^n({\hat{y}}_i-\bar{y}{)}^2+{\sum }_{i=1}^n(y_i-{\hat{y}}_i{)}^2$

$S_{回}^2={\sum }_{i=1}^n({\hat{y}}_i-\bar{y}{)}^2$

$S_{残}^2={\sum }_{i=1}^n(y_i-{\hat{y}}_i{)}^2$

即 $S_{总}^2$ 可以分解为两部分：回归平方和 $S_{回}^2$ 与残差平方和 $S_{残}^2$ 。

$S_{总}^2=S_{回}^2+S_{残}^2$

检验假设 $H_0:{\beta }_1=0H_1:{\beta }_1\ne 0$

选取统计量 $F=\frac{(n-2)S_{\text{回}}^2}{S_{\text{残}}^2}\sim F(1,n-2)$

对给定的显著性水平 $\alpha (0<\alpha <1)$，$H_0$ 的拒绝域为

$F=\frac{(n-2)S_{\text{回}}^2}{S_{\text{残}}^2}>F_{\alpha }(1,n-2)$

t检验

r检验

区间预测

方差分析