概率论与数理统计

1. 概率论基本概念

随机试验

Note定义：随机试验

满足以下三个条件的试验称为随机试验，记为 \(E\)：

1. 可在相同条件下重复进行；
2. 试验的所有可能结果已知，且不止一个；
3. 每次试验前无法确定具体出现哪个结果。

每进行一次试验，必然出现且只能出现其中一个基本结果；任何事件都由若干基本结果组成。

样本空间与随机事件

Note定义：样本空间

随机试验 \(E\) 的所有可能结果组成的集合称为样本空间，记为 \(\Omega\)。\(\Omega\) 中的每个元素称为样本点，记为 \(\omega\)。

Note定义：随机事件

样本空间 \(\Omega\) 的子集称为随机事件，简称事件，常用大写字母 \(A, B, C\) 等表示。

事件按特殊性分为三类：

• 基本事件：由单个样本点组成的单点集 \(\{\omega\}\)。
• 必然事件：样本空间 \(\Omega\) 本身，每次试验必然发生。
• 不可能事件：空集 \(\emptyset\)，每次试验都不发生。

事件的关系与运算

关系／运算	记号	含义
包含	\(A \subset B\)	\(A\) 发生 \(\Rightarrow\) \(B\) 发生
相等	\(A = B\)	\(A \subset B\) 且 \(B \subset A\)
并	\(A \cup B\)	\(A\)、\(B\) 至少一个发生
交	\(A \cap B\)	\(A\)、\(B\) 同时发生
差	\(A \setminus B\)	\(A\) 发生且 \(B\) 不发生
互斥	\(A \cap B = \emptyset\)	\(A\)、\(B\) 不能同时发生
对立	\(\bar{A} = \Omega \setminus A\)	\(A \cup \bar{A}=\Omega\)，\(A \cap \bar{A}=\emptyset\)

\tikzset{
  every node/.style={font=\sffamily\normalsize},
  every path/.style={line width=1.5pt}
}
\begin{tikzpicture}
  \draw (0,0) rectangle (6,4);
  \node at (0,4) {$\Omega$};
  \draw (3,2) circle (1.8cm);
  \node at (3,2) {$B$};
  \draw (3,2) circle (0.9cm);
  \node at (3,2) {$A$};
\end{tikzpicture}

包含关系 \(A \subset B\)

\tikzset{
  every node/.style={font=\sffamily\normalsize},
  every path/.style={line width=1.5pt}
}
\begin{tikzpicture}
  \draw (0,0) rectangle (6,4);
  \node at (0,4) {$\Omega$};
  \draw (2,2) circle (1.2cm);
  \node at (2,2) {$A$};
  \draw (4,2) circle (1.2cm);
  \node at (4,2) {$B$};
\end{tikzpicture}

互斥 \(A \cap B = \emptyset\)

\tikzset{
  every node/.style={font=\sffamily\normalsize},
  every path/.style={line width=1.5pt}
}
\begin{tikzpicture}
  \draw (0,0) rectangle (6,4);
  \node at (0,4) {$\Omega$};
  \draw (3,2) circle (1.5cm);
  \node at (3,2) {$A$};
  \node at (5,3.2) {$\bar{A}$};
\end{tikzpicture}

对立事件 \(\bar{A} = \Omega \setminus A\)

运算性质

事件的运算满足以下基本定律：

定律	公式
交换律	\(A \cup B = B \cup A\)，\(A \cap B = B \cap A\)
结合律	\((A \cup B) \cup C = A \cup (B \cup C)\)
分配律	\(A \cap (B \cup C) = (A \cap B) \cup (A \cap C)\)
差化积	\(A \setminus B = A\bar{B} = A \setminus AB\)

Tip定理：德摩根律（对偶律）

对有限个或可列无穷多个事件 \(\{A_i\}\)，恒有： \[ \overline{\bigcup_{i=1}^{n} A_i} = \bigcap_{i=1}^{n} \bar{A}_i, \qquad \overline{\bigcap_{i=1}^{n} A_i} = \bigcup_{i=1}^{n} \bar{A}_i \]

2. 随机变量

随机变量 (Random Variable)

设随机试验的样本空间为 \(S=\{e\}\)，\(X=X(e)\) 是定义在 \(S\) 上的实值单值函数，称其为随机变量。

将复杂的试验结果映射为数字，方便数学处理。

随机变量的分布函数 (Distribution Function)

\(X\) 是随机变量，\(x\)是任意实数

\[F(x) = P\{X \le x\}\]

表示随机变量落入 \((-\infty, x]\) 区间的概率，称为\(X\)的分布函数(CDF累积分布)。

1. 单调性：是一个不减函数

2. 规范性：\(F(-\infty) = 0\)，\(F(+\infty) = 1\)

3. 右连续性：\(F(x+0) = F(x)\)

4. 区间概率计算： \[P\{x_1<X\le x_2\}=P\{X\le x_2\}-P\{X\le x_1\}=F(x_2)-F(x_1)\]

就比如著名Logistic distribution

离散型随机变量及其分布律

所有可能取的值为有限个或可列无穷多个的随机变量。

分布律/概率分布 (Probability Mass Function)： \[P\{X = x_k\} = p_k\]

\(X_1\)	\(x_1\)	\(x_2\)	\(\cdots\)	\(x_k\)	\(\cdots\)
\(p_k\)	\(p_1\)	\(p_2\)	\(\cdots\)	\(p_k\)	\(\cdots\)

需满足

1. 非负性：\(p_k \ge 0\)

2. 规范性：\(\sum p_k = 1\)

• 常见分布：
  • 0-1 分布（两点分布）：用于描述只有两种结果的试验（如抛硬币） 。
  • 二项分布 \(b(n,p)\)：\(n\) 重伯努利试验中成功的次数，公式为 \(P\{X=k\} = \binom{n}{k}p^k(1-p)^{n-k}\) 。
  • 泊松分布 \(P(\lambda)\)：常用于描述稀有事件发生的次数 。

4. 连续型随机变量及其概率密度

• 定义：其分布函数可表示为某非负函数 \(f(x)\)（概率密度函数）的积分形式：\(F(x) = \int_{-\infty}^{x} f(t) dt\) 。
• 概率密度 \(f(x)\) 的性质：\(f(x) \ge 0\) 且 \(\int_{-\infty}^{\infty} f(x) dx = 1\) 。
• 常见分布：
  • 均匀分布 \(U(a,b)\)：概率均匀地分布在某区间上 。
  • 指数分布 \(E(\theta)\)：具有重要的无记忆性，常用于可靠性和排队论 。
  • 正态分布 \(N(\mu, \sigma^2)\)：最重要的分布，曲线呈钟形且关于 \(x=\mu\) 对称 。

5. 随机变量函数的分布

• 研究当 \(X\) 服从某种分布时，\(Y = g(X)\) 的分布规律 。
• 方法：通常先利用定义求分布函数 \(F_Y(y) = P\{g(X) \le y\}\)，如果是连续型再通过求导得到密度函数 \(f_Y(y)\) 。

3. 多维随机变量

二维随机变量

1. 二维随机变量 (Two-dimensional Random Variable)
   • 概念：设 \(E\) 是随机试验，样本空间为 \(S\)。称定义在 \(S\) 上的向量 \((X, Y)\) 为二维随机变量 。
   • 变量含义：\(X\) 和 \(Y\) 是定义在同一样本空间上的两个一元随机变量 。
2. 联合分布函数 (Joint Distribution Function)
   • 定义：\(F(x, y) = P\{X \le x, Y \le y\}\) 。
   • 几何意义：表示随机点 \((X, Y)\) 落在以 \((x, y)\) 为右上顶点的左下方无穷矩形区域内的概率 。
   • 重要性质：
     • 单调性：对任意变量都是不减函数 。
     • 规范性：\(0 \le F(x, y) \le 1\)；且 \(F(-\infty, y) = F(x, -\infty) = F(-\infty, -\infty) = 0\)，\(F(+\infty, +\infty) = 1\) 。
     • 矩形概率公式：\(P\{x_1 < X \le x_2, y_1 < Y \le y_2\} = F(x_2, y_2) - F(x_1, y_2) - F(x_2, y_1) + F(x_1, y_1)\) 。
3. 二维离散型随机变量
   • 联合分布律：\(P\{X=x_i, Y=y_j\} = p_{ij}\)，其中 \(i, j = 1, 2, \dots\) 。
   • 性质：\(p_{ij} \ge 0\) 且 \(\sum_i \sum_j p_{ij} = 1\) 。
4. 二维连续型随机变量
   • 联合概率密度：若存在非负函数 \(f(x, y)\)，使得 \(F(x, y) = \int_{-\infty}^x \int_{-\infty}^y f(u, v) du dv\) 。
   • 性质：
     1. \(f(x, y) \ge 0\) 。
     2. \(\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(x, y) dx dy = 1\) 。
     3. 落入区域概率：\(P\{(X, Y) \in G\} = \iint_G f(x, y) dx dy\) 。

---

边缘分布 (Marginal Distribution)

本节讨论如何从联合分布中分离出单个变量的分布规律 。

1. 边缘分布函数
   • \(X\) 的边缘分布函数：\(F_X(x) = F(x, +\infty) = P\{X \le x, Y < +\infty\}\) 。
   • \(Y\) 的边缘分布函数：\(F_Y(y) = F(+\infty, y) = P\{X < +\infty, Y \le y\}\) 。
2. 离散型边缘分布律
   • \(X\) 的边缘分布律：\(p_{i\cdot} = P\{X=x_i\} = \sum_j p_{ij}\) （对所有可能的 \(j\) 求和） 。
   • \(Y\) 的边缘分布律：\(p_{\cdot j} = P\{Y=y_j\} = \sum_i p_{ij}\) （对所有可能的 \(i\) 求和） 。
3. 连续型边缘概率密度
   • \(X\) 的边缘密度：\(f_X(x) = \int_{-\infty}^{\infty} f(x, y) dy\) 。
   • \(Y\) 的边缘密度：\(f_Y(y) = \int_{-\infty}^{\infty} f(x, y) dx\) 。

---

条件分布 (Conditional Distribution)

本节讨论在已知一个变量取值的条件下，另一个变量的分布规律 。

1. 离散型条件分布
   • 条件分布律：\(P\{X=x_i | Y=y_j\} = \frac{p_{ij}}{p_{\cdot j}}\)，前提是 \(p_{\cdot j} > 0\) 。
   • 变量含义：在已知 \(Y\) 取第 \(j\) 个值的条件下，\(X\) 取第 \(i\) 个值的概率 。
2. 连续型条件密度
   • 条件概率密度：\(f_{X|Y}(x|y) = \frac{f(x, y)}{f_Y(y)}\)，前提是 \(f_Y(y) > 0\) 。
   • 条件分布函数：\(F_{X|Y}(x|y) = P\{X \le x | Y=y\} = \int_{-\infty}^x f_{X|Y}(u|y) du\) 。

---

相互独立的随机变量 (Independence)

本节讨论变量间是否互不影响 。

1. 独立性定义
   • 定义：若对于所有 \(x, y\)，都有 \(F(x, y) = F_X(x) F_Y(y)\)，则称 \(X\) 和 \(Y\) 相互独立 。
2. 判定等价式
   • 离散型：\(p_{ij} = p_{i\cdot} p_{\cdot j}\) 对所有 \(i, j\) 成立 。
   • 连续型：\(f(x, y) = f_X(x) f_Y(y)\) 在全平面上几乎处处成立 。
3. 重要定理
   • 若 \(X, Y\) 独立，则对于任意连续函数 \(g, h\)，\(g(X)\) 和 \(h(Y)\) 也相互独立 。

---

两个随机变量函数的分布

本节研究当 \(X, Y\) 分布已知时，它们的函数（如 \(Z = X+Y\)）的分布规律 。

1. 和的分布 (\(Z = X + Y\))
   • 卷积公式：\(f_Z(z) = \int_{-\infty}^{\infty} f(z-y, y) dy\) 或 \(f_Z(z) = \int_{-\infty}^{\infty} f(x, z-x) dx\) 。
   • 独立情况：\(f_Z(z) = \int_{-\infty}^{\infty} f_X(z-y) f_Y(y) dy\) 。
   • 结论：两个独立正态分布之和仍为正态分布：若 \(X \sim N(\mu_1, \sigma_1^2), Y \sim N(\mu_2, \sigma_2^2)\)，则 \(X+Y \sim N(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2)\) 。
2. 最大值与最小值分布
   • 设 \(X, Y\) 相互独立：
   • 最大值 \(M = \max(X, Y)\)：\(F_M(z) = F_X(z) F_Y(z)\) 。
   • 最小值 \(N = \min(X, Y)\)：$F_N(z) = 1 - $ 。
   • 变量含义：用于研究系统的寿命。例如串联系统寿命取决于最小值，并联系统取决于最大值 。
3. 商与积的分布
   • 商的密度 (\(Z = Y/X\))：\(f_{Y/X}(z) = \int_{-\infty}^{\infty} |x| f(x, xz) dx\) 。
   • 积的密度 (\(Z = XY\))：\(f_{XY}(z) = \int_{-\infty}^{\infty} \frac{1}{|x|} f(x, \frac{z}{x}) dx\) 。

4. 随机变量的数字特征

数学期望 (Mathematical Expectation)

数学期望反映了随机变量取值的“平均水平”或“中心位置” 。

1. 离散型随机变量的期望
   • 公式：\(E(X) = \sum_{k=1}^{\infty} x_k p_k\) 。
   • 变量含义：\(x_k\) 是 \(X\) 的可能取值，\(p_k\) 是取得该值的概率。
   • 前提：级数 \(\sum |x_k| p_k\) 绝对收敛 。
2. 连续型随机变量的期望
   • 公式：\(E(X) = \int_{-\infty}^{\infty} x f(x) dx\) 。
   • 变量含义：\(x\) 为实值变量，\(f(x)\) 是 \(X\) 的概率密度函数。
3. 随机变量函数的期望 (定理 4.1)
   • 意义：求 \(Y=g(X)\) 的期望时，无需先求 \(Y\) 的分布 。
   • 一元公式：\(E = \sum g(x_k) p_k\)（离散）或 \(\int_{-\infty}^{\infty} g(x) f(x) dx\)（连续）。
   • 二元公式：\(E = \iint g(x, y) f(x, y) dx dy\) 。
4. 数学期望的性质
   • \(E(C) = C\) （常数的期望是其自身）。
   • \(E(CX) = C E(X)\) （常数因子可提出）。
   • \(E(X + Y) = E(X) + E(Y)\) （期望具有线性，无论是否独立）。
   • 若 \(X, Y\) 独立：\(E(XY) = E(X) E(Y)\) 。

---

方差 (Variance)

方差刻画了随机变量相对于其期望的“离散程度” 。

1. 方差的定义与计算公式 \(D(X) = E\{X^2 - 2X E(X) + [E(x)]^2\} = E(X^2) - 2E(X)E(X) + [E(x)]^2 = E(X^2) - [E(x)]^2\)
   • 变量含义：\(E(X^2)\) 是平方的期望，\(E(X)\) 是期望的平方。
   • 标准差：\(\sigma(X) = \sqrt{D(X)}\)，与原变量量纲相同 。
2. 方差的性质
   • \(D(C) = 0\)。
   • \(D(CX) = C^2 D(X)\)，\(D(X+C) = D(X)\)。
   • \(D(X \pm Y) = D(X) + D(Y) \pm 2 Cov(X, Y)\) 。
   • 若 \(X, Y\) 独立：\(D(X \pm Y) = D(X) + D(Y)\) 。
3. 切比雪夫不等式 (Chebyshev’s Inequality)
   • 公式：\(P\{|X - E(X)| \ge \epsilon\} \le \frac{D(X)}{\epsilon^2}\) 。
   • 意义：若已知期望和方差，可估计变量偏离中心超过 \(\epsilon\) 的概率上限。

---

协方差及相关系数 (Covariance & Correlation Coefficient)

本节讨论两个变量间的线性相关性 。

1. 协方差 (Covariance) \(Cov(X, Y) = E\{XY - X E(Y) - Y E(X) + E(X) E(Y)\} = E(XY) - E(X) E(Y) - E(Y) E(X) + E(X) E(Y) = E(XY) - E(X) E(Y)\) 。
   • 性质：\(Cov(X, Y) = Cov(Y, X)\)；\(Cov(aX, bY) = ab Cov(X, Y)\) 。
2. 相关系数 (Correlation Coefficient)
   • 定义：\(\rho_{XY} = \frac{Cov(X, Y)}{\sqrt{D(X)}\sqrt{D(Y)}}\) 。
   • 变量含义：\(\rho_{XY}\) 是去量纲后的协方差。
   • 范围与意义：\(|\rho_{XY}| \le 1\) 。
     • \(|\rho_{XY}| = 1 \iff P\{Y = aX + b\} = 1\)（完全线性相关）。
     • \(\rho_{XY} = 0\) 称为 \(X, Y\) 不相关。
   • 关系：独立 \(\implies\) 不相关；但不相关 \(\ne\) 独立（除非是正态分布）。

---

矩、协方差矩阵 (Moments & Covariance Matrix)

1. 矩 (Moments)
   • \(k\) 阶原点矩：\(\nu_k = E(X^k)\)。
   • \(k\) 阶中心矩：\(\mu_k = E\{^k\}\)（方差即二阶中心矩）。
   • \(k+l\) 阶混合原点矩：\(E(X^k Y^l)\) 。
2. 协方差矩阵
   • 定义：对于 \(n\) 维随机变量 \((X_1, \dots, X_n)\)，矩阵 \(\Sigma = (c_{ij})_{n \times n}\)，其中 \(c_{ij} = Cov(X_i, X_j)\) 。
   • 性质：它是对称矩阵，对角线元素为各变量的方差 。

---

常见分布的数字特征汇总表

分布名称	参数	期望 \(E(X)\)	方差 \(D(X)\)
0-1 分布	\(p\)	\(p\)	\(p(1-p)\)
二项分布	\(n, p\)	\(np\)	\(np(1-p)\)
泊松分布	\(\lambda\)	\(\lambda\)	\(\lambda\)
均匀分布	\(a, b\)	\(\frac{a+b}{2}\)	\(\frac{(b-a)^2}{12}\)
指数分布	\(\lambda\) 或 \(\theta\)	\(1/\lambda\) 或 \(\theta\)	\(1/\lambda^2\) 或 \(\theta^2\)
正态分布	\(\mu, \sigma^2\)	\(\mu\)	\(\sigma^2\)

变量含义说明： * \(E(X)\)：期望，物理上的“质心”，反映数据的平均水平。 * \(D(X)\)：方差，反映数据的稳定度/离散度。 * \(Cov(X, Y)\)：协方差，反映两变量协同变化的方向。 * \(\rho_{XY}\)：相关系数，剔除单位影响后，衡量线性关系的紧密程度。

5. 大数定律与中心极限定理

大数定律 (Law of Large Numbers)

大数定律研究的是随机变量序列的算术平均值在什么条件下会趋近于其数学期望的常数。

1. 切比雪夫不等式 (Chebyshev’s Inequality) —— 理论基础

在学习大数定律之前，必须掌握这个估计概率上限的工具。 * 公式：\(P\{|X - E(X)| \ge \epsilon\} \le \frac{D(X)}{\epsilon^2}\) 。 * 变量含义： * \(X\)：具有数学期望 \(E(X)\) 和方差 \(D(X)\) 的随机变量。 * \(\epsilon\)：任意正数，表示偏离程度。 * 意义：即使分布未知，只要知道期望和方差，就能限定随机变量偏离其均值的概率范围 。

2. 依概率收敛 (Convergence in Probability)

• 定义：设随机变量序列 \(X_1, X_2, \dots, X_n, \dots\) 及常数 \(a\)，若对任意 \(\epsilon > 0\)，有 \(\lim_{n \to \infty} P\{|X_n - a| < \epsilon\} = 1\)，则称序列依概率收敛于 \(a\)，记作 \(X_n \xrightarrow{P} a\) 。

3. 辛钦大数定律 (Khinchin’s Law) —— 弱大数定律

• 前提条件：\(X_1, X_2, \dots, X_n\) 是独立同分布的随机变量，且数学期望 \(E(X_k) = \mu\) 存在 。
• 公式：\(\frac{1}{n} \sum_{k=1}^n X_k \xrightarrow{P} \mu\) 。
• 变量含义：
  • \(n\)：样本量或试验次数。
  • \(\mu\)：随机变量的期望值（均值）。
• 结论：当 \(n\) 很大时，观测值的算术平均值极其接近其理论均值 。

4. 伯努利大数定律 (Bernoulli’s Law)

• 背景：这是辛钦大数定律在伯努利试验（0-1分布）中的特殊情况 。
• 公式：\(\frac{f_A}{n} \xrightarrow{P} p\) 。
• 变量含义：
  • \(f_A\)：事件 \(A\) 在 \(n\) 次试验中发生的次数（频数）。
  • \(p\)：事件 \(A\) 在单次试验中发生的概率。
• 结论：当试验次数足够多时，事件发生的频率趋近于其概率，这证明了概率定义的科学性 。

---

中心极限定理 (Central Limit Theorem, CLT)

中心极限定理揭示了大量相互独立的微小随机因素的总和，在宏观上近似服从正态分布。

1. 独立同分布中心极限定理 (Lindeberg-Lévy 定理)

• 前提条件：\(X_1, X_2, \dots, X_n\) 独立同分布，期望 \(E(X_k) = \mu\)，方差 \(D(X_k) = \sigma^2 > 0\) 均存在 。
• 结论公式：当 \(n\) 充分大时，和式 \(\sum_{k=1}^n X_k\) 近似服从正态分布 \(N(n\mu, n\sigma^2)\) 。
• 标准化形式：\(\lim_{n \to \infty} P\left\{ \frac{\sum_{k=1}^n X_k - n\mu}{\sqrt{n}\sigma} \le x \right\} = \Phi(x)\) 。
• 变量含义：
  • \(\Phi(x)\)：标准正态分布的累积分布函数 。
  • \(x\)：实数点。

2. 李雅普诺夫中心极限定理 (Lyapunov 定理)

• 意义：该定理放宽了“同分布”的限制，只要各变量的随机性互不占优，它们的总和仍趋向于正态分布 。
• 变量含义：\(B_n = \sqrt{\sum D(X_k)}\) 是各变量标准差平方和的开方 。

3. 棣莫弗-拉普拉斯定理 (De Moivre-Laplace 定理)

• 前提条件：随机变量 \(\eta_n \sim B(n, p)\)（服从二项分布）。
• 公式：\(\lim_{n \to \infty} P\left\{ \frac{\eta_n - np}{\sqrt{np(1-p)}} \le x \right\} = \Phi(x)\) 。
• 变量含义：
  • \(np\)：二项分布的数学期望。
  • \(\sqrt{np(1-p)}\)：二项分布的标准差。
• 结论：二项分布在 \(n\) 很大时可以用正态分布来近似计算概率 。

学习小结

• 大数定律 告诉我们：随机变量的平均值具有稳定性（收敛于均值）。
• 中心极限定理 告诉我们：随机变量的总和具有规律性（近似正态分布）。
• 变量速查表：
  • \(n\): 试验规模（通常要求 \(n \ge 30\) 或更大）。
  • \(E(X)/\mu\): 期望，反映中心。
  • \(D(X)/\sigma^2\): 方差，反映波动。
  • \(\frac{\sum X_k}{n}\): 样本均值 \(\bar{X}\) 。
  • \(\Phi(z)\): 通过查标准正态分布表获得概率值 。

6. 数理统计的基本概念

随机样本 (Random Sample)

本节建立了统计推断的数据基础，即如何科学地获取和描述数据。

1. 总体与个体 (Population & Individual)

• 总体：试验中研究对象的某项数量指标 \(X\) 的全体。在统计学中，总体常被视为一个随机变量 \(X\) 。
• 个体：总体中的每一个观察值 。

2. 样本与样本容量 (Sample & Sample Size)

• 随机样本：从总体中抽取的部分个体 \((X_1, X_2, \dots, X_n)\) 。
• 简单随机样本：最常用的样本，需满足两个条件 ：
  1. 独立性：\(X_1, \dots, X_n\) 相互独立。
  2. 同分布性：每一个 \(X_i\) 与总体 \(X\) 的分布相同。
• 样本容量 \(n\)：样本中包含个体的数目 。
• 样本观测值 \((x_1, x_2, \dots, x_n)\)：样本的具体实验数值 。

---

直方图、箱线图与经验分布函数

本节介绍如何对收集到的原始数据进行初步整理和可视化。

1. 频数分布表与直方图 (Histogram)

• 通过将数据分区间计数，画出高度为 \(\frac{\text{频率}}{\text{组距}}\) 的矩形，其面积等于该区间的频率。当 \(n\) 很大时，直方图外廓接近总体的概率密度曲线 。

2. 箱线图 (Boxplot)

• 五数概括：基于最小值、第一四分位数 \(Q_1\)、中位数 \(M\)、第三四分位数 \(Q_3\)、最大值绘制而成 。
• 意义：直观展示数据的对称性、分散程度及疑似异常值 。

3. 经验分布函数 (Empirical Distribution Function)

• 概念：用样本中小于或等于 \(x\) 的频率作为总体分布函数 \(F(x)\) 的估计 。
• 格里文科定理：当 \(n\) 趋于无穷时，经验分布函数以概率 1 一致收敛于总体分布函数 。

---

抽样分布 (Sampling Distribution)

本节研究统计量及其分布，是全章乃至数理统计的核心。

1. 统计量 (Statistic)

• 定义：样本的函数 \(g(X_1, X_2, \dots, X_n)\)，且不含任何未知参数 。
• 常用统计量公式：
  • 样本均值：\(\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i\) —— 反映样本的中心位置 。
  • 样本方差：\(S^2 = \frac{1}{n-1} \sum_{i=1}^n (X_i - \bar{X})^2\) —— 反映样本的离散程度（注意分母是 \(n-1\)）。
  • 样本 \(k\) 阶原点矩：\(A_k = \frac{1}{n} \sum_{i=1}^n X_i^k\) 。

2. 三大抽样分布 (Three Major Distributions)

这三个分布是基于正态总体构造出的统计量分布： * \(\chi^2\) (卡方) 分布： * 构造：\(\chi^2 = X_1^2 + X_2^2 + \dots + X_n^2\)，其中 \(X_i \sim N(0,1)\) 且独立 。 * 参数：自由度 \(n\) 。 * 性质：\(E(\chi^2) = n\)，\(D(\chi^2) = 2n\) 。 * \(t\) 分布： * 构造：\(t = \frac{X}{\sqrt{Y/n}}\)，其中 \(X \sim N(0,1)\)，\(Y \sim \chi^2(n)\) 且独立 。 * 特征：曲线关于原点对称，随自由度 \(n\) 增大而趋近于标准正态分布 。 * \(F\) 分布： * 构造：\(F = \frac{X/n_1}{Y/n_2}\)，其中 \(X \sim \chi^2(n_1)\)，\(Y \sim \chi^2(n_2)\) 且独立 。

3. 正态总体的抽样分布定理 (重点)

设 \(X \sim N(\mu, \sigma^2)\)，\(\bar{X}\) 和 \(S^2\) 分别为样本均值和方差： * 定理一：\(\bar{X} \sim N(\mu, \frac{\sigma^2}{n})\) 。 * 定理二：\(\frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)\)，且 \(\bar{X}\) 与 \(S^2\) 相互独立 。 * 定理三：\(\frac{\bar{X}-\mu}{S/\sqrt{n}} \sim t(n-1)\)（当 \(\sigma\) 未知时使用 \(S\) 代替）。 * 定理四 (两个正态总体)：\(\frac{S_1^2/S_2^2}{\sigma_1^2/\sigma_2^2} \sim F(n_1-1, n_2-1)\) 。

变量含义汇总表

• \(n\)：样本容量。
• \(\mu\)：总体期望（均值）。
• \(\sigma^2\)：总体方差。
• \(\bar{X}\)：样本均值（统计量）。
• \(S^2\)：样本方差（统计量）。
• \(n-1\)：自由度（Degrees of Freedom），指独立随机变量的个数 。
• \(\Phi(x)\)：标准正态分布函数 。

7. 参数估计

点估计 (Point Estimation)

点估计的目标是用样本构造一个统计量，作为未知参数的近似值 。

1. 矩估计法 (Method of Moments)

• 基本思想：利用“样本矩”依概率收敛于“总体矩”的性质，用样本矩估计总体矩 。
• 操作步骤：
  1. 设总体有 \(k\) 个未知参数 \(\theta_1, \dots, \theta_k\)。
  2. 建立方程组：令总体 \(l\) 阶矩 \(\mu_l = E(X^l)\) 等于样本 \(l\) 阶矩 \(A_l = \frac{1}{n} \sum X_i^l\) 。
  3. 解方程组求得参数的估计值 \(\hat{\theta}_j\) 。
• 变量含义：
  • \(X_i\)：样本观测值。
  • \(n\)：样本容量。
  • \(\mu_l\)：总体矩（包含待求参数）。
  • \(A_l\)：样本矩。

2. 最大似然估计法 (Maximum Likelihood Estimation, MLE)

• 基本思想：寻找一组参数值，使得已发生的样本观察值出现的概率最大 。
• 似然函数 \(L(\theta)\)：
  • 离散型：\(L(\theta) = \prod_{i=1}^n P(X_i = x_i; \theta)\) 。
  • 连续型：\(L(\theta) = \prod_{i=1}^n f(x_i; \theta)\) 。
• 计算方法：通常取对数似然函数 \(\ln L(\theta)\)，求导并令其为 0，解对数似然方程得到估计值 。
• 不变性原则：若 \(\hat{\theta}\) 是 \(\theta\) 的最大似然估计，则 \(g(\hat{\theta})\) 也是 \(g(\theta)\) 的最大似然估计 。

---

基于截尾样本的最大似然估计

注：此内容在某些大纲中为选学或针对可靠性工程 。 * 概念：当实验在固定时间 \(t_0\) 停止，或者在观测到前 \(m\) 个失效后停止时，利用已观测到的失效数据及未失效个体的数量信息进行估计 。 * 公式推导：似然函数需包含已失效部分的密度连乘及未失效部分的生存概率 。

---

估计量的评选标准 (Criteria for Evaluators)

当存在多个估计量时，我们需要标准来衡量其好坏：

1. 无偏性 (Unbiasedness)
   • 定义：若 \(E(\hat{\theta}) = \theta\)，则称 \(\hat{\theta}\) 为 \(\theta\) 的无偏估计量 。
   • 意义：表示多次估计的平均值等于真实值，不存在系统误差 。
   • 最小二乘法（OLS）给出的参数估计量是无偏的。
2. 有效性 (Efficiency)
   • 定义：在所有无偏估计量中，方差越小的估计量越“有效” 。
   • 判别：若 \(D(\hat{\theta}_1) \le D(\hat{\theta}_2)\)，则 \(\hat{\theta}_1\) 比 \(\hat{\theta}_2\) 有效 。
3. 相合性/一致性 (Consistency)
   • 定义：当样本量 \(n \to \infty\) 时，估计量 \(\hat{\theta}\) 依概率收敛于真实的 \(\theta\) 。

---

区间估计 (Interval Estimation)

1. 置信区间 (Confidence Interval)

• 概念：给定置信水平 \(1-\alpha\)，确定两个统计量 \(\underline{\theta}\) 和 \(\bar{\theta}\)，使得 \(P\{\underline{\theta} < \theta < \bar{\theta}\} \ge 1-\alpha\) 。
• 变量含义：
  • \(1-\alpha\)：置信水平（常用 0.95 或 0.99）。
  • \(\alpha\)：显著性水平。
  • \((\underline{\theta},\bar{\theta} )\)：置信区间 。

2. 枢轴量法 (Pivotal Quantity Method)

• 构造一个关于样本和待求参数 \(\theta\) 的函数，使其分布已知且不含任何未知参数 。

---

正态总体参数的区间估计 (核心重点)

基于第六章的抽样分布，下表总结了最重要的置信区间公式 ：

估计对象	条件	枢轴量及其分布	置信区间公式
均值 \(\mu\)	\(\sigma^2\) 已知	\(Z = \frac{\bar{X}-\mu}{\sigma/\sqrt{n}} \sim N(0,1)\)	\((\bar{X} \pm z_{\alpha/2} \frac{\sigma}{\sqrt{n}})\)
均值 \(\mu\)	\(\sigma^2\) 未知	\(t = \frac{\bar{X}-\mu}{S/\sqrt{n}} \sim t(n-1)\)	\((\bar{X} \pm t_{\alpha/2}(n-1) \frac{S}{\sqrt{n}})\)
方差 \(\sigma^2\)	\(\mu\) 未知	\(\chi^2 = \frac{(n-1)S^2}{\sigma^2} \sim \chi^2(n-1)\)	\((\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}, \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)})\)
均值差 \(\mu_1-\mu_2\)	方差已知	\(Z\) 分布	\((\bar{X}-\bar{Y}) \pm z_{\alpha/2}\sqrt{\frac{\sigma_1^2}{n_1}+\frac{\sigma_2^2}{n_2}}\)
方差比 \(\sigma_1^2/\sigma_2^2\)	均值未知	\(F = \frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F(n_1-1, n_2-1)\)	\((\frac{S_1^2/S_2^2}{F_{\alpha/2}}, \frac{S_1^2/S_2^2}{F_{1-\alpha/2}})\)

变量汇总说明： * \(\bar{X}\)：样本均值。 * \(S^2\)：样本方差（分母为 \(n-1\)）。 * \(z_{\alpha/2}\)：标准正态分布的上侧 \(\alpha/2\) 分位点。 * \(t_{\alpha/2}(n-1)\)：\(t\) 分布的分位点。 * \(n\)：样本容量。

---

(0-1) 分布参数的区间估计

• 背景：当样本量 \(n\) 较大（\(n > 50\)）时，利用中心极限定理进行近似 。
• 公式：基于 \(\frac{\bar{X}-p}{\sqrt{p(1-p)/n}} \approx N(0,1)\)，解关于 \(p\) 的二次不等式得到近似区间 。

---

单侧置信区间 (One-sided Confidence Intervals)

• 应用场景：在某些实际问题中，只需关注参数的下限（如设备寿命）或上限（如杂质含量）。
• 计算差异：使用置信水平 \(\alpha\) 对应的单侧分位点（如 \(z_\alpha\) 或 \(t_\alpha\)）代替双侧的 \(\alpha/2\) 。
  • 单侧置信下限：\((\underline{\theta}, +\infty)\)，使得 \(P\{\theta > \underline{\theta}\} \ge 1-\alpha\) 。
  • 单侧置信上限：\((-\infty, \bar{\theta})\)，使得 \(P\{\theta < \bar{\theta}\} \ge 1-\alpha\) 。

学习建议： 1. 点估计重点掌握矩估计和最大似然估计的计算流程。 2. 置信区间需牢记不同条件（已知或未知方差）下枢轴量的选择，这是解题的关键。

8. 假设检验

假设检验的基本概念

本节奠定了假设检验的思想基础，即“小概率原理”。

1. 统计假设 (Statistical Hypothesis)
   • 原假设 (Null Hypothesis, \(H_0\))：通常是我们想要验证或保护的假设（如“生产过程正常”），表示没有显著差异 。
   • 备择假设 (Alternative Hypothesis, \(H_1\))：原假设的对立面 。
2. 双边检验与单边检验
   • 双边检验：\(H_0: \theta = \theta_0\) vs \(H_1: \theta \ne \theta_0\) 。
   • 右边检验：\(H_0: \theta \le \theta_0\) vs \(H_1: \theta > \theta_0\) 。
   • 左边检验：\(H_0: \theta \ge \theta_0\) vs \(H_1: \theta < \theta_0\) 。
3. 两类错误 (Two Types of Errors)
   • 第一类错误（弃真错误）：\(H_0\) 为真却拒绝了 \(H_0\)。发生的概率记为 \(\alpha\) 。
   • 第二类错误（取伪错误）：\(H_0\) 为假却接受了 \(H_0\)。发生的概率记为 \(\beta\) 。
   • 注：在样本容量 \(n\) 固定时，\(\alpha\) 与 \(\beta\) 往往此消彼长。
4. 检验统计量与拒绝域
   • 检验统计量：用于决策的随机变量 。
   • 显著性水平 \(\alpha\)：允许犯第一类错误的最大概率，通常取 0.05 或 0.01 。
   • 拒绝域 (\(W\))：当检验统计量的观测值落入该区域时，拒绝 \(H_0\) 。

---

正态总体均值的假设检验

本节针对不同条件下对均值 \(\mu\) 的检验。

1. \(\sigma^2\) 已知情形（Z 检验）
   • 检验统计量：\(Z = \frac{\bar{X} - \mu_0}{\sigma/\sqrt{n}} \sim N(0,1)\) 。
   • 拒绝域 (双边)：\(|Z| \ge z_{\alpha/2}\) 。
   • 变量含义：\(\bar{X}\) 为样本均值，\(\mu_0\) 为假设的总体均值，\(\sigma\) 为总体标准差，\(n\) 为样本量。
2. \(\sigma^2\) 未知情形（t 检验）
   • 检验统计量：\(t = \frac{\bar{X} - \mu_0}{S/\sqrt{n}} \sim t(n-1)\) 。
   • 拒绝域 (双边)：\(|t| \ge t_{\alpha/2}(n-1)\) 。
   • 变量含义：\(S\) 为样本标准差（分母为 \(n-1\) 的估计量）。

---

正态总体方差的假设检验

针对总体波动程度 \(\sigma^2\) 的检验。

1. 单一总体方差的检验 (\(\chi^2\) 检验)
   • 检验统计量：\(\chi^2 = \frac{(n-1)S^2}{\sigma_0^2} \sim \chi^2(n-1)\) 。
   • 变量含义：\(\sigma_0^2\) 为假设的总体方差值。
   • 拒绝域 (双边)：\(\chi^2 \le \chi^2_{1-\alpha/2}(n-1)\) 或 \(\chi^2 \ge \chi^2_{\alpha/2}(n-1)\) 。
2. 两个总体方差比例的检验 (F 检验)
   • 背景：用于比较两个生产线的稳定性。
   • 检验统计量：\(F = \frac{S_1^2}{S_2^2} \sim F(n_1-1, n_2-1)\) (在 \(H_0: \sigma_1^2 = \sigma_2^2\) 条件下) 。
   • 拒绝域 (双边)：\(F \le F_{1-\alpha/2}\) 或 \(F \ge F_{\alpha/2}\) 。

---

两个正态总体均值差的检验

1. 独立样本均值差检验 (\(t\) 检验)
   • 前提：两个总体相互独立且方差相等 \(\sigma_1^2 = \sigma_2^2\) 。
   • 检验统计量：\(t = \frac{(\bar{X} - \bar{Y}) - \delta}{S_w \sqrt{\frac{1}{n_1} + \frac{1}{n_2}}} \sim t(n_1+n_2-2)\) 。
   • 变量含义：\(S_w\) 是混合样本标准差，\(S_w = \sqrt{\frac{(n_1-1)S_1^2 + (n_2-1)S_2^2}{n_1+n_2-2}}\) 。
2. 成对数据均值差检验 (Paired t-test)
   • 方法：先求出每一对观察值的差 \(D_i = X_i - Y_i\)，再对 \(D\) 服从正态分布的均值 \(\mu_D\) 进行单一总体的 \(t\) 检验 。

---

分布拟合检验 (\(\chi^2\) 拟合检验)

本节讨论如何判断一组观测数据是否来自某种特定的分布（如正态分布或泊松分布）。

1. 基本思想：将实际观测频数与理论期望频数进行比较 。
2. 检验统计量：\(\chi^2 = \sum_{i=1}^k \frac{(f_i - n\hat{p}_i)^2}{n\hat{p}_i}\) 。
3. 变量含义：
   • \(f_i\)：第 \(i\) 个类别的实际频数。
   • \(n\hat{p}_i\)：假设成立下的期望频数。
   • \(k\)：分类数。
4. 自由度推导：自由度为 \(k-r-1\)，其中 \(r\) 是从样本中估计的参数个数 。

---

扩展知识点

• p 值检验法 (p-value)：指在 \(H_0\) 为真的条件下，观察到的样本结果或更极端结果出现的概率 。
  • 判定标准：若 \(p \le \alpha\)，拒绝 \(H_0\)；若 \(p > \alpha\)，不能拒绝 \(H_0\) 。
• 置信区间与假设检验的关系：双边假设检验拒绝 \(H_0\) 等价于参数的置信区间不包含假设值 \(\mu_0\) 。

核心变量速查： * \(\alpha\)：弃真概率。 * \(\bar{X}, \bar{Y}\)：样本均值。 * \(S^2\)：样本方差。 * \(n, m\)：样本容量。 * \(z, t, \chi^2, F\)：分别对应标准正态、学生、卡方、费舍尔分布的统计量。

9. 方差分析

单因素试验的方差分析 (Single-Factor ANOVA)

研究一个因素（如不同的原料、不同的工艺）对实验指标的影响。

1. 基本概念

• 因素 (Factor)：实验中要考察的变量，记为 \(A\)。
• 水平 (Level)：因素的不同状态，设共有 \(s\) 个水平 \(A_1, A_2, \dots, A_s\)。
• 指标 (Response Variable)：实验的观测值 \(X\)。

2. 模型假设

• 独立性：各水平下的观测值相互独立。
• 正态性：每一水平下的总体服从正态分布 \(X_{ij} \sim N(\mu_i, \sigma^2)\)。
• 方差齐性：各总体方差相等（均为 \(\sigma^2\)）。
• 效应表示法：令 \(\mu = \frac{1}{n}\sum n_i\mu_i\) 为总均值，\(\delta_i = \mu_i - \mu\) 为因素效应，且 \(\sum n_i\delta_i = 0\)。

3. 统计假设

• 原假设 \(H_0\)：\(\mu_1 = \mu_2 = \dots = \mu_s\)（或 \(\delta_1 = \delta_2 = \dots = \delta_s = 0\)）。
• 备择假设 \(H_1\)：\(\mu_i\) 不全相等。

4. 平方和的分解（核心推导）

• 总平方和 (\(S_T\))：反映全部观测数据的总波动。
• 效应平方和 (\(S_A\))：反映水平间的差异（由因素引起）。
• 误差平方和 (\(S_E\))：反映水平内的随机误差。
• 推导过程： \[S_T = \sum_{i=1}^s\sum_{j=1}^{n_i}(X_{ij} - \bar{X})^2 = \sum_{i=1}^s\sum_{j=1}^{n_i} a^2\] \[= \sum\sum(X_{ij} - \bar{X}_{i\cdot})^2 + \sum n_i(\bar{X}_{i\cdot} - \bar{X})^2 + 0 = S_E + S_A\] (注：中间项乘积和为0，因为 \(\sum(X_{ij} - \bar{X}_{i\cdot}) = 0\))。

5. 检验统计量 (F 检验)

• 均方 (Mean Square)：\(MS_A = \frac{S_A}{s-1}\)， \(MS_E = \frac{S_E}{n-s}\)。
• 统计量：\(F = \frac{MS_A}{MS_E} \sim F(s-1, n-s)\)。
• 决策规则：若 \(F > F_{\alpha}(s-1, n-s)\)，则拒绝 \(H_0\)，说明因素 A 影响显著。

---

双因素试验的方差分析 (Two-Factor ANOVA)

研究两个因素（如温度和压力）同时对实验结果的影响。

1. 分类

• 不考虑交互作用：因素 A 和 B 独立产生影响。
• 考虑交互作用 (\(A \times B\))：两个因素结合时会产生额外的效应（如某种药剂在特定温度下才有效）。

2. 平方和分解公式

在考虑交互作用时，总波动被拆分为四部分： \(S_T = S_A + S_B + S_{A \times B} + S_E\) * \(S_A, S_B\)：主效应平方和。 * \(S_{A \times B}\)：交互作用平方和。 * \(S_E\)：随机误差平方和（要求每个组合下有重复实验）。

3. 统计推断

需要分别对因素 A、因素 B 及交互作用 \(A \times B\) 进行三次 F 检验。

---

正交试验设计及其方差分析 (Orthogonal Design)

注：此内容在 Source 5 中被详细列出。 * 正交表：利用特定的表格（如 \(L_9(3^4)\)）安排实验，旨在用最少的实验次数覆盖多种因素的组合。 * 方差分析步骤： 1. 计算各列的极差 \(R\)，判断因素的主次顺序。 2. 计算各因素的偏差平方和。 3. 找出波动最小的一项或列作为误差项 \(S_E\)，进行 F 检验。

---

变量含义汇总说明表

变量	含义	备注
\(X_{ij}\)	第 \(i\) 个水平下的第 \(j\) 次实验值	原始数据
\(n\)	总实验次数	所有观测值个数之和
\(s, r\)	因素 A 和 B 的水平个数	分类数
\(\bar{X}_{i\cdot}\)	水平 \(A_i\) 下的样本均值	局部平衡点
\(\bar{X}\)	所有观测值的总均值	整体重心
\(S_A\)	因素 A 引起的离差平方和	反映“水平间”差异
\(S_E\)	误差平方和	反映“水平内”随机波动
\(s-1\)	因素 A 的自由度	用于求均方
\(n-s\)	误差项的自由度	用于求均方
\(F\)	效应均方与误差均方的比值	判定差异是否由随机性造成

学习要点总结： 1. 方差分析的本质：是通过比较“由于水平不同造成的波动”和“由实验误差造成的波动”的大小，来判断均值是否有显著差异 。 2. 方差分析表：考试和应用中，通常将 \(S, df, MS, F\) 填入一张标准表格，以便清晰地进行决策。

10. 回归分析

---

回归分析概述 (Overview)

本节主要介绍回归分析的基本任务和建模背景。

1. 回归分析的任务：
   • 确定变量间的数学关系式（回归方程）。
   • 对关系的密切程度进行统计检验。
   • 利用回归方程进行预测和控制。
2. 相关关系的分类：
   • 函数关系：确定性关系（如 \(y=ax\)）。
   • 相关关系：非确定性关系，受随机因素影响（如身高与体重的关系）。

---

参数估计 (Parameter Estimation)

本节讨论如何利用样本数据确定一元线性回归模型中的未知参数。

1. 一元线性回归模型：
   • 模型公式：\(Y = \beta_0 + \beta_1 x + \epsilon\)。
   • 变量含义：
     • \(Y\)：因变量（随机变量）。
     • \(x\)：自变量（一般认为是可精确测量的普通变量）。
     • \(\beta_0, \beta_1\)：待估参数（回归系数）。
     • \(\epsilon\)：随机误差，通常假设 \(\epsilon \sim N(0, \sigma^2)\)。
2. 最小二乘法 (Least Squares Method)：
   • 核心思想：寻找估计值 \(\hat{\beta}_0, \hat{\beta}_1\)，使得观测值 \(y_i\) 与拟合值 \(\hat{y}_i\) 之间的残差平方和 \(Q\) 最小。
   • 目标函数：\(Q(\beta_0, \beta_1) = \sum_{i=1}^n (y_i - \beta_0 - \beta_1 x_i)^2 \to \min\)。
   • 正规方程组推导（利用连等号简述）： \(\frac{\partial Q}{\partial \beta_0} = -2\sum(y_i - \beta_0 - \beta_1 x_i) = 0\) \(\frac{\partial Q}{\partial \beta_1} = -2\sum(y_i - \beta_0 - \beta_1 x_i)x_i = 0\)
   • 求解结果：
     • \(\hat{\beta}_1 = \frac{S_{xy}}{S_{xx}}\)
     • \(\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}\)
   • 相关中间变量：
     • \(S_{xx} = \sum (x_i - \bar{x})^2\)：自变量的离差平方和。
     • \(S_{xy} = \sum (x_i - \bar{x})(y_i - \bar{y})\)：自变量与因变量的离差乘积和。

---

假设检验 (Hypothesis Testing)

建立模型后，必须检验 \(x\) 与 \(y\) 之间的线性关系是否显著。

1. 显著性检验 (F 检验)：
   • 平方和分解（核心推导）： \(S_T = S_R + S_E\)
     • \(S_T = \sum (y_i - \bar{y})^2\)：总平方和，反映 \(y\) 的总波动。
     • \(S_R = \sum (\hat{y}_i - \bar{y})^2\)：回归平方和，由 \(x\) 引起的变化。
     • \(S_E = \sum (y_i - \hat{y}_i)^2\)：残差平方和，由随机误差引起。
   • 检验统计量：\(F = \frac{S_R / 1}{S_E / (n-2)} \sim F(1, n-2)\)。
   • 判断依据：若 \(F > F_\alpha\)，说明 \(x\) 对 \(y\) 的线性影响显著。
2. 相关系数检验 (r 检验)：
   • 相关系数 \(r\)：\(r = \frac{S_{xy}}{\sqrt{S_{xx} S_{yy}}}\)。
   • 含义：\(|r|\) 越接近 1，线性相关性越强；\(|r|=0\) 则不相关。

---

预测与控制 (Prediction and Control)

1. 点预测：对于给定的 \(x = x_0\)，预测值为 \(\hat{y}_0 = \hat{\beta}_0 + \hat{\beta}_1 x_0\)。
2. 区间预测：在给定的置信水平 \(1-\alpha\) 下，确定 \(y_0\) 的可能范围。
   • 预测区间不仅考虑参数估计的误差，还需考虑随机误差 \(\epsilon\) 的波动。

---

非线性回归的线性化处理 (Linearization)

对于某些非线性关系，可以通过变量代换转化为线性回归来处理。

• 指数模型：\(y = a e^{bx}\) \(\implies\) 取对数：\(\ln y = \ln a + bx\)。
• 幂函数模型：\(y = a x^b\) \(\implies\) 取对数：\(\ln y = \ln a + b \ln x\)。
• 变量含义：代换后，将 \(\ln y\) 看作新的 \(Y'\)，\(\ln x\) 看作新的 \(X'\)，再套用二节的线性公式即可。

---

变量汇总说明表

变量符号	含义	备注
\(n\)	样本容量	观测数据的对数
\(\hat{y}\)	回归拟合值	根据模型计算出的预测值
\(\bar{x}, \bar{y}\)	样本均值	数据的中心点
\(S_E\)	残差平方和	模型未能解释的波动
\(\sigma^2\)	误差方差	反映模型精度，估计值为 \(\hat{\sigma}^2 = \frac{S_E}{n-2}\)
\(R^2\)	判定系数	\(R^2 = S_R / S_T\)，越接近1模型拟合越好

学习建议： 1. 重点：掌握最小二乘法的计算步骤和 \(F\) 检验的原理。 2. 技巧：在计算 \(S_{xx}\) 和 \(S_{xy}\) 时，利用计算器的统计功能可以大幅提高准确度。 3. 后续扩展：部分教材（如浙大版 ）还会涉及多元线性回归，其逻辑与一元相似，但需使用矩阵运算处理。