把正态随机变量变成「平面向量」
取相互独立且都服从标准正态分布 $N(0,1)$ 的基底 $(U, V)$,将中心化后的随机变量写成平面向量:方差、协方差、相关系数与条件分布全部转化为初等几何问题。
标准差是向量的长度 $\|\mathbf{x}\|$
方差是长度的平方 $\|\mathbf{x}\|^2$
协方差是向量内积 $\mathbf{x}\cdot\mathbf{y}$
相关系数是夹角余弦 $\cos\theta$
条件均值看投影,条件方差看垂直分量平方
直白记忆(4 句话概括几何法):
- 方差是向量长度的平方,所以标准差就是向量的长度;
- 协方差是向量的内积(垂直即内积为 $0$,联合正态下等价于独立);
- 相关系数是向量夹角的余弦($\rho = \cos\theta$);
- 条件均值由投影决定,条件方差由垂直分量决定(条件标准差就是垂直分量的长度)。
1. 概率语言与几何语言对照 速查字典
中心化变量 $X - \mu_X,\; Y - \mu_Y$
向量 $\mathbf{x} = (\sigma_X, 0)$,$\mathbf{y} = (\rho\sigma_Y, \sqrt{1-\rho^2}\sigma_Y)$
标准差 $\mathrm{SD}(X)$ 与方差 $\mathrm{Var}(X)$
向量长度 $\|\mathbf{x}\|$ 与长度平方 $\|\mathbf{x}\|^2$
协方差 $\mathrm{Cov}(X, Y)$ 与 $\rho_{XY}$
内积 $\mathbf{x}\cdot\mathbf{y}$ 与夹角余弦 $\cos\theta$
线性组合 $aX + bY$(联合正态)
合成向量 $a\mathbf{x} + b\mathbf{y}$;两向量垂直 $\iff$ 独立
条件均值 $E(Y \mid X = x)$
由 $\mathbf{y}$ 在 $\mathbf{x}$ 方向的平行投影长度决定
条件方差 $\mathrm{Var}(Y \mid X = x)$
$\mathbf{y}$ 垂直于 $\mathbf{x}$ 的分量长度的平方
2. 交互式向量与投影实验室 动手拖动
这张图表示什么意义?
- 坐标轴 $(U, V)$:代表两个互相独立的标准正态随机变量 $N(0,1)$,在几何上互相垂直且长度为 $1$。
- 蓝色与绿色箭头:把 $X-\mu_X$ 放在 $U$ 轴上作为基准向量 $\mathbf{x}$,再把 $Y-\mu_Y$ 画成与 $\mathbf{x}$ 成 $\theta$ 角的向量 $\mathbf{y}$,其中 $\cos\theta = \rho_{XY}$。
- 橙色线段(平行投影):给定 $X=x$ 时,$\mathbf{y}$ 在 $\mathbf{x}$ 方向上的影子被固定下来,长度 $\rho\sigma_Y$ 决定了条件均值 $E(Y\mid X=x)$ 随 $x$ 变化的斜率。
- 紫色垂线(垂直分量):垂直于 $\mathbf{x}$ 的那部分(沿 $V$ 轴)与 $X$ 独立,依然保留随机性,它的长度 $\sigma_Y\sqrt{1-\rho^2}$ 就是条件标准差 $\mathrm{SD}(Y\mid X=x)$。
向量夹角 $\theta$
60.0°
投影长度 $\rho\sigma_Y$
+0.75
条件标准差 $\mathrm{SD}(Y\mid X=x)$
1.30
条件方差 $\mathrm{Var}(Y\mid X=x)$
1.69
例题 1:二维线性组合与正交独立 二维应用
设 $(X, Y)$ 服从二维正态分布,已知 $\sigma_X = 3$,$\sigma_Y = 4$,$\rho_{XY} = -\dfrac{1}{2}$。令
$$Z = \frac{X}{3} + \frac{Y}{2}$$
求 $\rho_{XZ}$,并说明 $X$ 与 $Z$ 是否独立。
示意图表示什么意义?
- 首尾相接的三角形:把线性组合 $Z = \frac{1}{3}X + \frac{1}{2}Y$ 画成向量加法 $\mathbf{z} = \frac{1}{3}\mathbf{x} + \frac{1}{2}\mathbf{y}$。
- 水平完全抵消:因为 $\rho_{XY}=-\frac{1}{2}$,$\mathbf{y}$ 与 $\mathbf{x}$ 成 $120^\circ$ 钝角,所以 $\frac{1}{2}\mathbf{y}$ 向左回退了 $2\cos 60^\circ = 1$,恰好把 $\frac{1}{3}\mathbf{x}$ 向右的 $1$ 抵消。
- 垂直即独立:合成后的橙色向量 $\mathbf{z}$ 刚好竖直向上(与 $\mathbf{x}$ 垂直),说明 $\mathrm{Cov}(X, Z) = \mathbf{x}\cdot\mathbf{z} = 0$,在联合正态下直接得出独立。
例题 1 分步几何与代数解析
- 翻译成向量长度与夹角:$\|\mathbf{x}\| = 3$,$\|\mathbf{y}\| = 4$,$\cos\theta = \rho_{XY} = -\dfrac{1}{2}$,因此 $\mathbf{x}$ 与 $\mathbf{y}$ 的夹角 $\theta = 120^\circ$。
- 缩放合成向量:$\mathbf{z} = \dfrac{1}{3}\mathbf{x} + \dfrac{1}{2}\mathbf{y}$,两分向量长度分别为 $\left\|\dfrac{1}{3}\mathbf{x}\right\| = 1$ 和 $\left\|\dfrac{1}{2}\mathbf{y}\right\| = 2$。
- 计算内积(看水平投影): $$\mathbf{x}\cdot\mathbf{z} = \mathbf{x}\cdot\left(\frac{1}{3}\mathbf{x} + \frac{1}{2}\mathbf{y}\right) = \frac{1}{3}\|\mathbf{x}\|^2 + \frac{1}{2}(\mathbf{x}\cdot\mathbf{y}) = \frac{1}{3}\cdot 9 + \frac{1}{2}\cdot (-6) = 3 - 3 = 0$$
- 代回概率结论:$\mathrm{Cov}(X, Z) = 0 \implies \rho_{XZ} = 0$。由于 $(X, Y)$ 联合正态,线性组合 $(X, Z)$ 也联合正态,零相关等价于 $X$ 与 $Z$ 相互独立。
例题 2:三维样本均值残差的相关性 三维推广
设 $X_1, X_2, X_3$ 是来自同一总体的独立同分布样本,且 $\mathrm{Var}(X_i) = \sigma^2$。令 $\bar{X} = \dfrac{X_1 + X_2 + X_3}{3}$,求
$$\mathrm{Corr}(X_1 - \bar{X},\; X_2 - \bar{X})$$
示意图表示什么意义?
- 虚线圆:表示所有残差系数向量 $\mathbf{r}_i$ 的长度完全相等($\|\mathbf{r}_i\| = \sqrt{1 - \frac{1}{n}}$)。
- 中心对称辐射:因为样本均值的中心化约束,$\sum_{i=1}^n (X_i - \bar{X}) = 0$,所以所有残差向量之和为 $\mathbf{0}$,在正交于 $\mathbf{1}=(1,1,\dots,1)$ 的超平面内呈完全对称分布。
- 固定夹角:$n=3$ 时三等分 $360^\circ$,夹角必为 $120^\circ$,余弦就是 $-\frac{1}{2}$;推广到 $n$ 维时任意两向量的夹角余弦固定为 $-\frac{1}{n-1}$。
例题 2 分步几何与代数解析
- 转成系数向量:把独立同分布样本 $(X_1, X_2, X_3)$ 看作三维正交基底,则 $$\mathbf{r}_1 = \left(\frac{2}{3}, -\frac{1}{3}, -\frac{1}{3}\right), \quad \mathbf{r}_2 = \left(-\frac{1}{3}, \frac{2}{3}, -\frac{1}{3}\right)$$
- 算内积与模长平方: $$\mathbf{r}_1 \cdot \mathbf{r}_2 = -\frac{2}{9} - \frac{2}{9} + \frac{1}{9} = -\frac{1}{3}, \quad \|\mathbf{r}_1\|^2 = \|\mathbf{r}_2\|^2 = \frac{4}{9} + \frac{1}{9} + \frac{1}{9} = \frac{2}{3}$$
- 夹角余弦即相关系数: $$\mathrm{Corr}(X_1 - \bar{X}, X_2 - \bar{X}) = \frac{\mathbf{r}_1 \cdot \mathbf{r}_2}{\|\mathbf{r}_1\|\|\mathbf{r}_2\|} = \frac{-1/3}{2/3} = -\frac{1}{2}$$
- $n$ 维一般结论:令 $\mathbf{r}_i = \mathbf{e}_i - \frac{1}{n}\mathbf{1}$,则 $\|\mathbf{r}_i\|^2 = 1 - \frac{1}{n}$,$\mathbf{r}_i \cdot \mathbf{r}_j = -\frac{1}{n}$ ($i \neq j$),故 $\mathrm{Corr}(R_i, R_j) = -\dfrac{1}{n-1}$。
例题 3:由条件分布反推相关系数 投影法
已知 $X \sim N(0, 1)$,且对任意 $x$,有 $Y \mid X = x \sim N(x, 1)$。求相关系数 $\rho_{XY}$。
示意图表示什么意义?
- 把条件分布拆成两条直角边:已知 $X\sim N(0,1)$(基准向量 $\|\mathbf{x}\|=1$),条件均值 $E(Y\mid X=x)=1\cdot x$ 直接给出橙色底边(投影 $= 1$)。
- 紫色垂线来自条件方差:$N(x, 1)$ 中的第二个参数 $1$ 是方差,开根号 $\sqrt{1}=1$ 就是紫色垂直分量的长度。
- 斜边与夹角一目了然:底边 $1$、高 $1$ 拼出等腰直角三角形,斜边 $\|\mathbf{y}\|=\sqrt{2}$ 就是 $\sigma_Y$,夹角 $45^\circ$ 直接读出 $\rho_{XY} = \cos 45^\circ = \frac{\sqrt{2}}{2}$。
例题 3 分步几何与代数解析
- 读取条件均值(投影):$E(Y \mid X = x) = x$,对比公式 $E(Y \mid X = x) = \mu_Y + \dfrac{\rho\sigma_Y}{\sigma_X}(x - \mu_X)$,因 $\mu_X=0, \sigma_X=1$,得 $\rho\sigma_Y = 1$。
- 读取条件方差(垂直分量平方):$\mathrm{Var}(Y \mid X = x) = \sigma_Y^2(1 - \rho^2) = 1$,因此垂直分量长度为 $\sqrt{1} = 1$。
- 勾股定理求 $\sigma_Y$:$\sigma_Y = \|\mathbf{y}\| = \sqrt{1^2 + 1^2} = \sqrt{2}$。
- 求夹角余弦:$\rho_{XY} = \dfrac{\text{投影}}{\|\mathbf{y}\|} = \dfrac{1}{\sqrt{2}} = \dfrac{\sqrt{2}}{2}$。
3. 随堂小练:先想再看解析 巩固练习
练习 A:设 $(X, Y)$ 服从二维正态分布,$\sigma_X = 2$,$\sigma_Y = 2$,$\rho_{XY} = \dfrac{1}{2}$。请问 $X + Y$ 与 $X - Y$ 是否独立?
查看练习 A 几何解析
向量 $\mathbf{x}$ 与 $\mathbf{y}$ 的长度相等(都是 $2$),它们构成一个菱形!菱形的两条对角线 $\mathbf{x} + \mathbf{y}$ 与 $\mathbf{x} - \mathbf{y}$ 永远互相垂直,即 $(\mathbf{x}+\mathbf{y})\cdot(\mathbf{x}-\mathbf{y}) = \|\mathbf{x}\|^2 - \|\mathbf{y}\|^2 = 0$。联合正态下零相关即独立,因此 $X + Y$ 与 $X - Y$ 相互独立。
练习 B:设 $X \sim N(0, 4)$,且对任意 $x$ 有 $Y \mid X = x \sim N(2x + 1,\; 9)$。求 $\sigma_Y$ 和 $\rho_{XY}$。
查看练习 B 几何解析
- 由 $X \sim N(0, 4)$ 得 $\sigma_X = \sqrt{4} = 2$。
- 条件均值斜率为 $2 = \dfrac{\rho\sigma_Y}{\sigma_X} = \dfrac{\rho\sigma_Y}{2}$,所以 $\mathbf{y}$ 在 $\mathbf{x}$ 方向的投影长度为 $\rho\sigma_Y = 4$。
- 条件方差为 $9$,所以垂直分量长度为 $\sqrt{9} = 3$。
- 由 $3$-$4$-$5$ 直角三角形,斜边 $\sigma_Y = \sqrt{4^2 + 3^2} = 5$,夹角余弦 $\rho_{XY} = \dfrac{4}{5} = 0.8$。