第四章 随机变量的数字特征

P 90 ~ 113 正文
P 113 ~ 118 习题

1. 数学期望

定义

离散型随机变量的数学期望
设离散型随机变量X的分布律为 P \lbrace X=x_k \rbrace = p_k, k=1,2,\cdots
若级数 \displaystylesum_{k=1}^{infty}x_kp_k 绝对收敛, 则称级数\displaystylesum_{k=1}^{infty}x_kp_k的和为随机变量X的数学期望, 记为E(X).即 E(X)=\displaystylesum_{k=1}^{infty}x_kp_k

连续型随机变量的数学期望
设连续性随机变量X的概率密度为f(x),
若积分int_{-infty}^{infty}xf(x)dx 绝对收敛, 则称积分int_{-infty}^{infty}xf(x)dx的值为随机变量X的数学期望, 记为E(X).即 E(X) = int_{-infty}^{infty}xf(x)dx

数学期望简称期望, 又称均值.

例1: 设X text{textasciitilde} pi(lambda), 求E(X). 解: E(X)=lambda

例1中涉及一个证明, 即 displaystylesum_{k=1}^{infty} frac{lambda^{k-1}}{(k-1)!} = e^{lambda}e^x的泰勒展开.

例2: 设X~U(a,b), 求E(X). 解: E(X)=a+b/2

定理

Y 是随机变量X的函数, Y=g(X) ( g 是连续函数)

离散型随机变量函数的数学期望
如果 X 是离散型随机变量, 它的分布律为 P lbrace X=x_k rbrace = p_k, k=1,2,cdots
displaystylesum_{k=1}^{infty}x_kp_k 绝对收敛, 则有 E(Y) = E(g(X)) = displaystylesum_{k=1}^{infty}g(x_{k})p_k

连续型随机变量函数的数学期望
如果 X 是连续型随机变量, 它的概率密度函数为f(x).
int_{-infty}^{infty}g(x)f(x)dx 绝对收敛, 则有 E(Y) = E(g(X)) = int_{-infty}^{infty}g(x)f(x)dx

定理的证明超过了本书的范畴, 因此只针对特定情况给出部分证明.

该定理还可推广到两个或两个以上随机变量的函数的情况.

多维随机变量函数的数学期望
Z 是随机变量 X,Y 的函数 Z=g(X,Y) ( g 是连续函数), 那么 Z 是一个一维随机变量.

多维离散型随机变量函数的数学期望
若二维随机变量 (X,Y) 的分布律为 P lbrace X = x_i, Y = y_j rbrace = p_{ij}, i,j = 1,2,cdots, 则有 E(Z) = E[g(X,Y)] = displaystylesum_{j=1}^{infty}displaystylesum_{i=1}^{infty}g(x_i,y_j)p_{ij}

多维连续随机变量函数的数学期望
若二维随机变量 (X,Y) 的概率密度为 f(x,y), 则有 E(Z) = E[g(X,Y)] = int_{infty}^{infty}int_{infty}^{infty}g(x,y)f(x,y)dxdy

这里也需满足上述级数或积分绝对收敛的条件.

数学期望的一些性质
1. 设C是常数, 则有E(C) = C.
2. 设X是一个随机变量, C是常数, 则有 E(CX)=CE(X)
3. 设X,Y是两个随机变量, 则有 E(X+Y) = E(X) + E(Y)
4. 设X,Y是相互独立的随机变量, 则有 E(XY) = E(X)E(Y)
性质1,2 略, 3,4有证明.

2. 方差

定义

X 是一个随机变量, 若 E([X-E(X)]^2) 存在, 则称 E([X-E(X)]^2)X方差, 记为 D(X)Var(X) , 即 D(X) = Var(X) = E([X-E(X)]^2)
引入sqrt{D(X)}, 记为 sigma(X) , 称为 标准差均方差 .

随机变量X的方差表达了X的取值与其数学期望的偏离程度.

随机变量X的方差可以通过如下公式进行计算,证明略 : D(X) = E(X^2) – [E(X)]^2

例: 设随机变量X具有数学期望E(X) = mu, 方差 D(X) = sigma^2 neq 0. 记 X^* = frac{X – mu}{sigma}, 则 CONTINUED, 即 X^*的数学期望为0, 方差为1. X^* 称为 X标准化变量.

例1: 设随机变量 X ~ pi(lambda) , 求 D(X) .

例2: 设随机变量 X ~ U(a,b) , 求 D(X) .

例3: 设随机变量 X 服从指数分布, 求 E(X),D(X) .
答3: E(X) = theta, D(X) = theta^2

方差的一些性质
1. 设 C 是常数, 则D(C) = 0
2. 设 X 是随机变量, C 是常数, 则 D(CX) = C^2D(X), D(X+C) = D(X)
3. 设 X,Y 是两个随机变量, 则有 D(X+Y) = D(X) + D(Y) + 2Elbrace (X-E(X))(Y-E(Y)) rbrace.
X,Y 相互独立, 则有 D(X+Y) = D(X) + D(Y)
4. D(X) = 0 的充要条件是 X

例: 设随机变量X ~ b(n,p), 求E(X),D(X).
例: 设随机变量X ~ N(mu,lambda^2), 求E(X),D(X).

定理
切比雪夫不等式 : 设随机变量X具有数学期望E(X) = mu, 方差D(X) = lambda^2, 则对于任意正数epsilon, 不等式 continues 成立.

3. 协方差

定义
协方差
相关系数

协方差的一些性质

相关系数的一些性质

不相关和相互独立
不相关只是就线性关系而言的, 而相互独立是就一般关系而言的.

4. 矩, 协方差矩阵

定义

混合矩
中心矩
混合中心矩阵

协方差矩阵

协方差矩阵的一些性质

用协方差矩阵重写二维正态随机变量, 并推到至多维正态随机变量.

$n$维正态随机变量的四条重要性质

  1. $n$维正态随机变量$(X_1,X_2,cdots,X_n)$的每一个分量$X_i, i=1,2,cdots,n$都是正态随机变量; 反之, 若$X_1,X_2,cdots,X_n$都是正态随机变量,且相互独立, 则$(X_1,X_2,cdots,X_n)$是$n$维正态随机变量.
  2. $n$维随机变量服从$n$维正态分布的充要条件是$X_1,X_2,cdots,X_n$的任意的线性组合$l_1X_1 + l_2X_2 + cdots + l_nX_n$ 服从一维正态分布(其中$l_1,l_2,cdots,l_n$不全为零).

  3. 正态变量的线性变换不变性

  4. (X_1,X_2,cdots,X_n)服从n维正态随机分布, 则’X_1,X_2,cdots,X_n相互独立’与’X_1,X_2,cdots,X_n两两不相关’是等价的.

Tips :
这里可以看性质2和1的区别. 性质1中得出的结论是n维正态随机变量的每一个分量都是正态随机变量. 但是性质2中, 更多的是讲述如何确定一个n维随机变量是n维正态随机变量.
性质4更多的是提示相互独立和两两不相关等价, 则得知X_1,X_2,cdots,X_n服从n维正态随机分布的情况下, 可以根据两两不相关得出Cov(X_i,X_j) = 0

发表评论

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据