协方差和相关系数，矩和协方差矩阵.ppt

§ 协方差和相关系数
[X-E(X)][Y-E(Y)]存在,则称其为随机变量X与Y的协方差。记为Cov(X,Y)即
Cov(X,Y) = E[X-E(X)][Y-E(Y)]
协方差
Cov(X,Y) =


离散型随机向量
其中P{X=xi ,Y=yj}=pij i,j=1,2,3,….
连续型随机向量
Cov(X,Y)
3. 协方差计算公式
Cov(X,Y)=E(XY )-E(X)E(Y)
(1) 若 X与Y独立,则Cov(X,Y)=0
注
(2)D(X ± Y) = D(X) + D(Y) ± 2 Cov(X,Y)
例1.
求Cov(X,Y)
Y 1 2 3
1 0 1/6 1/12
2 1/6 1/6 1/6
3 1/12 1/6 0
X
1/4
1/2
1/4
¼ ½ ¼
解:
E(X) = 2 , E(Y) = 2;
Cov(X,Y) = 23/6 – 4 = - 1/6 ;
E(XY) =
求
解因为
同理可得
例2 设二维(X,Y)随机变量的密度函数为
4. 协方差的性质
(4)当X与Y相互独立时,有 Cov(X,Y) = 0
(1) Cov(X,Y) = Cov(Y,X)
(2) Cov(aX,bY) = ab Cov(X,Y), a,b 为常数
(3) Cov(X1+X2,Y) = Cov(X1,Y) + Cov(X2,Y)
(X)= 2,D(Y)= 4,COV(X,Y)= -2,求 3X-4Y+8 的方差。
解: D(3X-4Y+8 )=D(3X) + D(4Y) - 2COV(3X,4Y)
= 9D(X) + 16D(Y) –24COV(X,Y)
= 18 + 64 + 48 = 130
若X,Y相互独立, D(3X-4Y+8 ) = D(3X) + D(4Y) = 82
由协方差的性质(2)知,协方差取值的大小要受到量纲的影响,
为了消除量纲对协方差值的影响,我们把X,Y标准化后再求协方
差
(标准协方差)
,若D(X)≠0, D(Y)≠0则称
为随机变量X和Y的相关系数。(标准协方差)
当ρXY = 0时, 称X与Y不相关。

(1)|ρXY| ≤ 1;
(2)|ρXY| = 1当且仅当 P{Y=aX+b}=1 , 其中a, b为常数。
相关系数ρXY刻划了随机变量X和Y的线性相关程度。
例2.
求ρXY
解:
E(X) = 2 , E(Y) = 2;
E(X2) = 9/2 , E(Y2) = 9/2;
D(X) =1/2 D(Y) = 1/2 。
E(XY) =
Cov(X,Y) = 23/6 – 4 = - 1/6 ;
¼ ½ ¼
Y 1 2 3
1 0 1/6 1/12
2 1/6 1/6 1/6
3 1/12 1/6 0
X
1/4
1/2
1/4
例3. 设随机变量X的方差D(X)≠0且 Y=aX+b(a≠0), 求X和
Y的相关系数ρXY
解:
(1)|ρXY| ≤ 1;
于是,判别式△= 4[Cov(X,Y)]2 – 4D(X)·D(Y)≤0
证明:(1)考虑实变量t的二次函数
因 q(t) ≥0,D(X) ≥0,
即方程 q(t)= 0 或者没有实根或者有重根,
,故|ρXY | ≤1.
(2)|ρXY| = 1当且仅当 P{Y=aX+b}=1 , 其中a, b为常数。
2. ρXY的性质
(2) |ρXY |=1相当于[Cov(X,Y)]2=D(X)·D(Y) ,
即相当于方程
有二重根,记为t0,即
E{[(X—E(X))t0+(Y—E(Y))]2}=0.
结合E{[X—E(X)t0+(Y—E(Y))]}=0, 得到
D[(X—E(X))t0+(Y—E(Y))]=0.
由方差性质5知,上式成立的充要条件是
P{[X—E(X)]t0+[Y—E(Y)]=0}=1,
即 P{Y=aX+b}=1.
其中a= -t0,b=t0E(X)+E(Y)为常数.