《概率论与数理统计第16讲.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计第16讲.ppt（55页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、概率论与数理统计第16讲本讲义可在网址http:/或ftp:/下载1 14.3 协方差与相关系数2 2对多维随机变量,随机变量的数学期望和方差只反映了各自的平均值与偏离程度,并没能反映随机变量之间的关系.本节将要讨论的协方差是反映随机变量之间依赖关系的一个数字特征.3 3在证明方差的性质时,我们已经知道,当X与Y相互独立时,有EX-E(X)Y-E(Y)=0反之则说明,当EX-E(X)Y-E(Y)0时,X与Y一定不相互独立.这说明量EX-E(X)Y-E(Y)在一定程度上反映了随机变量X与Y之间的关系.4 4一一,协方差的定义协方差的定义定义定义1 设(X,Y)为二维随机向量,若EX-E(X)Y-
2、E(Y)存在,则称其为随机变量X和Y的协方差协方差,记为cov(X,Y),即cov(X,Y)=EX-E(X)Y-E(Y).(3.1)5 5cov(X,Y)=EX-E(X)Y-E(Y)按定义,若(X,Y)为离散型随机变量,其概率分布为PX=xi,Y=yj=pij (i,j=1,2,)则6 6cov(X,Y)=EX-E(X)Y-E(Y)若(X,Y)为连续型随机变量,其概率密度为f(x,y),则7 7cov(X,Y)=EX-E(X)Y-E(Y)此外,利用数学期望性质,易将协方差的计算化简 cov(X,Y)=E(XY)-E(X)E(Y)(3.4)事实上cov(X,Y)=EX-E(X)Y-E(Y)=E(
3、XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)=E(XY)-E(X)E(Y)特别地,当X与Y独立时,有cov(X,Y)=08 8二二,协方差的性质协方差的性质1.协方差的基本性质(1)cov(X,X)=D(X);(2)cov(X,Y)=cov(Y,X);(3)cov(aX,bY)=abcov(X,Y),a,b为常数;(4)cov(C,X)=0,C为常数;(5)cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y).(6)若X,Y相互独立时,则cov(X,Y)=0.9 92.随机变量和方差与协方差的关系 D(XY)=D(X)+D(Y)2cov(X,Y),(3.5)特别地,
4、若X与Y相互独立时,则D(XY)=D(X)+D(Y)注注:上述结果可推广至n维情形:1010若X1,X2,Xn两两独立,则可以证明:如果X,Y的方差存在,则(3.6)1111例例1 已知离散型随机向量(X,Y)的概率分布为 Y X-10200.10.2010.30.050.120.1500.1求cov(X,Y)1212解解 计算E(X),YX-10200.10.2010.30.050.120.1500.10000.30.050.10.300.2xipij求和E(X)=0.951313计算E(Y),YX-10200.10.2010.30.050.120.1500.1-0.100-0.300.2-
5、0.1500.2yjpij求和E(Y)=-0.151414计算E(XY),YX-10200.10.2010.30.050.120.1500.1000-0.300.2-0.300.4xiyjpij求和E(XY)=01515E(X)=0.95,E(Y)=-0.15,E(XY)=0于是cov(X,Y)=E(XY)-E(X)E(Y)=0.950.15=0.14251616例例2 设连续型随机变量(X,Y)的密度函数为求cov(X,Y)和D(X+Y).解解 由(X,Y)的密度函数求边缘密度函数1717于是1818从而得又1919所以故2020三三,相关系数的定义相关系数的定义协方差是对两个随机变量的协同
6、变化的度量,其大小在一定程度上反映了X和Y相互间的关系,但它还受X与Y本身度量单位的影响.例如,kX与kY之间的统计关系与X与Y之间的统计关系应该是一样的,但其协方差却扩大了k2倍,即cov(kX,kY)=k2cov(X,Y)2121为了避免这一点,可将每个随机变量标准化,即取并将cov(X*,Y*)作为X与Y之间相互关系的一种度量,而2222定义定义2 设(X,Y)为二维随机变量,D(X)0,D(Y)0,称为随机变量X和Y的相关系数相关系数.有时也记rXY为r.特别地,当rXY=0时,称X与Y不不相关相关.2323四四,相关系数的性质相关系数的性质1.|rXY|1242425252.若X和Y
7、相互独立,则rXY=0.但反之不成立.注注:进一步有:rXY=0cov(X,Y)=0 E(XY)=E(X)E(Y)D(XY)=D(X)+D(Y).3.若D(X)0,D(Y)0,则|rXY|=1当且仅当存在常数a(a0),使PY=aX+b=1.而且当a0时,rXY=1,当a0,当rXY=-1时,a0,D(Y)0,则使均方误差达到最小.3131证明证明 因e=EY-(aX+b)2=E(Y2)+a2E(X2)+b2-2aE(XY)+2abE(X)-2bE(Y).由解得3232注注:我们可用均方误差e来衡量以aX+b近似表示Y的好坏程度,e值越小表示aX+b与Y的近似程度越好.且知最佳的线性近似为a0
8、X+b0,这时的均方误差为从这个侧面也能说明|rXY|越接近1,e越小,反之,|rXY|越接近于0,e就越大,Y与X的线性相关性越小.3333例例3 设(X,Y)的分布律为 X Y-2-112PY=yj101/41/401/241/4001/41/2PX=xi1/41/41/41/41易知E(X)=0,E(Y)=5/2,E(XY)=0,于是rXY=0,X,Y不相关.但显然X,Y不是相互独立的,事实上X和Y有关系:Y=X2.3434例例4 设q服从-p,p上均匀分布,X=sinq,Y=cosq判断X与Y是否不相关,是否独立?解解 XY显然不独立,由于所以X与Y不相关.35353636又因故373
9、7例例6 设(X,Y)服从二维正态分布,它的概率密度为求X和Y的相关系数rXY.3838解解在上式中令3939则而指数上的t2-2rtu+u2=t2-2rtu+(ru)2+u2-(ru)2=(t-ru)2+u2(1-r2),因此4040因此,于是4141因此二维正态随机变量(X,Y)的概率密度中的参数r就是X和Y的相关系数,因而二维正态随机变量的分布完全可由X,Y各自的数学期望,方差以及它们的相关系数所确定.注注:若(X,Y)服从二维正态分布,则X与Y相互独立,当且仅当X与Y不相关.4242五五,矩的概念矩的概念定义定义3 设X和Y为随机变量,k,l为正整数,称E(Xk)为k阶原点矩阶原点矩(
10、简称k阶矩阶矩);E(X-E(X)k为k阶中心矩阶中心矩;E(|X|k)为k阶绝对原点矩阶绝对原点矩;E(|X-E(X)|k)为k阶绝对中心矩阶绝对中心矩;E(XkYl)为X和Y的k+l阶混合矩阶混合矩;EX-E(X)kY-E(Y)l 为X和Y的k+l阶混阶混合中心矩合中心矩.4343注:由定义可见:X的数学期望E(X)是X的一阶原点矩;X的方差D(X)是X的二阶中心矩;协方差cov(X,Y)是X和Y的二阶混合中心矩.4444六六,协方差矩阵协方差矩阵将二维随机变量(X1,X2)的四个二阶中心矩c11=EX1-E(X1)2,c22=EX2-E(X2)2,c12=EX1-E(X1)X2-E(X2
11、),c21=EX2-E(X2)X1-E(X1)排成矩阵的形式:(对称矩阵)称此矩阵为(X1,X2)的协方差矩阵协方差矩阵.4545类似定义n维随机变量(X1,X2,Xn)的协方差矩阵.若 cij=cov(Xi,Xj)=EXi-E(Xi)Xj-E(Xj)i,j=1,2,n都存在,则称为(X1,X2,Xn)的协方差矩阵协方差矩阵.4646七七,n维正态分布的概率密度维正态分布的概率密度二维正态随机变量(X1,X2)的概率密度为4747易验算故二维正态随机变量(X1,X2)的概率密度可用矩阵表示为其中(X-m)T是(X-m)的转置.4848进一步,设XT=(X1,X2,Xn)是一个n维随机向量,若它
12、的概率密度为则称X服从n维正态分布.其中,C是(X1,X2,Xn)的协方差矩阵,|C|是它的行列式,C-1表示C的逆矩阵,X和m是n维列向量,(X-m)T是(X-m)的转置.4949八八,n维正态分布的几个重要性质维正态分布的几个重要性质1.n维正态变量(X1,X2,Xn)的每一个分量Xi(i=1,2,n)都是正态变量;反之,若X1,X2,Xn都是正态变量,且相互独立,则(X1,X2,Xn)是n维正态变量.注注:性质中若不具有独立性,则反之不一定成立.50502.n维正态变量(X1,X2,Xn)服从n维正态分布的充要条件是X1,X2,Xn的任意线性组合l1X1+l2X2+lnXn均服从一维正态
13、分布(其中l1,l2,ln不全为零).51513.若(X1,X2,Xn)服从n维正态分布,设Y1,Y2,Yk是Xj(j=1,2,n)的线性函数,则(Y1,Y2,Yk)也服从k维正态分布.注注:这一性质称为正态变量的线性变换不变性.4.设(X1,X2,Xn)服从n维正态分布,则“X1,X2,Xn相互独立”等价于“X1,X2,Xn两两不相关”.5252例例7 设随机变量X和Y相互独立且XN(1,2),YN(0,1),试求Z=2X-Y+3的概率密度.解解 按题意Z为X,Y的线性组合,因此也服从正态分布,E(Z)=2E(X)-E(Y)+3=2+3=5D(Z)=4D(X)+D(Y)=8+1=9ZN(5,32)即Z的概率密度是5353课堂练习课堂练习1.对不同品牌的某种机械的两项重要指标评分,设X1,X2为其所得分数(百分制).已知E(X1)=68.9,E(X2)=72.8D(X1)=81,D(X2)=49;cov(X1,X2)=36.现以服从正态分布的综合分来决定各参评品牌的名次.(1)试求Y的分布;(2)如果对综合分Y85的品牌颁奖,试计算获奖者的百分比.5454作业 习题4-3第141页开始第1,2,9题5555