《《概率论与数理统计》学习笔记八.pdf》由会员分享，可在线阅读，更多相关《《概率论与数理统计》学习笔记八.pdf（19页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、概率论与数理统计学习笔记八 主 题主 题：概率论与数理统计学习笔记 学习时间学习时间：整学期 概率论与数理统计学习笔记八 概率论与数理统计学习笔记八 随机变量的数字特征随机变量的数字特征 由 2,3 两章的讨论可知，分布函数完整地描述了随机变量的统计规律。但在实际问题中，求一个随机变量的分布函数往往不是一件容易的事情，有时甚至是不可能的，而有些实际问题，只要求知道描述随机变量的某些概率特征，并不需要知道其分布函数。例如在分析某种型号的日光灯的质量情况时，常常只需知道日光灯的平均寿命，以及日光灯的寿命与平均寿命的偏离程度，如果平均寿命长且各日光灯的寿命与平均寿命偏离程度小，这批日光灯的质量就好。
2、可见平均寿命和偏离程度这两个特殊的数都从某一侧面反映了日光灯寿命这个随机变量的某些重要特征，此外，某些分布类型已知的随机变量，只要知道它们数字特征就可以完全确定其分布规律（如正态分布、泊松分布等）。因此随机变量的数字特征在理论研究和实际应用中都具有重要意义。本章将介绍常用的最重要的数字特征：数学期望、方差、相关系数和各阶矩。一 离散型随机变量的数学期望一 离散型随机变量的数学期望 引例：今有甲、乙两个射手，他们的射击技术用下表给出：甲射手 乙射手 击中环数 8 9 10 击中环数 8 9 10 概率 0.3 0.1 0.6 概率 0.2 0.5 0.3 试问哪位射手技术水平较高？这个问题的答案
3、不是一眼就看得出的，这说明分布列虽然完整地描述了随机变量，但是却不够“集中”地反映出它的变化情况。因此我们有必要找出一些量来更集中、更概括地描述随机变量，这些量多是某种平均值。上述例子中，若使两射手各射 N 枪，则他们打中环数大约是：甲：80.3N90.1N100.6N9.3N 乙：80.2N90.5N100.3N9.1N 平均起来，甲每枪射中 9.3 环，乙射中 9.1 环，可见甲射手的技术水平较高。同时我们看到这种反映随机变量取值“平均”意义特征的数值恰好是：这个随机变量一切可能取值与相应概率乘积总和。因此我们可把这乘积之和作为刻画随机变量取值的平均的数字特征，称为均值或数学期望。1 定义
4、 设随机变量X的分布列为,1,2,iiP XxP i=L，若1iiix p=绝对收敛，则称其为X的数学期望或均值，记为iiiEXx p=。概率论与数理统计学习笔记八 注：定义中对级数要求绝对收敛，是因各ix顺序对随机变量不是本质的，因而在数学期望的定义中就应允许改变ix的顺序而不影响其收敛性及其和值，这在数学上就相当于要求级数绝对收敛。数学期望作为随机为变量取值的平均是以概率加权平均。2重要分布的数学期望（1）（01）分布 X 0 1 1-Ppp ，01p EXp=。（2）Poisson 分布 ()XP 即,0,1,2,!keP Xkkk=L()00111,0,1,2,!1!kKkkkkkke
5、EXKpKkkekekKee=L（3）二项分布(,)XB n p，即()(1),0,1,kkn knP XkC pPkn=L()()()()()()()0111111!1!1!1!nnn kkkknkknkn kknkn kknEXKpKC ppnKp qqknknnppqknknp pqnp=+=p 二连续型随机变量的数学期望二连续型随机变量的数学期望 设连续型随机变量X具有概率分布密度，如何定义()f xEX。对于()Xf x，取分点01n 1xxx+L，则X落入子区间)1,iiixx x+=内的概率为 (11iixiixP xXxf x dx+=当ix充分小时，有)概率论与数理统计学习笔
6、记八 ()1,0,1,iiiiP xXxf xx in+=L.此时分布律为：()()()010011:nnnxxxXf xxf xxf xxL%L 的离散型随机变量可看作X%X的一种近似（n 充分大时）。而这个离离型随机变量的数学期望为 X%()iiiix f xx，它近似地表达了连续型随机变量X的均值，当分点愈密时，这种近似愈好，由高等数学知识可知，上述和式以积分 ()xf x dx 为极限，因而有如下连续随机变量的数学期望的定义。1定义 设连续型随机变量X的概率密度为，若()f x()()f x d x绝对收敛，（即()x f x dx0,)0,0 xexf xx=常数 ()01xEXxf
7、 x dxx edx=（3）正态分布 X服从正态分布(2,N)，即X的概率密度函数为 概率论与数理统计学习笔记八()()2221,.2xfxex=()22212xEXxe=dx 令 xt=，则 上式()2212tt edt=+2212122tedt=可见，一维正态分布中，参数是随机变量的数学期望。三随机变量函数的数学期望三随机变量函数的数学期望 定理定理 1 设()yg x=是连续函数，()Yg x=是随机变量X的函数。1若X是离散型随机变量，分布列为,1,2,iiP Xxp i=L()iiig x p且绝对收敛（即()iig xpi收敛），则 ()()iiiEYEg xg xp=2若X是连续
8、型随机变量，其概率密度为()f x，若绝对收敛()()g x f x dx()()()g xf x dx 即，则()()()EXE g Xg x f x dx=。定理的重要意义在于当我们求()E Y时，不必知道Y的分布，而只须知道X的分布就可以了，定理的证明超出本课程大纲要求范围，证明从略。定理定理 2 设是二元连续函数，(,zg x y=)(),Zg X Y=是二维随机向量(,)X Y的函数。1若(,)X Y的分布律为(),1,ijijP Xx Yypi j=L2,且 (),ijijijg x y p绝对收敛，则 ()(),iiijijEZE g X Yg x y p=概率论与数理统计学习笔
9、记八 2若(,)X Y的密度函数为，且绝对收敛，则(,)f x y()(),g x y f x y dxdy ()()()(),.E ZE g X Yg x y f x y dxdy=四数学期望的性质（以下讨论中，所遇到的随机变量的数学期望，假定都存在）性质性质 1 设C为常数，则()E CC=。证证 可将C看成离散型随机变量，分布律为()P XC1=，故由定义即得()1E CCC=。性质性质 2 设C为常数，X为随机变量，则有 ()()E CXCE X=证证 设X是连续型随机变量，其概率密度为，则()f x ()()()()E CXCxfx dxCxf x dxCE X=性质性质 3 若,a
10、Xb则()aE Xb。证证 设X为连续型随机变量，密度函数为，则有()f x ()()()afx dxxf x dxbf x dx故 ().aE Xb性质性质 4 设,X Y为任意两个随机变量，则 ()E XYEXEY+=+。证证 设二维随机向量(,)X Y的联合概率密度为，边缘密度分别为(,)f x y()(),XYfxfy，则 ()()()()()()()()(),XYE XYxy f x y dxdyxf x y dxdyyf x y dxdyxf x y dy dxyf x y dx dyxfx dxyfy dyEXEY+=+=+=+=+=+这一性质可推广到任意有限多个随机变量情形，即
11、 概率论与数理统计学习笔记八 ()()()11nnE XXE XE X+=+L 一般地，随机变量线性组合的数学期望，等于随机变量期望的线性组合，即 ()()()1111nnnnE k Xk Xk E Xk E X+=+LL 其中()1,ik in=L是常数。性质性质 5 设,X Y是相互独立的随机变量，则有 ()()()E XYE XE Y=证证 因X与Y相互独立，其联合密度与边缘密度之间满足：()()(),XYf x yfxfy=，所以 ()()()()()(),XYXYE X Yxyf x y dxdyxyfx fy dxdyxfx dxyfy dyEX EY=这一性质可推广到任意有限多个
12、相互独立的随机变量之积的情形，即若1,nXXL相互独立，则 ()()()11nnE XXE XE X=LL。例例 1 自动生产线在调整以后出现废品的概率为0.1，生产过程中出现废品时立即重新调整，求在两次调整之间生产的合格品件数的分布律和数学期望。解解 设在两次调整之间生产的合格品数为X，则X的可能取值为0，1，2，由于事件Xk=两次调整之间生产的合格品数为k个 k=0,1,2,=两次调整之间前面生产的个产品全是合格品，而最后生产的一个是废品 k因此 ()()0.90.1 0,1,2,kP Xkk=L ()1010.1 0.90.10.90.090.9kkkkkE Xkkk1k=又因()()1
13、21111,11nkkkkkpdddkpppdpdpdppp=()01p 所以()()22110.090.0990.10.91E Xpp=例例 2 设随机变量X的概率分布为 概率论与数理统计学习笔记八 0,1,2,!kBP XkAkk=L 已知EXa=，求常数,A B。解解 由001!kkkBP XkAk=，得 。1BA e=又0!kkBEXkAak=，即()1101 !1!kkBkkkkBBABABABeakk=令 故,aBaAe=。例例 3 已知，求。(0,1XN)2EX解解 222212xEXxe=dx ()222221212121 2xxxxd e2xee=dx=例例 4 设,X Y独
14、立，均服从分布，求(0,1)N()22ExY=+。解解(,)X Y的联合分布密度为 ()2221,2xyf x yex y,+=()222222212xyExyxyedxdy+=+令 cos,sinxy=，则 上式2220012ded+=概率论与数理统计学习笔记八 ()22222222020220220012122edd eeeededd=例例 5 国际市场上每年对我国某种出口商品的需求量是随机变量X（单位：吨），它服从2000，4000上的均匀分布，设每售出这种商品1吨，可为国家挣得外汇30万元，但如果销售不出而积压于仓库，则每吨需花费保养及其他损失费10万元，问需要组织多少货源，才能使国家
15、收益期望最大？解解 设组织货源为t吨，2000t4000 又设收益为Y，则Y是需求量X的函数 ()()301030XtXXtYg XtX=当时 当时t X的密度函数为 ()1,2000400020000,xf x=反之 所以()()()EYE g Xg x f x dx=()400020002130103020001021400080000002000ttxtxdxtdxtt=+=+上式当=3500吨时tEY取得最大值，即是说只要组织货源3500吨，国家收益最大，此例说明，可利用随机变量的数学期望来作经济管理部门的最优决策。4.2 方差 方差 数学期望体现了随机变量取值平均的大小，反映了随机变
16、量取值的集中位置，但在许多实际问题中，只知均值是不够的，还应知道随机变量的取值在均值周边的变化情况。例如，有一批灯泡其平均寿命()E X=1000小时，但仅由这一指标还不能判断这批灯泡质量的好坏，我们还需考察灯泡寿命X与平均值()E X的偏离程度，若偏离程度较小，则灯泡质量比较稳定，因此研究随机变量与其平均值的偏离程度是十分重要的。用什么量去表示随机变量X与其平均值（数学期望）的偏离程度呢？显然，可利用随机变量()XE X，用平均值()EXE X来表示X与()E X的偏离概率论与数理统计学习笔记八 程度，但为了数学运算上处理的方便，通常用()2E XE X来表示X与()E X的偏离程度。一方差
17、的定义一方差的定义 设X是随机变量，若()2E XE X存在，则称其为X的方差，记为，（或），并称()()2D XE XEX=()()2Var XE XEX=DX为X的标准差。由定义可见，随机变量的方差就是随机变量X与其期望()E X的偏差的平方的平均，若X的取值多在()E X附近，则较小，若()D XX的取值多在离()E X较远的地方，则较大，所以方差刻画了()D X()D XX的取值偏离其平均值()E X的程度。由随机变量的函数的期望公式，有 ()()()22,(),kkkxEXf x dxXD XxEXpX=为连续型的。为连续型的。重要公式重要公式 ()22DXEXEX=事实上，()2D
18、 XE XEX=()()()()()()()()()()22222222E XXE XE XE XE X E XE XE XE X=+=+=二方差的性质二方差的性质 性质性质 1 ()0D C=证证 已知()E CC=，所以()()2200D CECE CE=（或）()()()2220D CE CE CCC=2=)性质性质 2 ()(2D CXC D X=证 证 ()()()222D CXEC XE CX=()()()()22222222C E XCE XCEXEXC D X=性质性质 3 ()(D XbD X+=)概率论与数理统计学习笔记八 证 证 ()()()2D XbEXbE Xb+=+
19、()()()22E XbEXbE XEXD X=+=由性质2，3可得()()2D kXbk D X+=。性质性质 4 若随机变量X与Y独立，则()()(D XYD XD Y)+=+证证 ()()()2D XYEXYE XY+=+()()()()()()()22222EXEXYEYE XEXE YEYEXEXYEYD XD YEXEXYEY=+=+)=+因为 ()()()()()()EXEXYEYE XYXE YYE XE XE Y=+()()()()()()()()()E XYE Y E XE X E YE X E YE XYE X E Y=+=)由于 X与Y相互独立，()()()E XYE
20、X E Y=故有()()0EXEXYEY=所以()()(D XYD XD Y)+=+性质4可推广到有限多个相互独立的随机变量和的情形。推广：若1,nXXL相互独立，则有 ()11nnKKkkDXD X=更一般地()211nnkKkKkkDa Xa D X=性质性质 5()0D X=的充分必要条件是1P XC=，即X以概率1取常数。证略。()C CE X=)性 质性 质 6 函 数()()2fxE Xx=当()XE X=时，取 最 小 值，即()D X概率论与数理统计学习笔记八()()2D XE Xx 证证 ()()()()22D XD XxE XxE Xx=()()()222E XxEXxE
21、Xx=三重要分布的方差三重要分布的方差 1（01）分布 X 0 1 P 1pp,01,1pqp=LEX=()()()()()()22222200022222!1!2!kkkkkkkkDXE XEXE XeeEXkkkkkkek kkekee2=+=+=+=+=+于是 22DX=+=3二项分布()(),0,1,kkn knpXB n pXkC p qkn=?L即 EXnp=()()()222DXE XEXE Xn p=22 而 ()22200nnkkn kkkn knnkkEXk C p qkkk C p q=+()()()()()()()()()2222222!1!2!12!11nkn kkn
22、kn kknnk kp qnpknknn nPpqknkn nppqnpn npnp=+=+=+概率论与数理统计学习笔记八 所以 ()()22222221 1DXn npnpn pn pnpnpn pnppnpq=+=+=2 4均匀分布()1,0,axbbaXf x=?其它()222,2113baabEXEXxdxbababa+=+2+所以()()()2222113212abDXbababa+=+=5指数分布(),00,0 xexXf xx=?()01xEXxf x dxx edx=又 22202,xEXxedx=故()()22222211DXEXEX=6正态分布()2,XN?即 ()()22
23、212xf xe=Ex=，()()()()2222221 2xDXE XEXE Xxed=x 令,xtdxdtxt=上式22 2212ttedt=22222tt edt 概率论与数理统计学习笔记八 而 22222222tttt edtteedt=+=所以上式2222=例例 已知随机变量(212,3XN?)X，求6-3Y=的概率分布密度函数。解解 由于()212,3XN?，则6-3YX=也服从正态分布，又由于(63)630EYEXEX=()()26331DYDXDX=所以，从而有(0,1)YN ()221,2yYfyey=()0D Y ()covXYXYDXDY=称为随机变量X与Y的相关系数。对
24、连续型随机变量，有 概率论与数理统计学习笔记八 ()()()()cov,X YxEXyEYf x y dxdy=，其中()(),f x yX Y是的联合概率密度。对离散型随机变量，有 ()()()cov,ijijijX YxEXyEY=p 其中,jiijpP Xx Yy=。二协方差的性质二协方差的性质()()()()()()()()()()()()1.cov,cov,2.cov,cov,3.cov,cov,cov,4.cov,5.2cov,.X YY XaX bYabX Y)XY ZX ZY ZX YE X YEXEYD XYDXDYX Y=+=+=+对于随机变量X，Y，若()E X、，()D
25、 X()E Y、存在，且，()D Y0DX 0DY 则称 ,XEXYEYXYDXDY=为标准化随机变量。由相关系数定义，显然有()cov,XYXY=相关系数是标准化了的随机变量的协方差。三、相关系数的性质三、相关系数的性质（1）1XY 证证 对任意实数a，有 ()()()()()()()()()22 2 cov,D YaXD YD aXEYEYaXE aXD Ya D XaX Y=+=+在上式中令()()cov,X YaD X=，则有 概率论与数理统计学习笔记八()()()()()()()()()()()()()()()()()()()()22222 cov,cov,2covcov,10.XY
26、XYXYX YX YD YaXD YD XX YD XD XX YD YD XD X D YD YD XD YD YD Y=+=由相关系数与协方差的关系,故有，即21XY1XY。（2）1XY=的充分必要条件是存在常数a,b，使得 ()1P YaXb=+=证证 由上述性质（1）的推导过程，可知1XY=的充要条件是，再由方差性质可知，的充要条件是存在常数b使得 ()0D YaX=()0D YaX=()1P YaXb=因此 1XY=的充要条件是存在常数a,b,使得 。()1P YaXb=+=上述性质（1）表明，XY的取值范围是1,1，性质（2）表明，当1XY=时，X与Y之间几乎处处线性相关（X与Y的
27、取值，几乎是线性关系：Ya，而不是线性关系的概率为零）。有线性关系是一个极端，另一极端是Xb=+0XY=，此时称X与Y是不相关的。定义定义 当01Xy时，称X与Y正相关；当10XY 时，称X与Y负相关；当0XY=时，称X与Y不相关。由上述讨论可见：XY本质上刻画了X与之Y间线性关系的密切程度，XY越大，随机变量X与Y之间线性关系越明显。X与Y不相关的等价命题：X与Y不相关()()E XYEXEYD XYDXDY=+=+四独立性与不相关性四独立性与不相关性 这两个概念都是随机变量之间关系“薄弱”的一种反映，自然希望弄清两概念之间的关系。概率论与数理统计学习笔记八 定理定理 若随机变量X与Y相互独
28、立，则X与Y不相关，（但反之不成立，即若X与Y不相关，却未必X与Y独立。）例例 设(,)X Y在由直线，1yx=1yx=及y轴所围成的区域内服从均匀分布。(1)问X与Y是否不相关？(2)问X与Y是否独立？解：由题设直线，及1yx=1yx=y轴所围成的区域的面积为1，因此(,)X Y的联合概率密度为()1,01,11,0,xxyf x y 其它x （1）()(),E Xxf x y=dxdy 110113xxdxxdy=()()1101,0 xxE Yyf x y dxdydxydy=()()1101,0 xxE XYxyf x y dxdydxxydy=得()()()()cov,0X YE X
29、YE X E Y=所以X与Y不相关。（2）()()()1112 1,0,0,xxXdyxxfxf x y dy1=其它1 ()()10101,10,1,00,yyYdxyyfyf x y dxdxyy+=+=其它 因为()()(,XY)fx fyf x y，所以X与Y不独立。在(,)X Y服从二维正态分布的特殊场合，不相关性与独立性是等价的。设(,)X Y服从二维正态分布()221212,N ，其概率密度为()()()()()()22112222212121211,exp22 121xxyyf x y 2=+()()()()22112E XD YE YD Y2=，=，因此()()()()12c
30、ov,X Yxyf x y=dxdy （见P166）概率论与数理统计学习笔记八 12.=L 于是()1212cov,XYX YDXDY =，即是X与Y的相关系数。由上章讨论知：当(,)X Y服从二维正态分布时，X与Y成立的充要条件是参数0=，因此对服从二维分布的(,)X Y来说，X，不相关与YX与Y独立等价。作业 P172：29,30,36,42。五矩、协方差矩阵五矩、协方差矩阵 数学期望、方差与协方差都是随机变量常用的数字特征，实际上它们都是某种矩，下面给出矩的一般定义。定义定义 设X与Y是随机变量，若()()1,2,kE Xk=L存在，则称它为X的阶原点矩。k若(1,2,kE XEXk=L
31、)存在，则称它为X的k阶中心矩。若存在，则称它为()(,1,2,klE X Yk l=L)X与Y的kl+阶混合原点矩。若存在，则称它为()()(,1,2,klEXEXYEYk l=L)X与Y的阶混合中心矩。kl+显然，()E X，()E Y是一阶原点矩，是二阶中心矩。()D X()D Y 协方差cov(,)X Y是二阶混合中心矩。以下介绍协方差矩阵的概念：定义定义 设n维随机向量()1,nXXL的二阶中心矩及二阶混合中心矩都存在，即()()()()cov,1,2,ijijiijjCX XEXEXXEXi j=L n 都存在，则称矩阵 111212122212nnnnnnCCCCCCCCCC=L
32、LLLLLL 为n维随机向量()1,nXXL的协方差矩阵，由于(),1,2,ijjiCCij i j=L，因而上述矩阵是对称矩阵。概率论与数理统计学习笔记八 设二维正态向量()12,X X的密度函数为()()()()()()21222 111112222122221212121,221xxxxf x xe =+引入矩阵 1122 XXX=)则(12,X X的协方差矩阵为 211121122122122CCCCC2 =其行列式为 ()222121C=逆矩阵为 221121211CC2 =记矩阵X的转置矩阵为()TX，则 ()()()211212111222221211,TxXCXxxCx =()
33、()()()22111122222221212121xxxx=+)于是(12,X X的密度函数可表示为()()(711212121,2XCXf x xeC)=将此结果推广到n维正态变量()12,nX XXL的情形，引入矩阵 1122 =nn12nXEXXEXXXEX=MMM C为协方差矩阵，则n维正态随机向量()12,nX XXL的密度函数可表示为 ()()()()112121221,2TXCXnnf x xxeC=L 概率论与数理统计学习笔记八 n维正态随机变量在随机过程及数理统计中都会经常遇到，其概率密度函数利用协方差矩阵表示，形式简单，便于研究。n维正态向量具有以下3条重要性质：（1）n维随机向量()12,nX XXL服从n维正态分布的充要条件是随机变量1,nXXL的任意线性组合11nnk Xk X+L服从一维正态分布。（2）设随机向量()12,nX XXL服从n维正态分布，若随机变量是1,mYYL(1,i)Xi=Ln的线性函数，则随机向量()1,mYYL服从m维正态分布。（3）设随机向量()12,nX XXL服从n维正态分布，则1,nXXL相互独立与1,nXXL两两不相关是等价的。