随机过程Ch1概率论基础.ppt

《随机过程Ch1概率论基础.ppt》由会员分享，可在线阅读，更多相关《随机过程Ch1概率论基础.ppt（117页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、参参 考考 教教 材材 随机过程（第四版）刘次华 编著华中科技大学出版社 第一章第一章概率论基础概率论基础 引例引例 在相同条件下相互独立地进行在相同条件下相互独立地进行 5 次射击次射击,每每次射击时击中目标的概率为次射击时击中目标的概率为 0.6,求击中求击中3次的概次的概率率.X表示击中目标的次数表示击中目标的次数.3一维随机变量随随 机机 变变 量量离离 散散 型型随机变量随机变量连连 续续 型型随机变量随机变量分分 布布 函函 数数分分 布布 律律密密 度度 函函 数数均均匀匀分分布布指指数数分分布布正正态态分分布布两两点点分分布布二二项项分分布布泊泊松松分分布布随机变量随机变量的数

2、字特的数字特征征定定义义数学期望数学期望差差方方4定定 义义联联 合合 分分 布布 函函 数数 联联 合合 分分 布布 律律 联联 合合 概概 率率 密密 度度边边 缘缘 分分 布布条条 件件 分分 布布两两 个个 随随 机机 变变 量量 的的 函函 数数 的的 分分 布布随随 机机 变变 量量 的的 相相 互互 独独 立立 性性定定义义性性质质二二维维随随机机变变量量推推 广广二维随机变量61.1 概率空间概率空间随机试验随机试验：可重复、可预见、不确定：可重复、可预见、不确定样本空间样本空间：随机试验所有可能结果的集合：随机试验所有可能结果的集合 样本点样本点：基本事件：基本事件 e 事件

3、事件：A 必然事件必然事件：不可能事件不可能事件：事件运算事件运算：并、交、差、（上、下）极限：并、交、差、（上、下）极限81.1 概率空间概率空间定义定义1.1 -代数代数(事件域事件域)集合集合 的某些子集组成集合族的某些子集组成集合族F F（1 1）F F （必然事件）（必然事件）（2 2）若）若A F F,则则 A F F （对立事件）（对立事件）（3 3）若）若Ai F F,i,i=1,2=1,2，则，则 F F （可列并（可列并事件）事件）称称F F为为-代数代数，（，（，F F ）为）为可测空间可测空间11例例 投掷一次骰子试验，投掷一次骰子试验，ei表示出现表示出现i点，点，=

4、e1,e2,e3,e4,e5,e6 F F=，e1,e2,e3，e4,e5,e6，F F为为-代数，（代数，（，F F ）为可测空间）为可测空间121.1 概率空间概率空间 例例：连续投掷两次硬币试验：连续投掷两次硬币试验=正正，正反，反正，反反正正，正反，反正，反反131.1 概率空间概率空间F F1 1=，正正正正，正反，反正，反反正反，反正，反反，F F2 2=，正正正正，正反正反，正正，正反正正，正反，反正，反反反正，反反，正反，反正，反反正反，反正，反反，正正，正正，反正，反反反正，反反，正正，正反，反正，反反正正，正反，反正，反反F F3 3=，反正反正，反反反反，反正，反反反正，

5、反反，正正，正反正正，正反，正正，正反，反反正正，正反，反反，正正，正正，正反，反正正反，反正，正正，正反，反正，反反正正，正反，反正，反反F F4 4=，正反正反，正正，反正，反反正正，反正，反反，F Fi i为为-代数，（代数，（，F Fi i）为可测空间）为可测空间14F F=，正正正正，正反正反，反正反正，反反反反，正正，正反正正，正反，正正，反正正正，反正，正正正，反反正，反反，正反，反正正反，反正，正反，反正反，反反反，反正，反反反正，反反，正正，正反，反正正，正反，反正正，正正，正反，反反正正，正反，反反，正正，反正正，反正，反反正，反反，正反，反正，反反正反，反正，反反，正正正

6、，正反，反正，反反正，正反，反正，反反 为可测空间为可测空间，（，F F ）为为-代数代数151.1 概率空间概率空间可测空间的可测空间的性质性质设（设（，F F ）为可测空间）为可测空间,则则（4 4）F F （不可能事件）（不可能事件）（5 5）若）若A,B F F,则则A B F F （差事件）（差事件）（6 6）若）若Ai F F,则则 F F （有限并，有限交，可列交事件）（有限并，有限交，可列交事件）161.1 概率空间概率空间定义定义1.2概率空间：概率空间：设设（，F F）为可测）为可测空间空间,映射映射P：F F R，A|P（A）满足满足(1)任意任意A F F，0 P（A）

7、1(2)P（）=1(3)称称P是是(,F F)上的上的概率概率，(,F F,P)为为概率概率空间空间，P(A)为事件为事件A的概率。的概率。171.1 概率空间概率空间概率空间的概率空间的性质性质设设(,F F,P)为概率空间，则为概率空间，则（4）P（）=0（5）P（BA）=P(B)-P(A),(A B)（6）18乘法公式和全概率公式乘法公式乘法公式:P(AB)=P(B|A)P(A)全概率公式：全概率公式：P(B)=P(BA1)+P(BA2)+=P(B|A1)P(A1)+P(B|A2)P(A2)+其中其中A1，A2为完备事件族为完备事件族19练习：袋中有练习：袋中有2个红球，个红球，3个白球

8、，从中不放个白球，从中不放回的接连取出两个球。求第二次取出红球的回的接连取出两个球。求第二次取出红球的概率。概率。解：设解：设A1表示第一次取出红球，表示第一次取出红球，A2表示第一表示第一次取出白球，次取出白球，B表示第二次取出红球。那么表示第二次取出红球。那么P（B）=P（BA1）+P（BA2）=P（B|A1）P(A1)+P（B|A2）P(A2)=1/4*2/5+2/4*3/5 =2/52/51/42/43/520 1.1 概率空间概率空间设设(,F,F,P)为概率空间，为概率空间，F1F1 F F，若对，若对任意任意A1,A2,An F1F1，n=2,3,，有有 则称则称F1F1为为独立

9、事件族独立事件族,或称或称F1F1中的事件相中的事件相互独立互独立。事件事件A,B独立，有独立，有 P(AB)=P(A)P(B)独立事件独立事件211.1 概率空间概率空间事件事件A,B,C相互独立，有相互独立，有P(AB)=P(A)P(B)P(AC)=P(A)P(C)P(BC)=P(B)P(C)P(ABC)=P(A)P(B)P(C)221.2 随机变量及其分布随机变量及其分布定义定义1.4 设设(,F,F,P)为概率空间，为概率空间，映射映射X：R，e X（e）满足满足 任意任意x R，e:X(e)x F F，则称则称X(e)是是F F上的上的随机变量随机变量，简记，简记X。对对x R，称称

10、F(x)=Pe:X(e)x为为随机变随机变量量X的的分布函数分布函数。231.2 随机变量及其分布随机变量及其分布例例例例 投掷两枚硬币试验，投掷两枚硬币试验，=正正，正反，反正，正正，正反，反正，反反反反F=，正正正正，正反正反，反正反正，反反反反，正正，正反正正，正反，正正，反正正正，反正，正正，反反正正，反反，正反，反正正反，反正，正反，反反正反，反反，反正，反正，反反反反，正正，正反，反正正正，正反，反正，正正，正反，正正，正反，反反反反，正正，反正，反反正正，反正，反反，正反，反正，正反，反正，反反反反，正正正，正反，反正，反反正，正反，反正，反反 为可测为可测空间空间，（，（，F）

11、为为-代数代数P=0，P正正正正=P正正反反=P反反正正=P反反反反=1/4，P=1，(,F,P)为概率空间为概率空间24映射映射X：R，X(正正正正)=2，X(正反正反)=X(反正反正)=1，X(反反反反)=0（1）x0，e:X(e)x=F（2）0 x1，e:X(e)x=反反反反 F（3）1 x2，e:X(e)x=正反正反,反正反正,反反反反 F（4）x 2，e:X(e)x=正正，正反正正，正反,反正反正,反反反反 FX为随机变量为随机变量251.2 随机变量及其分布随机变量及其分布分布函数为分布函数为即即261.2 随机变量及其分布随机变量及其分布分布函数的分布函数的性质性质：（1）单调性

12、：若）单调性：若x1x2，则则F(x1)F(x2)（2），（3）F(x)右连续，右连续，F(x+0)=F(x)这三个性质完全刻划了分布函数这三个性质完全刻划了分布函数271.2 随机变量及其分布随机变量及其分布随机变量：离散型，连续型随机变量：离散型，连续型离散型随机变量离散型随机变量X的概率分布用分布律的概率分布用分布律（列）描述：（列）描述：P(X=xk)=pk，k=1,2,分布函数分布函数常见离散型随机变量常见离散型随机变量X及其分布律及其分布律(1)0-1分布分布P(X=1)=p，P(X=0)=q，0p1，p p+q q=1281.2 随机变量及其分布随机变量及其分布(2)二项分布二项

13、分布 P(X=k)=，0 p0，k=0,1,2,(4)几何分布几何分布 P(X=k)=，0 p1,p+q=1,k=1,2,291.2 随机变量及其分布随机变量及其分布连续型随机变量连续型随机变量X的概率分布用概率密的概率分布用概率密度函数度函数f(x)描述描述 分布函数分布函数 常见连续型随机变量常见连续型随机变量X及其概率密度及其概率密度(1)均匀分布均匀分布301.2 随机变量及其分布随机变量及其分布(2)正态分布正态分布(3)指数分布指数分布311.2 随机变量及其分布随机变量及其分布(1)n维随机变量及其分布的定义维随机变量及其分布的定义(2)n维离散型随机变量和连续性随机变量维离散型

14、随机变量和连续性随机变量-联合分布列和联合分布密度联合分布列和联合分布密度(3)边缘分布边缘分布-边缘分布函数，边缘分布列，边缘分边缘分布函数，边缘分布列，边缘分布密度布密度(4)独立性独立性n n维随机变量及其概率分布维随机变量及其概率分布32n维随机变量及其概率分布维随机变量及其概率分布定义定义1.5 设设(,F,F,P)为概率空间，为概率空间，X=X(e)=(X1(e),X2(e),Xn(e)是定义在是定义在 上的上的n维空间维空间Rn中取值的向量函数中取值的向量函数,如果如果对任意的对任意的x=(x1,x2,xn)Rn，e:X1(e)x1,X2(e)x2,Xn(e)xn F F，则称则

15、称X(e)是是F F上的上的n维维随机变量随机变量，简记为，简记为X=(X1,X2,Xn)。1.2 随机变量及其分布随机变量及其分布331.2 随机变量及其分布随机变量及其分布对对x=(x1,x2,xn)Rn，称称F(x)=F(x1,x2,xn)=Pe:X1(e)x1,X2(e)x2,Xn(e)xn为为n维随机变量维随机变量X=(X1,X2,Xn)的的联合联合分布函数分布函数361.2 随机变量及其分布随机变量及其分布n维联合分布函数维联合分布函数F(x1,x2,xn)的性质的性质(1)对于每个变元对于每个变元xi(i=1,2,n)，F(x1,x2,xn)是非降函数是非降函数(2)对于每个变元

16、对于每个变元xi(i=1,2,n)，F(x1,x2,xn)是右连续的是右连续的371.2 随机变量及其分布随机变量及其分布(3)对于对于Rn的区域的区域(a1,b1;a2,b2;an,bn)，其中其中ai bi(i=1,2,n),F(b1,b2,bn)-+(-1)n F(a1,a2,an)0381.2 随机变量及其分布随机变量及其分布对于对于n=2F(b1,b2)-F(a1,b2)-F(b1,a2)+F(a1,a2)0 y b2 a2 x a1 b1391.2 随机变量及其分布随机变量及其分布对于对于n=3F(b1,b2,b3)-F(a1,b2,b3)-F(b1,a2,b3)-F(b1,b2,

17、a3)+F(a1,a2,b3)+F(a1,b2,a3)+F(b1,a2,a3)-F(a1,a2,a3)0401.2 随机变量及其分布随机变量及其分布(4)411.2 随机变量及其分布随机变量及其分布(1)n维随机变量及其分布的定义维随机变量及其分布的定义(2)n维离散型随机变量和连续性随机变量维离散型随机变量和连续性随机变量-联合分布列和联合分布密度联合分布列和联合分布密度(3)边缘分布边缘分布-边缘分布函数，边缘分布列，边缘分边缘分布函数，边缘分布列，边缘分布密度布密度(4)独立性独立性n n维随机变量及其概率分布维随机变量及其概率分布421.2 随机变量及其分布随机变量及其分布n维离散型随

18、机变量维离散型随机变量X=(X1,X2,Xn)Xi都是离散型随机变量都是离散型随机变量(i=1,2,n)X=(X1,X2,Xn)的联合分布律为的联合分布律为 P(X1=x1,X2=x2,Xn=xn)=其中其中xi Ii是离散集，是离散集，i=1,2,nX=(X1,X2,Xn)的联合分布函数为的联合分布函数为 (y1,y2,yn)Rn43二维随机变量二维随机变量(X,Y)的分布律也可表示为的分布律也可表示为:二维离散型随机变量的分布律44离散型随机变量离散型随机变量(X,Y)的分布函数为的分布函数为451.2 随机变量及其分布随机变量及其分布n维连续型随机变量维连续型随机变量X=(X1,X2,X

19、n)联合概率密度联合概率密度f(x1,x2,xn)X=(X1,X2,Xn)的联合分布函数为的联合分布函数为 (y1,y2,yn)Rn46二维连续型随机变量的分布函数471.2 随机变量及其分布随机变量及其分布(1)n维随机变量及其分布的定义维随机变量及其分布的定义(2)n维离散型随机变量和连续性随机变量维离散型随机变量和连续性随机变量-联合分布列和联合分布密度联合分布列和联合分布密度(3)边缘分布边缘分布-边缘分布函数，边缘分布列，边缘分边缘分布函数，边缘分布列，边缘分布密度布密度(4)独立性独立性n n维随机变量及其概率分布维随机变量及其概率分布48二维随机变量的边缘分布函数49为随机变量为

20、随机变量(X,Y)关于关于Y 的边缘分布函数的边缘分布函数.50离散型随机变量的边缘分布律 5152例例1 已知下列分布律求其边缘分布律已知下列分布律求其边缘分布律.54注意注意联合分布联合分布边缘分布边缘分布解解55连续型随机变量的边缘分布56同理可得同理可得 Y 的边缘分布函数的边缘分布函数Y 的边缘概率密度的边缘概率密度.571.2 随机变量及其分布随机变量及其分布(1)n维随机变量及其分布的定义维随机变量及其分布的定义(2)n维离散型随机变量和连续性随机变量维离散型随机变量和连续性随机变量-联合分布列和联合分布密度联合分布列和联合分布密度(3)边缘分布边缘分布-边缘分布函数，边缘分布列

21、，边缘分边缘分布函数，边缘分布列，边缘分布密度布密度(4)独立性独立性n n维随机变量及其概率分布维随机变量及其概率分布581.2 随机变量及其分布随机变量及其分布随机变量的独立性随机变量的独立性定义定义1.6 设设Xt,t T 是一族随机变量，若对任是一族随机变量，若对任意意n 2和和t1,t2,tn T，x1,x2,xn R，有，有则称则称Xt,t T是是独立的独立的。591.2 随机变量及其分布随机变量及其分布若若Xt,t T是一族离散型随机变量，则是一族离散型随机变量，则独立性等价于独立性等价于其中其中xi是是Xti的任意可能值的任意可能值(I=1,2,n)例如，二维随机变量独立性等价

22、于例如，二维随机变量独立性等价于pij=pi.p.j其中其中pij=p(X=xi,Y=yj),pi.=p(X=xi),p.j=p(Y=yj),601.2 随机变量及其分布随机变量及其分布若若Xt,t T是一族连续型随机变量，则是一族连续型随机变量，则独立性等价于独立性等价于其中其中 是是n维随机变量维随机变量 的联合概率密度的联合概率密度,是随机变量是随机变量 的概率密度的概率密度(i=1,2,n)612.说明说明 (1)若离散型随机变量若离散型随机变量(X,Y)的联合分布律为的联合分布律为6263YX01P(y=j)12P(X=i)YX01P(y=j)12P(X=i)641.3 随机变量的数

23、字特征随机变量的数字特征数学期望数学期望定义定义1.7 设随机变量设随机变量X的分布函数为的分布函数为F(x)，若若则称则称为为X的的数学期望数学期望（均值）（均值）661.3 随机变量的数字特征随机变量的数字特征对离散型随机变量对离散型随机变量X，分布律，分布律 P(X=xk)=pk，k=1,2,数学期望数学期望对连续型随机变量对连续型随机变量X，概率密度，概率密度f(x)的的数学期望数学期望671.3 随机变量的数字特征随机变量的数字特征方差方差定义定义1.8 设设X是随机变量，若是随机变量，若EX2，则称则称DX=E(X-EX)2为为X的的方差方差协方差协方差定义定义1.9 设设X,Y是

24、随机变量，若是随机变量，若EX2,EY2 ，则称则称BXY=E(X-EX)(Y-EY)为为X,Y的的协方差协方差BXY=EXY-EXEY681.3 随机变量的数字特征随机变量的数字特征相关系数相关系数称称 为为X,Y的的相关系数相关系数 若若 XY=0，则称则称X,Y不相关。不相关。相关系数表示相关系数表示X,Y之间的线性相关程度之间的线性相关程度的大小的大小691.3 随机变量的数字特征随机变量的数字特征随机变量的数学期望和方差的随机变量的数学期望和方差的性质性质(1)E(aX+bY)=aE(X)+bE(Y)(2)若若X,Y独立，则独立，则E(XY)=E(X)E(Y)(3)若若X,Y独立，则

25、独立，则 D(aX+bY)=a2D(X)+b2D(Y)(4)(Schwarz不等式不等式)若若EX2,EY20的的y，定义定义Y=y时时X的的条件概率条件概率Y=y时时X的的条件分布条件分布Y=y时时X的的条件期望条件期望106例：袋中有2个红球，3个白球，从中不放回的接连取出两个球。设X表示第一次取到的红球数，Y表示第二次取到的红球数。求 E（Y|X=1）和E（Y|X=0）1071.6 条件期望条件期望条件期望的条件期望的性质性质：若随机变量若随机变量X,Y的期望存在，则的期望存在，则如果如果Y是离散型随机变量，则是离散型随机变量，则如果如果Y是连续型随机变量，则是连续型随机变量，则1081

26、.6 条件期望条件期望证明：设X,Y都是离散型随机变量1091.6 条件期望条件期望若若X,Y是连续型随机变量，其联合概率密是连续型随机变量，其联合概率密度为度为f（x，y），则对一切使则对一切使fY(y)0的的y，给定给定Y=y时，时，X的的条件概率密度条件概率密度为为给定给定Y=y时，时，X的的条件分布条件分布为为给定给定Y=y时，时，X的的条件期望条件期望为为1101.6 条件期望条件期望应用条件期望求事件的概率应用条件期望求事件的概率事件事件A的示性函数的示性函数IA：R，是二值随机变量是二值随机变量PIA=1=P(A)，PIA=0=1-1-P P(A)EIA=1 P(A)+0 1-1

27、-P P(A)=P(A)1111.6 条件期望条件期望例例 设设X,Y为随机变量，证明公式为随机变量，证明公式 证证 1121.6 条件期望条件期望 证证1131.6 条件期望条件期望E(X|Y=y)是是y的函数，的函数，y是是Y的一个可能值的一个可能值,在已知在已知Y的条件下，考虑的条件下，考虑X的均值，需要的均值，需要以以Y代替代替y，E(X|Y)是随机变量是随机变量Y的函数，的函数，也是随机变量，称为也是随机变量，称为X在在Y下的条件期望下的条件期望1141.6 条件期望条件期望P(A)=EIA=EE(IA|Y)=若若Y为离散型随机变量，则为离散型随机变量，则若若Y为连续型随机变量，则为连续型随机变量，则E(IA|Y=y)=1 P(A|Y=y)+0 1-P(A|Y=y)=P(A|Y=y)1151.6 条件期望条件期望 例例 设设X与与Y是相互独立的随机变量，其是相互独立的随机变量，其分布函数分别为分布函数分别为FX(x)和和FY(y)，记记(X+Y)的分布函数为的分布函数为FX*FY，则则1161.6 条件期望条件期望 X与与Y是相互独立的随机变量，分别服是相互独立的随机变量，分别服 从状态分布从状态分布N（1，12），），N（2，22）则则X+YN（1+2，12+22）其中117