《数理统计与随机过程ch(4).ppt》由会员分享，可在线阅读，更多相关《数理统计与随机过程ch(4).ppt（69页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、数理统计与随机过程数理统计与随机过程第第十十章章主讲教师：程维虎教授主讲教师：程维虎教授北京工业大学应用数理学院北京工业大学应用数理学院什么是“随机过程”？确定性过程：事物的变化过程可以用一个时间确定性过程：事物的变化过程可以用一个时间t的的确定函数来描述。比如：物体的自由落体过程。确定函数来描述。比如：物体的自由落体过程。不确定过程：没有确定的变化规律，即这类事物不确定过程：没有确定的变化规律，即这类事物的变化过程不能用一个时间的变化过程不能用一个时间t的确定性函数来描述。的确定性函数来描述。如果对该事物的变化全过程进行一次观测，可得如果对该事物的变化全过程进行一次观测，可得到一个时间到一个
2、时间t的函数，但是若对该事物的变化过程的函数，但是若对该事物的变化过程重复的独立的进行多次观测，则每次得到的结果重复的独立的进行多次观测，则每次得到的结果是不同的。是不同的。从另一个角度来看，如果固定某一个观测时刻从另一个角度来看，如果固定某一个观测时刻t，事物在时刻事物在时刻t出现的状态是随机的。出现的状态是随机的。例例例例1 1电话问题：电话问题：电话问题：电话问题：我们用我们用我们用我们用X(tX(t)表示在时刻表示在时刻表示在时刻表示在时刻t t前电话局前电话局前电话局前电话局接到的呼唤次数。如果固定时间接到的呼唤次数。如果固定时间接到的呼唤次数。如果固定时间接到的呼唤次数。如果固定时
3、间t t，则，则，则，则X(tX(t)是一个随机是一个随机是一个随机是一个随机变量；但是变量；但是变量；但是变量；但是t t是可变参数，是一个连续变量，所以是可变参数，是一个连续变量，所以是可变参数，是一个连续变量，所以是可变参数，是一个连续变量，所以X(tX(t)是一个过程。因此，这个问题所涉及的不仅是一个随是一个过程。因此，这个问题所涉及的不仅是一个随是一个过程。因此，这个问题所涉及的不仅是一个随是一个过程。因此，这个问题所涉及的不仅是一个随机变量的问题，它是随机的，又是一个过程。机变量的问题，它是随机的，又是一个过程。机变量的问题，它是随机的，又是一个过程。机变量的问题，它是随机的，又是
4、一个过程。例例例例2 2液面上质点的运动：液面上质点的运动：液面上质点的运动：液面上质点的运动：我观测液面上一个做布我观测液面上一个做布我观测液面上一个做布我观测液面上一个做布朗运动的质点朗运动的质点朗运动的质点朗运动的质点A,A,若用若用若用若用 X(t),Y(tX(t),Y(t)表示在时刻表示在时刻表示在时刻表示在时刻t t该质点该质点该质点该质点在液面上的坐标位置。当在液面上的坐标位置。当在液面上的坐标位置。当在液面上的坐标位置。当t t固定时，固定时，固定时，固定时，X(t),Y(tX(t),Y(t)是是是是一对二维随机变量。而一对二维随机变量。而一对二维随机变量。而一对二维随机变量。
5、而t t是一个连续变量，因此是一个连续变量，因此是一个连续变量，因此是一个连续变量，因此 X(t),Y(tX(t),Y(t)又是一个过程。又是一个过程。又是一个过程。又是一个过程。例例例例3 3 热噪声电压热噪声电压:电子元件或器件由于内部微观粒子电子元件或器件由于内部微观粒子(如电子如电子)的随机运动所引起的端电压称为热噪声电压的随机运动所引起的端电压称为热噪声电压,它在任一确定时刻它在任一确定时刻 t 的值都是一随机变量的值都是一随机变量,记为记为V(t)。不同时刻对应不同的随机变量。当时间在某个区间不同时刻对应不同的随机变量。当时间在某个区间,如如0,)上变化时，热噪声电压表现为一族随机
6、变量上变化时，热噪声电压表现为一族随机变量,记为记为 V(t),t0。在无线电通讯技术中，接收机在接收信号时，机在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为消除这内的热噪声电压要对信号产生持续的干扰，为消除这种干扰，就必须掌握热噪声电压随时间变化的过程。种干扰，就必须掌握热噪声电压随时间变化的过程。为此，我们通过某种装置对元件为此，我们通过某种装置对元件(或器件或器件)两端的热噪两端的热噪声电压进行长时间的测量，并把结果自动记录下来。声电压进行长时间的测量，并把结果自动记录下来。作一次试验作一次试验作一次试验作一次试验(测量一此长时间内的热噪声电压测量一此
7、长时间内的热噪声电压测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压)，得到一个，得到一个，得到一个，得到一个电压电压时间时间函数函数v1(t),t 0(如图如图10-1)。这个这个电压电压时间时间函数在试验前是不可能预先确知的，函数在试验前是不可能预先确知的，只有通过测量才能得到。只有通过测量才能得到。图图10-1 如果在相同条件下独如果在相同条件下独立地再进行一次测量，得立地再进行一次测量，得到的记录可能是不同的。到的记录可能是不同的。事实上，在相同条件下每次测量都将产生不同事实上，在相同条件下每次测量都将产生不同的的电压电压时间时间函数。这样，不断独立地一次次重复函数。这样，不断
8、独立地一次次重复测量，就得到一族不同的测量，就得到一族不同的电压电压时间时间函数，这族函函数，这族函数从另一角度规划了热噪声电压。数从另一角度规划了热噪声电压。图图图图10-110-1随机过程：依赖于一个变动参量的一族随机变量。随机过程：依赖于一个变动参量的一族随机变量。设设 T 是一个无限实数集。我们把依赖于参数是一个无限实数集。我们把依赖于参数 t T 的一族的一族(无限多个无限多个)随机变量收集在一起，称为随机变量收集在一起，称为随随机过程机过程，记成记成 X(t),t T。这里，对每一个这里，对每一个t T，X(t)都是一个随机变量。都是一个随机变量。T 称为称为参数集参数集。常把。常
9、把 t 看作为时间，称看作为时间，称 X(t)为为 t 时刻时刻 过程的过程的状态状态，称，称 X(t1)x(实数实数)为为t t1 时过程时过程处于处于状态状态 x。对于一切对于一切 t,X(t)所有可能取得一切值的全所有可能取得一切值的全体称为随机过程的体称为随机过程的状态空间状态空间。对随机过程对随机过程 X(t)，t T 进行一次试验进行一次试验(即在即在 T上进行一次全程观测上进行一次全程观测)，其结果是，其结果是 t 的函数，记为的函数，记为x(t)，tT，称它为随机过程的一个称它为随机过程的一个样本函数样本函数或或样本曲线样本曲线。所有不同的试验结果构成一族所有不同的试验结果构成
10、一族(可以只包括有限个，可以只包括有限个，如本节例如本节例1)样本函数。样本函数。随机过程可以看作是多维随机变量的延伸。随机随机过程可以看作是多维随机变量的延伸。随机过程与其样本函数的关系就像数理统计中总体与样本过程与其样本函数的关系就像数理统计中总体与样本的关系一样。的关系一样。依照上面的说法，热噪声电压的变化过程依照上面的说法，热噪声电压的变化过程(t)，t是一随机过程，它的状态空间是是一随机过程，它的状态空间是(-,+)，一，一次观测到的次观测到的电压电压时间时间函数就是这个随机过程的一个函数就是这个随机过程的一个样本函数。样本函数。在以后的叙述中，为简便起见：常以在以后的叙述中，为简便
11、起见：常以 X(t)，t 表示随机过程。在上下文不致混淆的情形下，一表示随机过程。在上下文不致混淆的情形下，一般略去记号中的参数集般略去记号中的参数集 T。例例1 抛一枚硬币试验，样本空间是抛一枚硬币试验，样本空间是 S=H,T，定义，定义其中其中 P(H)=P(T)=1/2。对任意。对任意固定的固定的 t,X(t)是一定义在是一定义在S上的上的随机变量；对不同的随机变量；对不同的 t，X(t)是是不同的随机变量不同的随机变量(见图见图10-2)，所，所以以 X(t)，t (-,+)是一是一族随机变量，即是随机过程。族随机变量，即是随机过程。作一次试验，若出现作一次试验，若出现H，样本函数，样
12、本函数 x1(t)=cos t；若出现；若出现T，样本函数，样本函数 x2(t)=t。故，随机过程对应的。故，随机过程对应的一族样本函数仅包含两个函数一族样本函数仅包含两个函数:cos t,t。显然，。显然，这个随机过程的状态空间为这个随机过程的状态空间为(-,+)。图图10-2例例2 考虑考虑 式中式中,是正常数，是正常数，是在是在(0,2(0,2)上服从均匀分布上服从均匀分布的随机变量。的随机变量。显然，对任一固定的时刻显然，对任一固定的时刻 t1,X(t1)=cos(t1+)是一个随机变量。因而，由是一个随机变量。因而，由(1.1)式确定的式确定的 X(t)是一是一随机过程，通常称它为随
13、机过程，通常称它为随机相位正弦波随机相位正弦波。其状态空间。其状态空间是是-,。在。在(0,2)内随机地取一数内随机地取一数 i,相应的样本相应的样本函数是函数是 图图10-3中画出了这个随机过程的两条样本曲线。中画出了这个随机过程的两条样本曲线。图图10-3例例3 在测量运动目标的距离时，存在随机误差。若在测量运动目标的距离时，存在随机误差。若以以(t)表示在时刻表示在时刻 t 的测量误差，则它是一个随机的测量误差，则它是一个随机变量。当目标随时间变量。当目标随时间 t 按一定规律运动时，测量误按一定规律运动时，测量误差差(t)也随时间也随时间 t 而变化。换句话说而变化。换句话说,(t)是
14、依赖于是依赖于 t 的一族随机变量，亦即的一族随机变量，亦即(t),t0是一随机过程，是一随机过程，状态空间是状态空间是(-,+)。例例4 设某市设某市120急救电话台不断地接到用户的呼叫，急救电话台不断地接到用户的呼叫，若以若以X(t)表示时间间隔表示时间间隔(0,t内接到的呼叫次数，则内接到的呼叫次数，则它是一个随机变量，且对不同的它是一个随机变量，且对不同的 t0,X(t)可能是不同可能是不同的随机变量。故，的随机变量。故，X(t),t 是一随机过程，状态是一随机过程，状态空间是空间是0,1,2,。例例5 考虑掷一颗考虑掷一颗骰子骰子试验。试验。(1).设设Xn是第是第 n 次次(n1)
15、掷的点数，对于掷的点数，对于n=1,2,的的 不同值不同值,Xn是不同的随机变量，因而是不同的随机变量，因而Xn,n1 构成一随机过程构成一随机过程,称为伯努力过程称为伯努力过程,或伯努力随或伯努力随 机序列。机序列。状态空间都是状态空间都是1,2,3,4,5,6。(2).设设Xn是前是前n次掷出的最大点数，则次掷出的最大点数，则Xn,n 1也也 是一随机过程。状态空间是是一随机过程。状态空间是1,2,3,4,5,6。随机过程可依其在任意时刻的状态是连续型随机随机过程可依其在任意时刻的状态是连续型随机变量或离散型随机变量而分成变量或离散型随机变量而分成连续型随机过程连续型随机过程或或离散离散型
16、随机过程型随机过程。热噪声电压、例热噪声电压、例2和例和例3是连续型随机过程，例是连续型随机过程，例1,例例4和例和例5是离散型随机过程。是离散型随机过程。随机过程还可依时间随机过程还可依时间(参数参数)是连续或离散进行分是连续或离散进行分类。当时间集类。当时间集T是有限或无限区间时，称是有限或无限区间时，称X(t),t T为为连续参数随机过程连续参数随机过程(以下如无特别指明，随机以下如无特别指明，随机过程总是指连续参数而言的过程总是指连续参数而言的)；如果；如果T是离散集合，例是离散集合，例如如T=0,1,2,，则称，则称X(t),tT为离散参数随为离散参数随机过程或随机序列，此时常记成机
17、过程或随机序列，此时常记成 Xn,n=0,1,2,等，等，如例如例5。有时，为了适应数字化的需要，实际中也常有时，为了适应数字化的需要，实际中也常将连续参数随机过程转化为随机序列处理。例如将连续参数随机过程转化为随机序列处理。例如,我们只在时间集我们只在时间集T=t,2t,nt,上观察上观察电阻的热噪声电压电阻的热噪声电压(t)，这时就得到一个随机序这时就得到一个随机序列列V1,V2,Vn,，其中，其中Vn=V(nt)。显然，当显然，当t充分小时，这个随机序列能够近充分小时，这个随机序列能够近似地描述连续时间情况下的热噪声电压。似地描述连续时间情况下的热噪声电压。需注意的是：参数需注意的是：参
18、数 t 虽然通常解释为时间，但虽然通常解释为时间，但它也可以表示其它的量。诸如：序号、距离等。它也可以表示其它的量。诸如：序号、距离等。如例如例5中，假定每隔一个单位时间掷中，假定每隔一个单位时间掷一次一次骰子骰子，则，则第第n次掷出的点数次掷出的点数 Xn就相当于就相当于 t=n时时骰子骰子出现的点出现的点数。数。10.2 随机过程的统计描述随机过程的统计描述 随机过程在任一时刻的状态是随机变量，由随机过程在任一时刻的状态是随机变量，由此可以利用随机变量此可以利用随机变量(一维或多维一维或多维)的统计描述方的统计描述方法来描述随机过程的统计特征。法来描述随机过程的统计特征。10.2.1 随机
19、过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程 X(t),t T，对每个固定的，对每个固定的 t T,随机变量随机变量 X(t)的分布函数一般与的分布函数一般与 t 有关，记为有关，记为称其为随机过程称其为随机过程 X(t),t T 的的一维分布函数一维分布函数，称称Fx(x,t),t T为为一维分布函数族一维分布函数族。一维分布函数族刻画了随机过程在各个时刻的一维分布函数族刻画了随机过程在各个时刻的统计特征。为描述随机过程在不同时刻状态之间的统计特征。为描述随机过程在不同时刻状态之间的相关关系，一般要对任意相关关系，一般要对任意 n个个(n=2,3,)不同时刻不同时刻t1,t
20、2,tnT,引入引入 n 维随机变量维随机变量(X(t1),X(t2),X(tn),其联合分布函数记为其联合分布函数记为 对固定的对固定的n,称称FX(x1,x2,xn;t1,t2,tn),tiT为随机过程为随机过程X(t),t T的的 n 维分维分布函数族。布函数族。当当n充分大时，充分大时，n 维分布函数族能近似地描述随维分布函数族能近似地描述随机过程的统计特征。显然，机过程的统计特征。显然，n 取得愈大，则取得愈大，则n维分布维分布函数族描述随机过程的特征也愈趋于完善。一般地函数族描述随机过程的特征也愈趋于完善。一般地,可以指出可以指出(科尔莫戈罗夫定理科尔莫戈罗夫定理):有限维分布函数
21、族，有限维分布函数族，即即FX(x1,x2,xn;t1,t2,tn),n=1,2,tiT完全地确定了随机过程的统计特征。完全地确定了随机过程的统计特征。上一节，我们曾将随机过程按其状态或时间的上一节，我们曾将随机过程按其状态或时间的连续或离散进行了分类。然而，随机过程本质的分连续或离散进行了分类。然而，随机过程本质的分类方法乃是按其分布特征进行分类的。具体地说：类方法乃是按其分布特征进行分类的。具体地说：就是依照过程在不同时刻的状态之间的特殊统计依就是依照过程在不同时刻的状态之间的特殊统计依赖方式，抽象出一些不同类型的模型。如：赖方式，抽象出一些不同类型的模型。如：独立增独立增量过程、马尔可夫
22、过程、平稳过程量过程、马尔可夫过程、平稳过程等。我们将在以等。我们将在以后的章节中对它们作不同程度的介绍。后的章节中对它们作不同程度的介绍。10.2.2 随机过程的数字特征随机过程的数字特征 随机过程的分布函数族能完善地刻画随机过程随机过程的分布函数族能完善地刻画随机过程的统计特征。但是，人们在实际中，根据观察往往的统计特征。但是，人们在实际中，根据观察往往只能得到随机过程的部分资料只能得到随机过程的部分资料(样本样本)，用它来确定，用它来确定有限维分布函数族是困难的，甚至是不可能的。因有限维分布函数族是困难的，甚至是不可能的。因而，像引入随机变量的数字特征那样，有必要引入而，像引入随机变量的
23、数字特征那样，有必要引入随机过程的基本数字特征随机过程的基本数字特征均值函数均值函数和和相关函数相关函数等。等。这些数字特征在一定条件下是便于测量的。这些数字特征在一定条件下是便于测量的。给定随机过程给定随机过程 X(t),t T，固定，固定 t T,X(t)是一随机变量，它的均值一般与是一随机变量，它的均值一般与 t 有关，记为有关，记为称称 X(t)为随机过程为随机过程X(t)，t T的的均值函数均值函数。注意注意,X(t)是随机过程的所有样本函数在时是随机过程的所有样本函数在时刻刻 t 的函数值的平均，通常称这种平均为的函数值的平均，通常称这种平均为集平均集平均或或统计平均统计平均,以区
24、分第十二章中引入的时间平均概以区分第十二章中引入的时间平均概念。念。均值函数均值函数X(t)表示表示了随机过程了随机过程 X(t)在各个时在各个时刻的摆动中心，如图刻的摆动中心，如图10-4所示。所示。其次，把随机变量其次，把随机变量X(t)的二阶原点矩和二阶中心的二阶原点矩和二阶中心矩分别记作矩分别记作并分别称它们为随机过程并分别称它们为随机过程X(t),t T的的均方值函均方值函数数和和方差函数方差函数。方差函数的算术平方根。方差函数的算术平方根 X(t)称称为为随随机机过过程的程的标标准差函数准差函数，它表示随机，它表示随机过过程程X(t)在时刻在时刻 t 对于均值对于均值X(t)的平均
25、偏离程度。见图的平均偏离程度。见图10-4。又，又，对任意对任意 t1,t2T，把随机变量，把随机变量X(t1)和和X(t2)的二的二阶原点混合矩记作阶原点混合矩记作并称它为随机过程并称它为随机过程X(t)，t T的的自相关函数自相关函数，简，简称称相关函数相关函数。记号。记号RXX(t1,t2)在不致混淆时，常简记在不致混淆时，常简记成成RX(t1,t2)。类似地，将类似地，将X(t1)和和X(t2)的二阶混合中心矩记成的二阶混合中心矩记成并称为随机过程并称为随机过程X(t),t T的的自协方差函数自协方差函数，简，简称称协方差函数协方差函数。CXX(t1,t2)也常简记为也常简记为CX(t
26、1,t2)。由多维随机变量数字特征的知识可知，自相关由多维随机变量数字特征的知识可知，自相关函数和自协方差函数是可划随机过程自身在两个不函数和自协方差函数是可划随机过程自身在两个不同时刻的状态之间统计依赖关系的数字特征。同时刻的状态之间统计依赖关系的数字特征。现把现把(2.1)(2.5)式定义的诸数字特征之间式定义的诸数字特征之间的关系简述如下：的关系简述如下：由由(2.2)和和(2.4)式知式知由由(2.5)式展开，得式展开，得特别地，当特别地，当t1=t2=t时，由时，由(2.7)式，得式，得 由由(2.6)(2.8)式可知，以上诸数字特征中最主式可知，以上诸数字特征中最主要的是均值函数和
27、自相关函数。要的是均值函数和自相关函数。从理论的角度来看，仅仅研究均值函数和自相关从理论的角度来看，仅仅研究均值函数和自相关函数当然是不能代替对整个随机过程的研究的，但是函数当然是不能代替对整个随机过程的研究的，但是由于它们确实刻画了随机过程的主要统计特征，而且由于它们确实刻画了随机过程的主要统计特征，而且远较有限维分布函数族易于观察和实际计算，因而对远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言于应用课题而言,它们常常能够起到重要作用。据此它们常常能够起到重要作用。据此,在随机过程的专著中都着重研究了所谓二阶矩过程。在随机过程的专著中都着重研究了所谓二阶矩过程。随机过程随机过程
28、X(t)，t T，如果对于每一个，如果对于每一个t T，二阶矩二阶矩EX2(t)都存在，那么称它为都存在，那么称它为二阶矩过程二阶矩过程。二阶矩过程的相关函数总存在。事实上，由于二阶矩过程的相关函数总存在。事实上，由于EX2(t1),EX2(t2)存在，根据柯西存在，根据柯西施瓦兹不等施瓦兹不等式式(参见第四章习题参见第四章习题33)，有，有即知：即知：RX(t1,t2)=EX(t1)X(t2)存在。存在。在实际中，常遇到一种特殊的二阶矩过程在实际中，常遇到一种特殊的二阶矩过程正正态过程。态过程。随机过程随机过程X(t),t T称为正态过程，如称为正态过程，如果对任意果对任意 n1及任意及任意
29、 t1,t2,tnT,(X(t1),X(t2),X(tn)服从服从 n 维正态分布维正态分布。由第四章由第四章3、4知，正态过程的全部统计特征完全由它的均值函知，正态过程的全部统计特征完全由它的均值函数和自协方差函数数和自协方差函数(或自相关函数或自相关函数)所确定。所确定。例例1 设设A,B是两个随机变量是两个随机变量,求随机过程求随机过程X(t)=At+B,t T=(-,+)的均值函数和自相关函数。如果的均值函数和自相关函数。如果A,B相互独立，且相互独立，且 AN(0,1),BU(0,2)，问，问 X(t)的均值的均值函数和自相关函数又是怎样的？函数和自相关函数又是怎样的？解解 X(t)
30、的均值函数和自相关函数分别为的均值函数和自相关函数分别为当当AN(0,1)时，时，EA=0，EA2=1；当；当BU(0,2)时，时，EB=1，EB2=4/3；又因；又因A、B独立时，有独立时，有EAB=EAEB=0。故。故例例2 求求10.1例例2中随机相位正弦波的均值函数、方中随机相位正弦波的均值函数、方差函数和自相关函数。差函数和自相关函数。由定义，得由定义，得解解 由假设，知由假设，知的概率密度为的概率密度为自相关函数自相关函数特别地，特别地，令令t1=t2=t,即得方差函数即得方差函数 其中其中=t2-t1。例例3 设设 X(t)=Acos t+Bsin t,tT=(-,+)，其，其中
31、中A,B相互独立，且均是服从正态分布相互独立，且均是服从正态分布N(0,2)的随的随机变量，机变量，是实常数。证明是实常数。证明:X(t)是正态过程，并求是正态过程，并求其均值函数和自相关函数。其均值函数和自相关函数。解解 由题设，由题设，A,B是相互独立的正态变量，所以是相互独立的正态变量，所以(A,B)是二维正态变量。对任意一组实数是二维正态变量。对任意一组实数t1,t2,tnT,X(ti)=Acosti+Bsinti,i=1,2,n都是都是A,B的线性组合。于是，根据第四章的线性组合。于是，根据第四章4,n维正态维正态变量的性质变量的性质3。,(X(t1),X(t2),X(tn)是是n维
32、维正态正态变量变量。因为因为n,ti是任意的，由定义，是任意的，由定义，X(t)是正态过程。是正态过程。另由题设，有另由题设，有E(A)=E(B)=E(AB)=0,E(A2)=E(B2)=2.由此，可算得由此，可算得X(t)的均值函数和自协方差函数的均值函数和自协方差函数(或自相或自相关函数关函数)分别为：分别为：X(t)=EAcost+Bsint=0,CX(t1,t2)=RX(t1,t2)=E(Acost1+Bsint1)(Acost2+Bsint2)=(cos t1 cos t2)E(A2)+(sin t1 sin t2)E(B2)+(cos t1 sin t2+sin t1 cos t2
33、)E(AB)=2(cost1cost2+sint1sint2)=2cos(t2-t1).10.2.3 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 实际问题中，我们有时必须同时研究两个或两实际问题中，我们有时必须同时研究两个或两个以上随机过程及它们之间的统计联系。例如：某个以上随机过程及它们之间的统计联系。例如：某地在时段地在时段(0,t内的最高温度内的最高温度X(t)和最低温度和最低温度Y(t)都是都是随机过程，需研究它们的统计联系。又如：输入到随机过程，需研究它们的统计联系。又如：输入到一个系统的信号和噪声可都是随机过程，这时，输一个系统的信号和噪声可都是随机过程，这时
34、，输出也是随机过程。我们需要研究输出与输入之间的出也是随机过程。我们需要研究输出与输入之间的统计联系等等。对于这类问题，我们除了对各个随统计联系等等。对于这类问题，我们除了对各个随机过程的统计特征加以研究外，还必须将几个随机机过程的统计特征加以研究外，还必须将几个随机过程作为整体研究其统计特征。过程作为整体研究其统计特征。设设 X(t),tT 和和Y(t),tT 是同一参数空是同一参数空间上的两个不同的随机过程，称间上的两个不同的随机过程，称(X(t),Y(t),tT 是二维随机过程。是二维随机过程。设设(X(t),Y(t),tT 是二维随机过程，如果是二维随机过程，如果对任意正整数对任意正整
35、数n,m，任意数组，任意数组 t1,t2,tn T，t1,t2,tm T，称，称n+m 维随机变量维随机变量(X(t1),X(t2),X(tn),Y(t1),Y(t2),Y(tm)的分布函数的分布函数F(x1,x2,xn;t1,t2,tn:y1,y2,ym;t1,t2,tm)为随机过程为随机过程X(t)与与Y(t)的的n+m维联合分布函数。维联合分布函数。如果对任意正整数如果对任意正整数n,m，任意数组，任意数组 t1,t2,tn T;t1,t2,tm T，n维随机变量维随机变量(X(t1),X(t2),X(tn)与与 m维随机变量维随机变量(Y(t1),Y(t2),Y(tm)相互独立，则称随
36、机过程相互独立，则称随机过程X(t)和和 Y(t)是是相互独立的相互独立的。关于数字特征，除关于数字特征，除X(t),Y(t)的均值和自相关函数的均值和自相关函数外，在应用课题中感兴趣的是外，在应用课题中感兴趣的是X(t)和和Y(t)的二阶混合的二阶混合原点矩，记作原点矩，记作并称它为并称它为X(t)和和Y(t)的的互相关函数。互相关函数。类似地，还有如下定义的类似地，还有如下定义的X(t)和和Y(t)的的互协方差互协方差函数函数 如果对任意的如果对任意的 t1,t2T，恒有，恒有则称随机过程则称随机过程X(t)和和Y(t)是是不相关的不相关的。由第四章由第四章3可推知，两个随机过程如果是相互
37、可推知，两个随机过程如果是相互独立的独立的,且它们的二阶矩存在且它们的二阶矩存在,则它们必然不相关。则它们必然不相关。反之反之,从不相关一般并不能推断出它们相互独立。从不相关一般并不能推断出它们相互独立。当同时考虑当同时考虑 n(n2)个随机过程或个随机过程或 n维随机过程维随机过程时时,我们可类似地引入它们的多维分布，以及均值我们可类似地引入它们的多维分布，以及均值函数和两两之间的互相关函数函数和两两之间的互相关函数(或互协方差函数或互协方差函数)。在许多应用问题中，经常要研究几个随机过程在许多应用问题中，经常要研究几个随机过程之和之和(例如，将信号和噪声同时输入到一个线性系例如，将信号和噪
38、声同时输入到一个线性系统的情形统的情形)的统计特征。现考虑三个随机过程的统计特征。现考虑三个随机过程 X(t),Y(t)和和Z(t)之和的情形，令之和的情形，令 W(t)=X(t)+Y(t)+Z(t).显然，均值函数显然，均值函数而而W(t)的自相关函数可以根据均值运算规则和相关的自相关函数可以根据均值运算规则和相关函数的定义得到，函数的定义得到，此式表明：几个随机过程之和的自相关函数可此式表明：几个随机过程之和的自相关函数可以表示为各个随机过程的自相关函数以及各对随机以表示为各个随机过程的自相关函数以及各对随机过程的互相关函数之和。过程的互相关函数之和。如果上述三个随机过程是两两不相关的，且
39、各如果上述三个随机过程是两两不相关的，且各自的均值函数都为零，则由自的均值函数都为零，则由(2.11)是可知诸互相关是可知诸互相关函数均等于零，此时函数均等于零，此时W(t)的自相关函数简单地等于的自相关函数简单地等于各个过程的自相关函数之和，即各个过程的自相关函数之和，即特别地，令特别地，令t1=t2=t,由由(2.12)式，得式，得W(t)的方差函数的方差函数(此处即均方值函数此处即均方值函数)为为10.3 泊松过程及维纳过程泊松过程及维纳过程 泊松泊松(Poission)过程及维纳过程及维纳(Wiener)过程是两过程是两个典型的随机过程，在随机过程理论和应用中都占重个典型的随机过程，在
40、随机过程理论和应用中都占重要地位，都属于要地位，都属于独立增量过程独立增量过程。下面首先介绍独立增。下面首先介绍独立增量过程。量过程。给定二阶矩过程给定二阶矩过程X(t),t 0,称称X(t)-X(s),0st为随机过程在区间为随机过程在区间(s,t上的增量。如果对任意正整上的增量。如果对任意正整数数n 和任意和任意 0t0 t1 t2 tn,n个增量个增量 X(t1)-X(t0),X(t2)-X(t1),X(tn)-X(tn-1)相互独立，则称相互独立，则称X(t),t 0为为独立增量过程独立增量过程。直观地说：直观地说：就是在互不重叠的区间上，状态的增就是在互不重叠的区间上，状态的增量相互
41、独立。量相互独立。对于独立增量过程，可以证明：在对于独立增量过程，可以证明：在 X(0)=0 的条的条件下件下,过程的有限维分布函数族可以由增量过程的有限维分布函数族可以由增量 X(t)-X(s)(0st)的分布所确定。的分布所确定。特别地，若对任意的实数特别地，若对任意的实数 h 和和 0 s+h t+h,X(t+h)-X(s+h)与与 X(t)-X(s)具有相同的分布，则称具有相同的分布，则称增量具有平稳性。增量具有平稳性。这时，增量这时，增量 X(t)-X(s)的分布函数的分布函数实际上只依赖于时间差实际上只依赖于时间差 t-s(0st)，而不依赖于，而不依赖于t和和 s 本身本身(事实
42、上，令事实上，令h=-s即知即知)。当增量具有平稳性时，称相应的独立增量过程当增量具有平稳性时，称相应的独立增量过程是是齐次的齐次的或或时齐的时齐的。在在 X(0)=0 和方差函数和方差函数 DX(t)已知条件下，可计已知条件下，可计算独立增量过程算独立增量过程X(t),t 0的协方差函数的协方差函数CX(s,t)。记记 Y(t)=X(t)-X(t)。首先注意到：当。首先注意到：当 X(t)具有独具有独立增量时立增量时,Y(t)也具有独立增量也具有独立增量;其次其次注意到注意到:Y(0)=0,EY(t)=0，且方差函数，且方差函数 DY(t)=EY2(t)=DX(t)。利用这些性质，当。利用这
43、些性质，当 0st 时，就有时，就有故，对任意故，对任意s,t0，协方差函数可用方差函数表示。，协方差函数可用方差函数表示。10.3.1 泊松过程泊松过程 考虑下列随时间推移迟早会重复出现的事件：考虑下列随时间推移迟早会重复出现的事件：(1).自电子管阴极发射的电子到达阳极；自电子管阴极发射的电子到达阳极；(2).意外事故或意外差错的发生；意外事故或意外差错的发生；(3).要求服务的顾客到达服务站。要求服务的顾客到达服务站。此处此处“顾客顾客”与与“服务站服务站”的含义是相当广泛的含义是相当广泛的。如的。如:“顾客顾客”可以是电话的呼叫，可以是电话的呼叫，“服务站服务站”是是120急救台；急救
44、台；“顾客顾客”可以是联网的个人电脑，可以是联网的个人电脑，“服务站服务站”是某网站的主页是某网站的主页;“顾客顾客”可以是等待可以是等待起飞的飞机，起飞的飞机，“服务站服务站”是机场跑道是机场跑道等。等。为建立一般模型，我们把电子、顾客等看作为建立一般模型，我们把电子、顾客等看作时间轴上的质点，电子到达阳极、顾客到达服务时间轴上的质点，电子到达阳极、顾客到达服务站等事件的发生相当于质点出现。于是，抽象地站等事件的发生相当于质点出现。于是，抽象地说，我们研究的对象将是随时间推移，陆续出现说，我们研究的对象将是随时间推移，陆续出现在时间轴上的许多质点所构成的随机的质点流。在时间轴上的许多质点所构
45、成的随机的质点流。以以N(t),t 0表示在时间间隔表示在时间间隔(0,t内出现的质点内出现的质点数。数。N(t),t 0是一状态取非负整数、时间连续是一状态取非负整数、时间连续的随机过程，称为的随机过程，称为计数过程计数过程。计数过程计数过程的样本函数如图的样本函数如图10-5所示，图中所示，图中t1,t2,是质点依次出现的时刻。是质点依次出现的时刻。图图10-5 将增量将增量 N(t)-N(t0)记成记成 N(t0,t),0 t0 0 称为过程称为过程 N(t)的强度，而的强度，而 当当 时是关于时是关于t的高阶无穷小；的高阶无穷小；(3).对于充分小的对于充分小的t,(4).N(0)=0
46、。我们把满足条件我们把满足条件(1)(4)的计数过程的计数过程N(t),t 0称作称作强度为强度为 的泊松过程的泊松过程。相应的质点流，即质。相应的质点流，即质点出现的随机时刻点出现的随机时刻 t1,t2,称作称作强度为强度为 的泊松流的泊松流。以下首先来求增量的分布律以下首先来求增量的分布律(3.2)。对于泊松。对于泊松过程，注意到过程，注意到 =1，结合条件，结合条件(2)和和(3)，有有 下面就泊松过程来计算概率下面就泊松过程来计算概率(3.2)。首先确定首先确定P0(t0,t)。为此，对。为此，对t 0，考虑，考虑由条件由条件(1)和和(3.5)式，上式可写成式，上式可写成用用t 除上
47、式两边，并令除上式两边，并令 ，即得，即得P0(t0,t)满足的微分方程满足的微分方程因为因为N(t0,t0)=0，故，故P0(t0,t0)=1。把它看作初始条。把它看作初始条件即可从方程件即可从方程(3.6)解得解得 再来计算再来计算Pk(t0,t),k1。根据并事件概率公式。根据并事件概率公式和条件和条件(1)，有，有由由(3.2)(3.5)式，并注意到式，并注意到上式可表示成上式可表示成将此式适当整理后，两边除以将此式适当整理后，两边除以t，并令，并令 ，可得到可得到 Pk(t0,t)满足的满足的微分微分-差分方程差分方程又因又因 N(t0,t0)=0，故有初始条件，故有初始条件在在(3
48、.8)与与(3.9)中令中令k=1,利用求出的利用求出的P0(t0,t),可可解出解出 如此重复，即逐次令如此重复，即逐次令 k=2,3,，就得到就得到(t0,t 时间段内出现时间段内出现 k 个质点的概率为个质点的概率为 由上式易见：增量由上式易见：增量 N(t0,t)=N(t)-N(t0)的概率的概率分布是参数为分布是参数为(t-t0)的泊松分布的泊松分布,且只与时间差且只与时间差 t-t0 有关。所以，强度为有关。所以，强度为 的的泊松分布是一齐次的独立泊松分布是一齐次的独立增量过程。增量过程。在一些文献中，泊松过程也用另一种形式定义。在一些文献中，泊松过程也用另一种形式定义。若计数过程
49、若计数过程 N(t),t 0 满足下列三个条件：满足下列三个条件：.过程过程是独立增量过程；是独立增量过程；.对任意对任意 t t00，N(t)-N(t0)服从参数为服从参数为(t-t0)的的 泊松分布泊松分布;.N(0)=0,则称则称N(t),t 0是强度为是强度为 的泊松过程。的泊松过程。从前面的推导不难看到：从条件从前面的推导不难看到：从条件(1)(4)可推出可推出。反之。反之,在在中令中令 t-t0=t，并利用并利用e-t的泰勒的泰勒展开式，就能得到条件展开式，就能得到条件(2)、(3)。由此可知：定义泊。由此可知：定义泊松过程的两组条件是等价的。松过程的两组条件是等价的。由由(3.1
50、0)式，式，t t00，可知，可知特别地，令特别地，令t0=0，由于假设，由于假设N(0)=0，可推出泊松过，可推出泊松过程的均值函数和方差函数分别为程的均值函数和方差函数分别为 从从(3.11)可看到可看到:=EN(t)/t，即泊松过程的强度，即泊松过程的强度(常数常数)等于单位时间间隔内出现的质点数的期望值。等于单位时间间隔内出现的质点数的期望值。泊松过程的协方差函数，则可由泊松过程的协方差函数，则可由(3.1),(3.11)式直接推得：式直接推得：相关函数相关函数 若条件若条件(3.3)式中的强度为非均匀的，即式中的强度为非均匀的，即 是是时间时间 t 的函数的函数 =(t),t0。则称