《随机过程知识点.doc》由会员分享,可在线阅读,更多相关《随机过程知识点.doc(19页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、精选优质文档-倾情为你奉上第一章:预备知识1.1概率空间随机试验,样本空间记为。定义1.1设是一个集合,F是的某些子集组成的集合族。如果(1)F;(2)F ,F; (3)若F ,则F;则称F为代数(Borel域)。(,F)称为可测空间,F中的元素称为事件。由定义易知:定义1.2 设(,F)是可测空间,P()是定义在上的实值函数。如果则称P是上的概率,()称为概率空间,P(A)为事件A的概率。定义1.3 设()是概率空间,如果对任意,有: 则称为独立事件族。1.2 随机变量及其分布随机变量X,分布函数,n维随机变量或n维随机向量,联合分布函数,是独立的。1.3随机变量的数字特征定义1.7 设随机
2、变量X的分布函数为,若,则称 为X的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes积分。 方差,为X、Y的协方差,而 为X、Y的相关系数。若则称X、Y不相关。 (Schwarz不等式)若则 1.4 特征函数、母函数和拉氏变换 定义1. 10 设随机变量的分布函数为F(x),称 为X的特征函数随机变量的特征函数具有下列性质:(1)1( 2 ) g (t)在 上一致连续。(3)(4)若是相互独立的随机变量,则的特征函数,其中是随机变量X的特征函数,.定义1 . 11 设 是n维随机变量,t = () 则称,为X的特征函数。定义1.12 设X是非负整数值随机变量,分布列 则称
3、为X的母函数。 1.5 n维正态分布 定义1.13 若n维随机变量的联合概率密度为 式中,是常向量,是正定矩阵,则称为n维正态随机变量或服从n维正态分布,记作。 可以证明,若,则的特征函数为 为了应用的方便,下面,我们不加证明地给出常用的几个结论。 性质1 若则。 性质2 设,若正定,则。即正态随机变量的线性变换仍为正态随机变量。性质3 设是四维正态随机变量,则 1.6 条件期望 给定Y=y时,X的条件期望定义为由此可见除了概率是关于事件Y=y的条件概率以外,现在的定义与无条件的情况完全一样。 E(X|Y=y)是y的函数,y是Y的一个可能值。若在已知Y的条件下,全面地考虑X的均值,需要以Y代替
4、y,E(X|Y)是随机变量Y的函数,也是随机变量,称为 X在 Y下的条件期望。 条件期望在概率论、数理统计和随机过程中是一个十分重要的概念,下面我们介绍一个极其有用的性质。 性质 若随机变量X与Y的期望存在,则 -(1) 如果Y是离散型随机变量,则上式为如果Y是连续型,具有概率密度f(x),则(1)式为第二章 随机过程的概念与基本类型2.1 随机过程的基本概念定义2.1 设()是概率空间,T是给定的参数集,若对每个tT,有一个随机变量X(t,e)与之对应,则称随机变量族是()的随机过程,简记为随机过程。T称为参数集,通常表示时间。通常将随机过程解释为一个物理系统。X(t)表示在时刻t所处的状态
5、。X(t)的所有可能状态所构成的集合称为状态空间或相空间,记为I。从数学的观点来说,随机过程是定义在T上的二元函数。对固定的t,X(t,e)是定义在T上的普通函数,称为随机过程的一个样本函数或轨道,样本函数的全体称为样本函数的空间。 2.2 随机过程的函数特征=X(t),tT 的有限维分布函数族。有限维特征函数族:其中:定义2.3 设=X(t),tT 的均值函数,。二阶矩过程,协方差函数:相关函数: 定义2.4 设X(t),tT ,Y(t),tT 是两个二阶矩过程,互协方差函数,互相关函数。 2.3 复随机过程 定义 2.5 设,是取实数值的两个随机过程,若对任意 ,其中 ,则称为复随机过程
6、定理 2.2 复随机过程的协方差函数 具有性质 (1)对称性:;(2)非负定性2.4 几种重要的随机过程一、正交增量过程定义2.6 设是零均值的二阶矩过程,若对任意的有公式,则称正交增量过程。二、独立增量过程定义2.7 设是随机过程,若对任意的正整数和随机变量是互相独立的,则称是独立增量过程,又称可加过程。定义 2.8 设是平稳独立增量过程,若对任意随机变量的分布仅依赖于,则称是平稳独立增量过程。三、马尔可夫过程定义2.9设为随机过程,若对任意正整数n及,,且其条件分布=,(2.6) 则称为马尔可夫过程。四、正态过程和维纳过程定义 2.10设是随机过程,若对任意正整数n和,(,)是n维正态随机
7、变量,则称是正态过程或高斯过程。定义 2.11设为随机过程,如果(1);(2)它是独立、平稳增量过程;(3)对,增量,则称为维纳过程,也称布朗运动过程。定理 2.3 设是参数为的维纳过程,则(1) 任意t,;(2) 对任意,特别: 。五、平稳过程定义 2.12 设是随机过程,如果对任意常数和正整数当时,与有相同的联合分布,则称为严平稳过程,也称狭义平稳过程。定义 2.13 设是随机过程,如果(1)是二阶矩过程;(2)对于任意常数;(3)对任意的,则称为广义平稳过程,简称为平稳过程。若T为离散集,则称平稳过程为平稳序列。第三章 泊松过程.1 泊松过程的定义和例子 定义3.1 计数过程 定义3.2
8、 称计数过程为具有参数0的泊松过程,若它满足下列条件 (1) X(0)= 0; (2) X(t)是独立增量过程; (3) 在任一长度为t的区间中,事件A发生的次数服从参数t0的泊松分布,即对任意s,t0,有 注意,从条件(3)知泊松过程是平稳增量过程且。由于,表示单位时间内事件A发生的平均个数,故称为此过程的速率或强度。 定义3.3 称计数过程为具有参数0的泊松过程,若它满足下列条件 (1) X(0)= 0; (2) X(t)是独立、平稳增量过程;(3) X(t) 满足下列两式: (3.2) 定理3.1 定义3.2与定义3.3是等价的。3.2 泊松过程的基本性质一、数字特征设是泊松过程, 一般
9、泊松过程的有。有特征函数定义,可得泊松过程的特征函数为 二、时间间隔与等待时间的分布为第n次事件A出现的时刻或第n次事件A的等待时间,是第n个时间间隔,它们都是随机变量。 定理3.2 设是具有参数的泊松分布,是对应的时间间隔序列,则随机变量是独立同分布的均值为的指数分布。 定理3.3 设是与泊松过程对应的一个等待时间序列,则服从参数为n与的分布,其概率密度为 三、到达时间的条件分布 定理3.4 设是泊松过程,已知在0,t内事件A发生n次,则这n次到达时间与相应于n个0,t上均匀分布的独立随机变量的顺序统计量有相同的分布。3.3 非齐次泊松过程定义3.4 称计数过程为具有跳跃强度函数的非齐次泊松
10、过程,若它满足下列条件:(1) ;(2) 是独立增量过程;(3) 非齐次泊松过程的均值函数为:定理3.5 设是具有均值函数的非齐次泊松过程,则有或 上式表明不仅是的函数,也是的函数。3.4 复合泊松过程定义3.5 设是强度为的泊松过程,是一列独立同分布随机变量,且与独立,令则称为复合泊松过程。 定理3.6 设是复合泊松过程,则(1)。是独立增量过程;(2)X(t)的特征函数,其中是随机变量的特征函数;是事件的到达率。(3)若则第4章 马尔可夫链4.1 马尔可夫链的概念及转移概率 一、马尔可夫键的定义 定义1 设有随机过程,若对于任意的整数和任意的,条件概率满足则称为马尔可夫链,简称马氏链。二、
11、转移概率定义2 称条件概率为马尔可夫链在时刻n的一步转移概率,其中,简称为转移概率。 定义 3 若对任意的,马尔可夫链的转移概率与n无关,则称马尔可夫链是齐次的,并记为。定义4 称条件概率为马尔可夫链的n步转移概率, 定理 1 设为马尔可夫链,则对任意整数和,n步转移概率具有下列性质:定义5 设为马尔可夫链,称为的初始概率和绝对概率,并分别称和为的初始分布和绝对分布,简记为和。定理2 设为马尔可夫链,则对任意和,绝对概率具有下列性质:定理3 设为马尔可夫链,则对任意和,有4.2 马尔可夫链的状态分类一、状态分类假设是齐次马尔可夫链,其状态空间,转移概率是, 初始分布为 。定义4.6 如集合非空
12、,则称该集合的最大公约数为状态的周期。如就称为周期的,如就称为非周期的。(若对每一个不可被整除的,有=0,且是具有此性质的最大正整数,则称为状态的周期。)引理4.1 如的周期为d,则存在正整数M,对一切,有。定义 对记 (4.15)称是系统在0时从出发经过步转移后首次到达状态的概率,而则是在0时从出发,系统在有限步转移内不可能到达状态的概率。我们将和统称为首达概率(又称首中概率)。引理 (1) (2) 首达概率可以用一步转移概率来表示: 定义4.7 若=1,则称状态为常返的;若0, 若有 ,则称二阶矩随机序列依概率收敛于二阶矩随机变量X(e),记作。4、均方收敛设有二阶矩随机序列和二阶矩随机变
13、量X,若有 (6.3)成立,则称均方收敛,记作。注:(6.3)式一般记为或。5、依分布收敛设有二阶矩随机序列和二阶矩随机变量X,若相应的分布函数列,在X的分布函数F(x)的每一个连续点处,有则称二阶矩随机序列依分布收敛于二阶矩随机变量X,记作对于以上四种收敛定义进行比较,有下列关系:(1) 若,则(2) 若,则(3) 若,则定理2 二阶矩随机序列收敛于二阶矩随机变量X的充要条件为定理3 设都是二阶矩随机序列,U为二阶矩随机变量,为常数序列,a,b,c为常数。令,。则(1) ;(2) ;(3) ;(4) ;(5) ;(6) ;特别有。定理4 设为二阶矩随机序列,则均方收敛的充要条件为下列极限存在
14、。二、均方连续定义 设有二阶矩过程,若对,有,则称在点均方连续,记作。若对T中一切点都均方连续,则称在T上均方连续。定理(均方连续准则)二阶矩过程在t点均方连续的充要条件为相关函数。推论 若相关函数在上连续,则它在TT上连续三、均方导数定义7 设是二阶矩过程,若存在一个随机过程,满足类似的有称为在的广义二阶导数,记为定理6 均方可微准则 二阶矩过程在t点均方可微的充要条件为相关函数的广义二阶导数存在。推论1 二阶矩过程在T上均方可微的充要条件为相关函数在上每一点广义二阶可微。推论2 若在上每一点广义二阶可微,则在T上以及在上存在,且有 四、均方积分定义8 如果时,均方收敛于,即,则称在上均方可
15、积,并记为定理7 (均方可积准则)在区间上均方可积的充要条件为存在。特别的,二阶矩过程在上均方可积的充要条件为在上可积。定理8 设在区间上均方可积,则有(1) 特别有 (2) 特别的有 。定理9 设二阶矩过程在上均方连续,则在均方意义下存在,且随机过程在上均方可微,且有。推论 设均方可微,且均方连续,则特别有4 平稳过程的各态历经性定义9 设为均方连续的平稳过程,则分别称为该过程的时间均值和时间相关函数。定义10 设是均方连续的平稳过程,若,即以概率1成立,则称该平稳过程的均值具有各态历经性。若,即以概率1成立,则称该平稳过程的相关函数具有各态历经性。 定义11 如果均方连续的平稳过程的均值和
16、相关函数都具有各态历经性,则称该平稳过程为具有各态历经性或遍历性。 定理 10 设是均方连续的平稳过程,则它的均值具有各态历经性的充要条件为 (6.9)定理6.11 设为均方连续的平稳过程,则其相关函数具有各态历经性的充要条件为 (6.15)其中 (6.16)定理6.12 对于均方连续平稳过程,等式以概率1成立的充要条件为若为实平稳过程,则上式变为定理 6.13 对于均方连续平稳过程,等式以概率1成立的充要条件为其中与(6.16)式相同。若为实平稳过程,则上式变为第七章 平稳过程的谱分析7.1 平稳过程的谱密度设 是均方连续随机过程,作截尾随机过程 因为 均方可积,故存在傅式变换.(7.4)利
17、用帕塞伐公式及傅式反变换,可得定义7.1 设 为均方连续随机过程,称为 的平均功率,称为 的功率谱密度,简称谱密度。当 是平稳均方连续函数时,由于是与无关的常数,利用均方积分的性质可以将(7.5)式简化得 . (7.8)由(7.8)式和(7.5)式看出,平稳过程的平均功率等于该过程的均方值,或等于它的谱密度在频域上的积分,即 . (7.9)定义7.2 设是平稳随机序列,若相关函数满足 则称为的谱密度。7.2谱密度的分析设 为均方连续平稳过程,为它的相关函数,为它的频率谱密度,具有下列性质:(1) 若,则是的傅式变换,即 . (7.12)(2) 是的实的,非负的偶函数。 (3) 当 是有理函数时
18、,其形式必为 其中为常数,且,分母无实根。7.3 窄带过程及白噪声过程的功率谱密度定义1 设 为实值平稳过程,若它的均值为零,且谱密度在所有频率范围内为非零的常数,即则称为白噪声过程。具有下列性质的函数称为函数: 函数有一个非常重要的运算性质,即抽样性质。对任何连续函数,有 (7.15)或 7.4 联合平稳过程的互谱密度定义7.4 设和是两个平稳过程,且它们是联合平稳的(平稳相关的),若它们的互相关函数满足,则称的傅氏变换 .(7.21)是与的互功率谱密度,简称互谱密度。因此互谱密度与互相关函数的关系如下: , 互谱密度具有下列性质: ,即与互为共轭; 和是的偶函数,而和是的奇函数; 与和满足下列关系式: 若和相互正交,则专心-专注-专业