《第十讲几种常用的随机过程论文毕业文章_高等教育-大学课件.pdf》由会员分享，可在线阅读，更多相关《第十讲几种常用的随机过程论文毕业文章_高等教育-大学课件.pdf（21页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第十讲 几种常用的随机过程 10.1 马尔可夫过程 10.1.1 马尔可夫序列 马尔可夫序列是指时间参数离散，状态 连续的马尔可夫过程。一个随机变量序列Xn(n=1,2,)，若对 于任意的 n 有 Fx(Xn Xn-1，Xn-2,，X1)=Fx(Xn|X1)(10-1)或 f x(XnXn 1，Xn 2，X1)=f X(Xn 1 X-J(10.2)则称Xn为马尔可夫序列。Xn的联合概率密 度为 f X(X1，X2，.，Xn)=f X(Xn|Xn-1)f X(X1 1 X)fx(X2X1)fx(X1)(10.3)马尔可夫序列有如下性质：(1)一个马尔可夫序列的子序列仍为马尔 可夫序列。(2)f
2、x(Xn 1 Xn 1,Xn 2,Xn k)=f X(Xn 1 Xn-J(10.4)(3)E(X n I Xn-1，X1)-E(X n 1 Xn-J(10.5)(4)在一个马尔可夫序列中，若已知现在，则未来与过去相互独立。即 f x(Xn，Xs|Xr f X(Xn|Xn-1)f X(Xs|Xr)，nrs(10.6)(5)若条件概率密度f X(*I Xn.)与口无关，则称马尔可夫序列是齐次的。(6)若一个马尔可夫序列是齐次的，且所 有的随机变量 Xn具有同样的概率密度，则称该马尔可夫序列为平稳的。(7)马尔可夫序列的转移概率满足切普曼 柯尔莫哥洛夫方程，即 ，nrs(10.7)10.1.2 马尔
3、可夫链 马尔可夫链是指时间参数，状态方程皆 f X(XnIXs)30 x(X nXr)X(Xr 1 Xs)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅
4、研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的为离散的马尔可夫过程。1马尔可夫链的定义 设 Xn(n=1,2,)为离散时间随机过程，其状态 空间1=曰。2,N。如果过程在tm k时刻为 任一状态ai(i=12,N)的概率，只与过程 I m k 在tm时刻的状态有关，而与过程在 tm时刻以 前 的 状 态 无 关，即 PXmaimk|Xaim,Xrai1=PXmaim.|Xaim(10.8)则称该过程为马尔可夫链，或简称马氏链。2马氏链的转移概率及有限维分布 马氏链的转移概率定义为 pm k)=pXmk ajXm ai,i,j 1
5、,2,111 N;m,k皆为正整数(10.9)如果Pij(m,m k)与 m无关，则称该马氏 链为齐次的。下一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们
6、仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的面我们仅研讨齐次马氏链，并习惯上省去“齐次”二字。马氏链的一步转移概率及其矩阵分别定 义为 Pij=Pj（1）=Pj（m，m 1）=PX m a j 1 X m=ai （10.10）-1 P11 P12 P1N 1 P=P(1)二 1 P21 3 P22 P2N 1 1 PN1 PN2 PNN (10.11)步转移概率矩阵 P有以下两个性质 （10.12）N 工 PijT i:（10.13）马氏链的高阶转移概率及其矩阵分别 定义为 一个随机变量序列于任意的有若对或则称为马尔可夫序列
7、的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的Pj(n)=Pj(m,m n)=PXm n
8、=a j 1X m=(10.14)P11(n)Pi2(n)I PiN(n)p(n)=p2i(n)P22(n)I P2N(n)1(10.15)一 PN1(n)PN2(n)川 1 PNN(n)n 步转移概率矩阵 P(n)具有如下的性质：0岂 Pij(小 1 (10.16)N Pij(n)=1 I=1 (10.17)此外，还规定 Plj()=P l|j(m,m ij=2j 0,i=j 马氏链的 n 步转移概率及其矩阵具有如 下的切普慢一柯尔摩哥洛夫方程的离散形 式，即即 一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在
9、一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的 p(n)=p(l k)二 p(l)p(k)(10.19)当 n 为任意正整数时，则有 n p(n)=p p(n T)=II
10、I=p(10.20)式(7.18),若 n=k+1,则有 Pij(k1)八 PirP/k)八卩冷4 21)r r 由上可知，以一步转移概率 Pij为元素的 一步转移概率矩阵 P决定了马氏链状态转移 过程的概率法则。但是，P决定不了初始概 率分布，必须引入初始概率 p pXo=ah=0,12川(10.22)并称 P=(P。，SP2，)为初始分布，显然 1-p0,p 1(10.23)i 若绝对概率Pj(k)卡XkQ，则有Pij(n)=Pj(l k)=Pir(k)Prj(10.18)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马
11、尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的Pj(k 1)八 PiPj(k1)八 pZPj(10.24)i i 马氏链的有限维分布可表示为 PXo=aio，
12、Xi=ah，川，Xn=ai”=PXo=aiPXi=aXo=a*川 PXn=ainlXnaJ PioPioil 川 Pinin 3 遍历性及平稳分布 (1)遍历性 设X(n)为齐次马氏链，若 对于一切状态i 与 j，存在不依赖于 i 的极限 lim Pg(n)=Pj(io.36)则称马氏链 X(n)具有遍历性。定理(有限马氏链具有遍历性的充分条 件)对有限状态的齐次马氏链 X(n),若存 在正整数 m，使 Pij(m)o,i,j=1,2,.,N(io.37)则此链是遍历的。而且，式(10.36)中的(io.25)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下
13、性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的Pj珥Pl，P2,PN是方程组 N Pj 八 Pi Pj,j 二 1,2,.,
14、N(10.38)i丄 在满足条件 N o Pj 1,Pj=1(10.39)i=1 下的惟一解。(2)平稳分布 马氏链的一个概率分布 cd Vj,即：Vj-0和V v厂1,如有 j=o 0 v j 二 Vj p(10.40)i=0 ij 则称它为该链的平稳分布。并有 0 Vi 八 Vi Pij(n)(10.41)20 10.1.3 马尔可夫过程 一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥
15、洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的这里论及的马尔可夫过程是指时间，状态皆连续的马尔可夫过程。扩散过程就是 这类马尔可夫过程的一个特例。设有一随机过程：X(t),t T,tt2.tn_tn T,若在 切t2，.t1,tn对X(t)观测得到 相应的观测值 x1，x2，.x1,xn满足
16、Fx(Xn；tn/Xn-1,Xn 2,.,X2,X1；tn1,tn2.,t2,t1)=Fx(Xn；tn/Xn一讥一1),n，3的整数(1042)则称此类过程为马尔可夫过程，简称马氏过 程。马氏过程的转移概率分布定义为：尸乂区霑区八一PX(tn)X(tn一济(10.43)或 Fx(x；t|Xg；to)=PX(t)x|X(t)=Xg,t(10.44)转移概率分布是关于 X的分布函数，故 有:一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平
17、稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的(1)Fx(x;t|Xo；to)-0(10.45)F(：;t|x;t)1(10.46)(3)F(-；11 Xo；to)0(10.47)(4)F(x;t|x0;t0)是关于 x 单调不减，右连续的函数。(5
18、)满足切普曼一柯尔莫哥洛夫方程(10.48)马氏过程的转移概率密度定义为 fx(x；t|x0；t0 Fx(x；t|x0；t0)(1049)故有 fx(x;t/x0；t)dx 二 1(10.50)*0 fx(X；t/X0；t0)，(X-X),当 t t0 时(1051)f X(Xn;tn/Xn 一1,Xn _2,.,X2,X1;t n-1,t n-2,七2,tj=fx(Xn：tn/Xnjtn-J,n-3的整数(10.52)它也满足切普曼-柯尔莫哥洛夫方程 fx(Xn;tn/Xk：tk)fx(Xn;nn/X；tr)fx(Xr;tr/Xk;tk)dX,tk ttn 0 t|x;Fx(x;t|X1；d
19、x1Fx(x.tjx。;t。)(10.53)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵
20、分别定义为二步转移概率矩阵有以下两个性质工马氏链的如果马氏过程 X(t)有 Fx(x;t/Xo；to)=Fx(x/Xo；)t-to(10.54)或 fx(X；t/Xo；to)=fx(X/Xo；),=t-t 0(10.55)则称它为为齐次马尔可夫过程。马氏过程 X(t)的 n 维概率密度可写成 fX(X，X，.Xn；t1，t2，.，tn)fx(Xi；tJ 口 f X(xtj+i/x；tj，ti t.tn(10.56)i=1 10.2 独立增量过程 10.2.1 独立增量过程 设有一个随机过程 X(t)(t T)，若对任意的 时刻0三 S t 0内的增量与 M之 比，我们构成一新过程：称它为泊松增
21、量。显然，若 k 是间隔(t,r t)内的随机点数，则 Y(t)=k/t。故 (2)Y(t)的均值、自相关函数分别为:Pk(0,t2)(t)k k!L t-.e，t 0,k=0,1,2,l|(10.58)(10.59)(10.60)(10.61)RX(仏)=E X(tJX(t2)t2 2址2乙辽t2 帚2心1-t2(7.26)Y(t)二 X(t t)-X(t)込t(10.63)P Y(t)t k!(10.64)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件
22、概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的 3 过滤的泊松过程与散粒噪声 泊松过程 X(t)对 t 求导，就能得到与 时间轴上随机点ti相对应的冲激序列Z(t)，称 此离散随机过程为泊松冲激序列。即 (1)过滤的泊松过程
23、脉冲序列Z(t)=、；(t-i 变滤波器，则此滤波器输出是一随机过程 X(t)，如图:EY(t)EX(t 广、2 1 5X(t)=(10.65)t1-t2 RY(t11)=2 t1 一 t2 t(10.66)t 咖讐 ti)(10.67)设有一泊松冲激 ti)经过一线性时不 一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过
24、程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的Z(t)N(T)X(t)二 Z(t)h(t)二 h(t-tj),0 二 t(10.72)i=1 式中，h(t)为滤波器的冲激响应；ti为第 i 个冲激脉冲出现的时间；N(t)为在0,T内 输入到滤波器的冲激脉冲的个数，它服从泊 松分布。我们称此为过滤的泊松过程。(2)散粒噪声在电子管、晶体管中,由散粒效应引起的散粒噪
25、声电流皆为过滤 的泊松过程。因此，散粒噪声 X(t)可表示成 类似式(10.72)的形式。X(t)=Z(t)h(t)八：t:(10.73)i 而且，不难证明此 X(t)也是平稳的。10.2.3 维纳过程 一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状
26、态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的维纳过程W(t)是另一个最重要的独立增一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时
27、间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的量过程，有时也称它为布朗运动过程，还可 以将它看成是随机游动 X(t)的极限形式。1.定义设随机过程 w(t)(t【)满足下列条件：(1)PW()=1;(2)W(t)为均匀独立增量过程，且对 任意时刻切t2)，tt2,及；O,W(t 2 W(J；)具 有 与 W(t 2 b W(t!)相同的正态分布函数，其概 率密度为 fW(W2-Wi；t2,
28、tJ=(10.79)式中，：为正常数。(3)对任意时刻t 0/),W(t)具有 均值 EW(t)=0 的正态分布函数，其概率密度为 1/2(t t1)exp(W t2)为在 W(t2 W2之下随机变量 W(ti)的条件 概率密度。实际上，此式是柯尔莫格洛夫方 程的特例。可以证明，下列条件概率密度式 P(W2；W，ti)=fw(W；tl%；t2)v2(tr t2)exp(w_ WP2(tt2)ti(10.86)t2 wl 一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独
29、立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的(10.88)是式(10.85)具有初始条件为 f W(W1；t1 W2；t2)T 6(W1-W2),t t2 的惟一解 t2(10.89)一个随机变量序列于任意的有若对或则称为马尔可夫序列的联合概率密度为马尔可夫序列有如下性质一个马尔可夫序列的子序列仍为马尔可夫序列在一个马尔可夫序列中若已知现在则未来与过去相互独立即若条件概率密度夫序列是序列为平稳的马尔可夫序列的转移概率满足切普曼柯尔莫哥洛夫方程即马尔可夫链马尔可夫链是指时间参数状态方程皆为离散的马尔可夫过程马尔可夫链的定义设为离散时间随机过程其状态空间曰如果过程在时刻为任一状态的概率移概率及有限维分布马氏链的转移概率定义为皆为正整数如果与无关则称该马氏链为齐次的下面我们仅研讨齐次马氏链并习惯上省去齐次二字马氏链的一步转移概率及其矩阵分别定义为二步转移概率矩阵有以下两个性质工马氏链的