《维纳滤波与卡尔曼滤波(31页).doc》由会员分享，可在线阅读，更多相关《维纳滤波与卡尔曼滤波(31页).doc（30页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、-维纳滤波与卡尔曼滤波-第 29 页第二章 维纳滤波与卡尔曼滤波 2.1 引言 信号处理的实际问题，常常是要解决在噪声中提取信号的问题，因此，我们需要寻找一种所谓有最佳线性过滤特性的滤波器。这种滤波器当信号与噪声同时输入时，在输出端能将信号尽可能精确地重现出来，而噪声却受到最大抑制。 维纳(Wiener)滤波与卡尔曼(Kalman)滤波就是用来解决这样一类从噪声中提取信号问题的一种过滤(或滤波)方法。 实际上这种线性滤波问题，可以看成是一种估计问题或一种线性估计问题。 一个线性系统，如果它的单位样本响应为h(n)，当输入一个随机信号x(n)，且(2.1)其中s(n)表示信号，表示噪声，则输出y
2、(n)为(2.2)我们希望x(n)通过线性系统h(n)后得到的y(n)尽量接近于s(n)，因此称y(n)为s(n)的估计值，用表示，即(2.3)图2.1 维纳滤波器的输入输出关系如图2.1所示。这个线性系统称为对于s(n)的一种估计器。 实际上，式(2.2)的卷积形式可以理解为从当前和过去的观察值x(n)，x(n-1)，x(n-2)x(n-m)，来估计信号的当前值。因此，用进行过滤的问题可以看成是一个估计问题。由于我们现在涉及的信号是随机信号，所以这样一种过滤问题实际上是一种统计估计问题。 一般，从当前的和过去的观察值x(n)，x(n-1)，x(n-2)，估计当前的信号值称为过滤或滤波；从过去
3、的观察值，估计当前的或将来的信号值称为预测或外推；从过去的观察值，估计过去的信号值称为平滑或内插。因此维纳过滤与卡尔曼过滤又常常被称为最佳线性过滤与预测或线性最优估计。这里所谓“最佳”与“最优”是以最小均方误差为准则的。本章仅讨论过滤与预测问题。 如果我们以分别表示信号的真值与估计值，而用e(n)表示它们之间的误差，即(2.4)显然，e(n)可能是正的，也可能是负的，并且它是一个随机变量。因此，用它的均方值来表达误差是合理的，所谓均方误差最小即它的平方的统计平均值最小：最小(2.5)采用最小均方误差准则作为最佳过滤准则的原因还在于它的理论分析比较简单，不要求对概率的描述。并且在这种准则下导出的
4、最佳线性系统对其它很广泛一类准则而言也是最佳的。 维纳过滤与卡尔曼过滤都是解决最佳线性过滤和预测问题，并且都是以均方误差最小为准则的。因此在平稳条件下，它们所得到的稳态结果是一致的。然而，它们解决的方法有很大区别。维纳过滤是根据全部过去的和当前的观察数据来估计信号的当前值，它的解是以均方误差最小条件下所得到的系统的传递函数H(z)或单位样本响应h(n)的形式给出的，因此更常称这种系统为最佳线性过滤器或滤波器。而卡尔曼过滤是用前一个估计值和最近一个观察数据(它不需要全部过去的观察数据)来估计信号的当前值，它是用状态方程和递推的方法进行估计的，它的解是以估计值(常常是状态变量值)形式给出的。因此更
5、常称这种系统为线性最优估计器或滤波器。维纳滤波器只适用于平稳随机过程，而卡尔曼滤波器却没有这个限制。维纳过滤中信号和噪声是用相关函数表示的，因此设计维纳滤波器要求已知信号和噪声的相关函数。卡尔曼过滤中信号和噪声是状态方程和量测方程表示的，因此设计卡尔曼滤波器要求已知状态方程和量测方程(当然，相关函数与状态方程和量测方程之间会存在一定的关系，见图2.13及例3)。卡尔曼过滤方法看来似乎比维纳过滤方法优越，它用递推法计算，不需要知道全部过去的数据，从而运用计算机计算方便，而且它可用于平稳和不平稳的随机过程(信号)，非时变和时变的系统。但从发展历史上来看维纳过滤的思想是40年代初提出来的，1949年
6、正式以书1的形式出版。卡尔曼过滤到60年代初才提出来2，它是在维纳过滤的基础上发展起来的，虽然如上所述它比维纳过滤方法有不少优越的地方，但是最佳线性过滤问题是由维纳过滤首先解决的，维纳过滤的物理概念比较清楚，也可以认为卡尔曼滤波仅仅是对最佳线性过滤问题提出的一种新的算法。 2.2 维纳滤波器的离散形式(I) 时域解 维纳过滤最初是对连续信号用模拟滤波器的形式出现的，而后才有离散形式。我们这里仅讨论维纳滤波的离散形式。 设计维纳滤波器的过程就是寻求在最小均方误差下滤波器的单位样本响应h(n)或传递函数H(z)的表达式，其实质是解维纳-霍夫(Wiener-Hopf)方程。在要求满足因果性即物理可实
7、现性的条件下，求解维纳-霍夫方程是一个典型的难题。本节我们在时域求最小均方误差下的h(n)，并用表示。按图2.1及式(2.1)、(2.2)、(2.3)有一个物理可实现的h(n)，必须是一个因果序列，即h(n)=0 当n0因此上式的求和上下限应从0到，即(2.6)上式可看成输出等于现在和过去各输入的加权之和。为了讨论方便，上式可写成下列形式：(2.7)式(2.7)与式(2.6)有如下关系：(2.8)于是(2.9)现在的问题是需要求得使最小的，为此，将上式对各hi求偏导，并令其结果等于0，得即(2.10) 式(2-10)称为正交性原理，这是借用当二个矢量正交时它们的点乘等于零的关系。正交性原理也可
8、以借用几何图形表示，如图2.2所示。正交性原理容易用i的求和项数为2的特殊情况予以推广来理解。在此情况下，共有的平面中，而e则垂直于此平面，于是，此时e的长度最短。图2.2 用几何图形理解正交性原理即是满足最小均方误差的估计值。因而我们可以从式(2.10)中解得。 如果令分别为x的自相关函数和x与s的互相关函数，代入式(2.10)得正交性原理的另一表达形式是(2.11) 如果我们将式(2.8)的关系代回式(2.10)及式(2.11)，则式(2.10)及式(2.11)分别成为(2.12)及(2.13)式(2.11)与式(2.13)称为维纳-霍夫方程(离散形式)。从维纳-霍夫方程式中解出h，它就是
9、在最小均方误差下的最佳。 注意式(2.13)(或式(2.11)有一个约束条件，因此，虽然在式(2.13)中的h(k)与有卷积的形式，但是我们不能简单地将式(2.13)应用卷积定理变换到z域求H(z)，然后从H(z)的反z变换求得h(k)。有了这个约束条件，要从维纳-霍夫方程求解最佳h(k)就变得困难。式(2.13)中的约束条件是来源于我们假设了h(n)是一个物理可实现的因果序列。如果不加物理可实现的约束，式(2.13)中的的约束条件也将不复存在。因此非因果的维纳-霍夫方程为(2.14)它没有约束条件，我们容易把它变换到z域得(2.15)或(2.16)从式(2.12)来看，的约束就是只能取过去和
10、当前的的读数。如果从的估计值，并不要求在当时立即得到，而许可在将来(经过等待或滞后)得到，那么式(2.6)的求和下限就不限制在m=0而可以允许m0，此时，就没有h(m0的约束了。 但是，如果我们不容许上述等待或滞后，那就必须考虑因果性约束，此时可以用下列方法来逼近，从而得到方程(2.13)的解。 设h(n)是一个因果序列可以用有限长(长度为N)的序列去逼近它，此时式(2.6)，(2.7)，(2.10)，(2.11)，(2.13)分别成为或(2.17)(2.18)或(2.19)于是我们可以将式(2.19)的维纳-霍夫方程写成矩阵形式。为此先将式中j=1, 2, , N分别代入，写成N个线性方程：
11、(2.20)于是，它的矩阵形式为(2.21)式(2.21)为维纳-霍夫方程的矩阵形式，其中(2.22)式(2.22)中h1, h2, , hN为h(n)序列在n=0, 1, , N-1时的值。(2.23)称为x的自相关矩阵。(2.24)称为x与s的互相关矩阵。从式(2.21)可解出(2.25)由此可见，用有限长的h(n)来实现维纳滤波器时，当已知，就可以按式(2.25)在时域内解得满足因果律的。但是，当N大时，计算工作量很大，需要知道并计算及其逆矩阵。当N大时，对计算机的存储量要求也很大。如果在计算过程中想增加h(n)的长度N来提高逼近精度时，就需要在新N的基础上重新进行计算。因此，最小方差准
12、则的维纳滤波器，用有限冲激响应的FIR滤波器来实现，并不是有效的办法。 2.3 维纳滤波器的离散形式(II)z域解 在上一节我们讨论到，当要求维纳滤波器单位样本响应h(n)是一个物理可实现的因果序列时，所得到的维纳-霍夫方程式(2.13)将附有的约束条件。在此约束条件下，式(2.13)不能直接转入z-域求解它的。这使得在要求满足物理可实现条件下，求解维纳-霍夫方程成为一个十分困难的问题。在本节中我们将利用把x(n)加以白化的方法来求维纳-霍夫方程的z域解(这种方法是由波德(Bode)和香农(Shannon)首先提出的)。为此，先引入信号模型的概念。 任何具有有理功率谱密度的随机信号都可以看成是
13、由一白色噪声激励一物理网络所形成。一般信号s (n)的功率谱密度是z的有理分式，故s (n)的信号模型可用图2.3表示，其中A(z)表示信号s (n)的形成网络的传递函数。由于白噪声的自相关函数及功率谱密度分别为所以s(n)的功率谱密度可表示为(2.26) 由于的信号可表示成图2.4的形式。 如果x (n)的功率谱密度也为z的有理分式，我们可以将x (n)的信号模型直接表示成图2.5的形式，其中B (z)是x (n)的形成网络的传递函数。同样，有(2.27)为了白化x (n)，我们将直接用图2.5的信号模型。图2.3 s(n)的信号模型 图2.4 x(n)的信号模型图2.5 维纳滤波器的信号模
14、型 按式(2.27)，如果是在圆内的一对共轭极点(或零点)(设)，则必是在圆外的一对相应的极点(或零点)，如图2.6所示。今令B(z)是由圆内的零极点组成，则是由相对应的圆外的零极点组成。故B(z)是一个因果(或物理可实现)的并且是最小相移的网络。或(2.28)由于B(z)是一个最小相移网络函数，故1/B(z)也是一个物理可实现的最小相移网络，因此可以利用式(2.28)的关系白化x(n)。 将图2.1重画于图2.7(a)，如前所述，设计维纳滤波器的问题就是求在最小条件下的最佳H(z)的问题。为了便于求得这个Hopt(z)，将图2.7(a)中的滤波器分解成二个串联的滤波器：1/B(z)与G(z)
15、，如图2.7(b)所示，于是图2.6 B(z)是由单位圆内的图2.7 得用白化x(n)的方法求零极点组成，B(z-1)是由对应 解维纳-霍夫方程的单位圆外的零极点组成。(2.29)其中B(z)由在单位圆内的零极点组成。已知信号的即可按式(2.27)求得B(z)(或1/B(z)，它是一个物理可实现的因果系统。于是，求在最小均方误差下的最佳Hopt(z)的问题就归结为求最佳G(z)的问题了。我们可以对G(z)加以因果性或非因果性的约束具体求解。由于G(z)的激励源是将x(n)白化后得到的白噪声，这就使得求图2.7(b)中的最佳G(z)比求图2.7(a)中的最佳H(z)容易得多。下面我们就分二种情况
16、：即没有物理可实现约束的(非因果的)与有物理可实现约束的(因果的)维纳波器分别进行讨论。2.3.1 没有物理可实现性约束的(非因果的)维纳滤波器 按图2.7(b)有(2.30)这里g(k)为G(z)的逆z变换。的均方误差为对上式逐项求均值：代入原式，并进行部分配方得(2.31) 现在让我们来求满足最小均方误差条件下的g(k)。式(2.31)中只有第二项与g(k)有关，且该项恒为正，所以可以利用第二项等于零的条件求得均方误差最小的g(k)，即得 (3.32)其z变换为(2.33)按式(2.29)，得利用相关-卷积定理可以证明(2.34)代入上式，得(2.35)式(2.35)就是式(2.15)。
17、如果设，且其中的不相关，即对任何m，则及(2.36)代入式(2.35)，得(2.37)将代入上式，得非因果的维纳滤波器的频率特性为(2.38)上式说明决定于信号与噪声的功率谱密度。当没有噪声时， ；随着的增加，将减小；当而时，；即(2.39)现在设与随的变化特性如图2.8中的实线所示，则维纳滤波器的，按式(2.39)，将如图2.8中的虚线所示。由图可见，在噪声谱密度愈大的频率的值将愈小，因而这种滤波器的频率特性当然会有从噪声中提取信号的能力，这与我们直观想象中所要求的滤器特性是一致的。图2.8 决定于与特性的例子 下面让我们求非因果维纳滤波器的最小均方误差。按式(2.31)和(2.32)有(2
18、.40)利用帕塞伐尔(Parseval)定理，上式在z-域可表示为(2.41)上式第一项是因为因而有上式第二项是因为，按帕塞伐尔定理：(2.42)当y*(n)=x(n)时，上式成为(2.43)于是有再将式(2.34)代入式(2.41)得考虑到式(2.35)，有(2.44)当不相关时，又因为，代入上式得(2.45)取单位圆为积分围线，以代入得(2.46)由式(2.46)可见，仅当信号与噪声的功率谱不相覆盖时方为零。2.3.2 有物理可实现性约束的(因果的)维纳滤波器 对于有物理可实现性约束的维纳滤波器：，于是式(2.30)与式(2.31)分别成为(2.47)(2.48)所以(2.49) 如果某函
19、数f (n)的z变换为F(z)，即我们把的z变换用F(z)+表示，即代表一个因果序列，只在n0时存在。如果它又是一个稳定序列，则F(z)+的全部极点必定都在单位圆内。于是式(2.49)的z变换可以写成(2.51)式(2.51)即是我们要求的因果的(物理可实现的)维纳滤波器的传递函数。它与式(2.35)的非因果的维纳滤波器的传递函数比较，除了多一个 +外，其它完全相同。 因果的维纳滤波器的最小均方误差为利用帕塞伐尔定理，上式可用Z域表示如下： (2.52)这里可以取单位圆作为积分围线，将式(2.52)与式(2.44)比较可见，因果维纳滤波器的表达式(2.52)与非因果维纳滤波器的表达式(2.44
20、)具有完全相同的形式，只是二者的有所不同，前者应按式(2.51)计算，而后者应按式(2.35)计算。 例1 设已知，以及(白噪声)其中s(n)代表所希望得到的信号，代表加性白噪声。求物理可实现与物理不可实现这二种情况下的及。 解 因为所以 又因为其中B(z)由单位圆内的零极点组成，B(z-1)由单位圆外的零极点组成，上两式比较得 (1) 物理可实现情况因为对于项。所以利用式(2.52)并考虑到，得取单位圆为积分围线，上式等于单位圆内的积点的留数之和，即而在经过此滤波器以前的均方误差为所以通过维纳滤波器后均方误差下降8/3(2.7)倍。 (2) 非物理可实现的情况取单位圆为积分围线C。在单位圆内
21、有二个极点：。H式等于该二个极点的留数，因此前面求得物理可实现的，所以在此例中非物理可实现情况的均方误差略小于(即稍好于)物理可实现的情况。可以证明，物理可实现情况的最小均方误差总不会小于非物理可实现的情况。 2.4 维纳预测器 前面讨论的维纳滤波器是一种估计器,是用观测到的x(n)的当前和全部过去数据x(n),x(n-1),x(n-2)，来估计当前的值，使估计的当前值与输入的信号部分s(n)的当前值均方误差最小。本节将讨论维纳预测器，他同样也是一种估计器，但它是以观测到的全部过去数据来估计当前或将来的值，使估计的与真值s(n+N)的均方误差最小。 如果输入x(n)中没有噪声，在这种情况下估计
22、s(n+N)的问题称为纯预测问题。本节将着重讨论纯预测问题。 2.4.1 预测的可能性 我们所讨论的信号是随机的，任一时刻x(n)或s(n)的取值是具有偶然性的，即使在已知该序列以前的全部取值的情况下，仍然不能精确确定当前的取值，当然也更无法精确确定今后某个时刻的取值。但是通过估计的办法，利用x(n)与s(n)的某些统计特性，可以预测和确定当前和今后最可能的取值。在统计平均的意义上，我们说预测是可能的。 任何一个输入x(n)，可以从它的自相关函数了解它在任两点间相关(联系)的程度。换句话说，如果知道了自相关函数以及x(n)在一个点及其全部过去的取值，就可以估计它在其后另一点的取值。当知道现在和
23、全部过去的取值时，可以推测它在将来某一点的可能值，这就是一种预测。我们前面已提到一个随机信号x(n)可看成一个随机的白色噪声通过一个线性系统B(z)产生的，如果2.5所示。从这个意义上看，一个随机信号x(n)的自相关性是由该线性系统B(z)的惯性造成的。 按图2.5，x(n)的自相关函数的z变换为因为是白色噪声，所以有从而白色噪声的自相关函数为，即，对于，这说明白色噪声的各不同时间点上的值是不相关的。但白色噪声通过一个系统B(z)后，如果B(z)是一个有惯性的系统，则x(n)一定是非白色的，即x(n)在各不同时间点上的值一定是相关的。x(n)的自相关函数或其z变换表达了这种相关性。因此，x(n
24、)在各不同时间点上的值的相关性是起因于B(z)的惯性。如果B(z)的特性(惯性)已知，x(n)的自相关性当然也就知道了。正表达了B(z)的特性与x(n)的相关性之间的关系，它说明了系统的惯性与系统输出信号的自相关函数之间的关系。总上，可以利用系统的惯性来进行预测。 例如，当的样本序列仅为。此时，我们可以精确地预测(知道)n0时的s(n)值。因为现在x(n)=s(n)= b(n)，其中b(n)为B(z)的逆z变换。而如果系统的B(z)已知，b(n)就是已知的。事实上，因为当n0时，完全决定于系统的惯性。系统有惯性，响应b(n)就有尾迹如图(2.9)(b)及(c)所示，在n0时的s(n)是系统对响
25、应的尾迹。现在如果如图(2.9)(d)所示(在此例中仅在n=0, 1, 2, 3时有值，)，那么也同样可以精确地预测(知道)在将来任何n值时的s(n)值。因为任何的样本序列都可看成是在不同时间出现的函数之和，即于是所以在任何将来时刻的s(n)值是完全可以由系统的b(n)的惯性确定的，它等于各在该时刻的尾迹之和如图2.9(e)所示。综上所述，如果我们仅观察到输入在0到n的一段样本序列所激励出来的系统响应s(n)，并且已知当N 0时，那么只要我们知道系统的惯性，就可以精确地预测将来任何(n+N)时刻的s(n+N)值。(a) (b) (c)(d) (e)图2.9 利用系统的惯性进行预测 现在如果我们
26、仅观察到在n=0到n的一段样本序列的响应s(n)，但是的值并不一定等于0，此时s(n+N)不仅决定于系统的惯性，还与的状态有关。然而我们并不能确切地知道的状态。但是如果已知的自相关函数，就可以根据的统计平均特性以及系统的惯性来估计(或预测)s(n+N)的值。这种估计当然不可能与真值完全相同，而会有一定的误差。这是因为本身的每个都是随机的、不确定的，而我们只观察到在n从0到n的样本序列的响应s(n)。这里要强调的是，这种预测是可能的、有根据的。 上面所讨论的有关预测的物理概念，可以用手推动的一个钟摆来比喻。如果推了n次后不再推动了，我们可以根据第n次推摆后的状态(这个状态与过去n次手推动的力的情
27、况有关)，以及钟摆的惯性，而完全确定它接下来运动规律。如果我们只观察到第n次时钟摆的状态，而n次以后仍继续用手推，且n次以后手推动的情况是随机的，即只知道它的统计特性，没有观察到它的真值，则只能用估计的方法预测它后来的运动规律，而不能确知它后来的运动规律。 综上所述，当我们要从观测到的s的当前值s(n)及其全部过去值估计将来值(N0)时。如果当N0，则仅由系统B(z)的惯性决定。已知B(z)的特性(惯性)，就可以从s(n)的过去值和当前值精确地预测s(n+N)的值，即估计到的(真值)。但如果当N0，则s(n+N)的值应由系统的惯性及的值共同确定。虽然我们不可能知道的精确值，但可以知道它的统计平
28、均特性，因此仍然可以对s(n+N)作出估计，只是此时的估计将会有误差，即。实际的预测问题属于后一种情况。因为前一种情况，实际上已全部观察到了，不需要预测了。 2.4.2 预测器的计算公式 图2.10表示一个预测器的输入输出信号，其中是希望得到的输出即，而实际得到的输出的估计值。 利用前面维纳滤波器估计当前值的结果，我们很容易推广它们用于预测，得到预测器的计算公式。主要的讨论目标仍是求出H(z)预测器的传递函数，以及预测的均方误差。维纳滤波器与维纳预测器的差别仅仅在于，前者所希望的输出为，后者为。实际的输出前者为，后者为。因而对于预测器有(2.53)设计维纳预测器的问题就是求条件下的图2.10
29、维纳预测器h(n)或H(z)的问题。为此，令，得即(a)或b)ab)与式(2.11)和式(2.13)比较可见，如果我们将所希望的输出用yd表示，则维纳滤波器的，因而有而维纳预测器的，因而有上式的z变换为a)及b) 下面我们仍然分成二种情况：没有物理可实现性约束的和有物理可实现性约束的维纳预测器，分别进行讨论。 (1) 没有物理可实现性约束的(非因果的)维纳预测器 非因果的维纳预测器是物理不可实现的系统，但它指出了预测器可能得到的最好结果。 借用维纳滤波器的计算公式，在这里我们可以将其写成(2.56)对于维纳滤波器对于维纳预测器(N步预测)最小均方误差为(2.57)这里。将式(2.55)代入式(
30、2.56)与(2.57)，得(2.58)(2.59)(2) 有物理可实现性约束的(因果的)维纳预测器借用因果的维纳滤波器的公式，在这里我们将其写成对于维纳滤波器，对于维纳预测器，故物理可实现的维纳预测器的传递函数应为(2.60)最小均方误差的公式为 (2.61)将式(2.61)与式(2.59)比较可见，二者具有完全相同的形式，只是它们的Hopt有所不同，前者应按式(2.60)计算，后者应按式(2.58)计算。 2.4.3 纯预测器(N步) 纯预测是在情况下对的预测。因此对纯预测器，从而有(2.62)对于因果系统，将式(2.62)代入式(2.60)及(2.61)得(2.63)及此表达式可用帕塞伐
31、尔定理进一步化简。按帕塞伐尔定理：当x(n)、y(n)是实序列时，可除去上式的共轭符号：设b(n)是B(z)的逆z变换，利用上式，得(2.64)又因为B(z)是一个因果系统，所以b(n)是一个因果序列，求和下限可从0开始。展开求和项，可进一步简化代入式(2.64)，得(2.65)上式说明最小均方误差将随着N的增大而增大，即预测距越远，误差越大。 例2 已知及 求 (1) 使均方误差最小的(2) 最小均方误差 解 因为所以由式(2.63)得因果的维纳预测器，应有因为所以对只取上式中n0的部分，得再回到z-域，得代入Hopt(z)表达式，得(2.66)这个结果可用方框图表示在图2.11中。图2.1
32、1 纯预测的例子 在本例中，最佳预测就等于aN乘以当前的s(n)的取值，即有。这看上去似乎有些奇怪，为什么预测值只与当前值s(n)有关，而和无关呢？这个疑问暂时不作解释，让我们先把第二个问题：求做完。 由式(2.65)得它说明：N越大，误差越大，如果N=0则没有误差。 现在来解释上述疑问。我们是把看成由白噪声通过B(z)产生的，而故该信号模型可以用一个一阶差分方程来表达：即(2.67)如图2.12所示。图2.12 一阶信号模型的例子 现在来讨论本例所得到的估计值的含义。(2.68) 式(2.68)所示的结果，正是式(2.67)中的差分方程在条件下的解。因为按式(2.67)，有又所以因此，式(2
33、.68)的结果等于认为，因而仅由B(z)的惯性就能完全决定估计值。而实际上我们并没有假设时均为零。这个结果只能说明的影响就统计平均来讲等于零。实际上从式可知。这是因为如果，则按终值定理有一个极点，今却没有的这个极点，所以必有(详见1.3)。x的均值等于零，正说明的影响就统计平均来讲等于零。因此式(2.68)的结论具有普遍适用性，即对于任何的的纯预测问题均可适用。当，我们要估计时，只需要考虑系统B(z)的惯性而可认为，这样估计出来的结果将有最小均方误差。2.5 一步线性预测器这里我们用N个最近的采样值来预测时间序列下一时刻的值，采用一种特殊的滤波器结构N阶横向滤波器（横向FIR滤波器）和格型结构
34、。2.5.1 前向预测对于纯预测问题，有v(n)=0，s(n)=x(n)，A(z)=B(z)，于是y(n) =一步前向预测问题是在给定过去P个样本x(n-1),x(n-2),x(n-P)基础上，预测当前值X(n)，则h (n)这就是一步线性预测公式，并常用下列符号表示(2.5.1)式中P为阶数，apk = -h(k)，于是前向误差，ap0=1(2.5.2)均方前向预测误差为为了求得最小均方误差下的apk( k = 1,2,P) 令，l=1,2,P即：，l=1,2,P(2.5.3a)或 Ee(n)x(n-l)=0，l=1,2,P(2.5.3b)式(2.5.3)的两个式子正是正交性原理。由式(2.
35、5.3b)可得于是(2.5.4a)(2.5.4b)用自相关函数表示，式(2.5.3a)与式(2.5.4b)有，l=1,2,P(2.5.5a)(2.5.5b)将上二式写成矩阵形式，并考虑到得 x(n) e(n) + - + + + + 图2.5.2 前向预测误差滤波器-ap,1 Z-1Z-1Z-1Z-1-ap,2 -ap,p-1 -ap,p式(2.5.6)称为Yule-Walker方程，它是由p+1个方程组成的，当已知x(h)(h = 0,p)时，由(2.5.6)可以解得apk(k = 1,2,P)及Ee2(n)min这(p+1)个未知数，将上式与Wiener-Hopf方程矩阵形式作比较可见，他
36、们的主要差别在于前者要求估计的量(预测的量)是x(n)本身，而后者是s(n)。因此，Yule-Walker方程不需要求x(n)与x(n)的互相关函数：，从而使式(2.5.6)中除了第一方程外，后面的P个方程均为齐次方程，这就使得Yule-Walker方程较之Wiener-Hopf方程更具有实用价值 x(n) x(n-1) x(n-2) x(n-P+1) x(n-P) 图2.5.1 一步前向预测器结构图-ap,1 Z-1Z-1Z-1Z-1-ap,2 -ap,p-1 -ap,p对预测误差 (2.5.2)对上式进行Z变换于是，定义这里ap(k)=apk 与 He(Z)是一对Z交换对，如果输入序列x(
37、n) = (n) = (1,0,0,)，则输出e(n) = (1,ap1,ap2,app,0,0,)。He(Z)是以x(n)作为输入信号，误差e(n)作为输出信号的滤波器的传递函数，该滤波器称为预测误差滤波器，如图2.5.2所示，预测误差滤波器是x(n)的形成系统的逆滤波器(AR分析滤波器)，即有e(n) = w(n)，即将x(n) 送入预测误差滤波器，其输出e(n) 等于x(n)的形成系统的激励信号：白噪声2.5.2 后向预测一步后向预测问题是在给定x(n)，x(n-1)，x(n-P+1)基础上，估计x(n-p)，则应等于这些数据加权和，并认为前、后向预测器具有相同的系数，即于是预测误差均方
38、后向预测误差为后向预测滤波器应使后向预测误差的均方值最小，即：使，l=1,2,p则：，l=1,2,p(2.)或：，l=1,2,p(b)式 (2.5.9) 是正交原理。由 (2.5.9b)可得于是(2.,b)用自相关函数来表示 (2.5.9a) 及式 (2.5.10b) 有(2.)(b)将上二式写成矩阵形式，并考虑到得此即为Yule-Walker方程。图 后向预测filter结构图后向预测误差对上式进行Z变换记Hb(Z)即为后向预测误差滤波器的传递函数。由此可得Hb(Z) = Z-pHe(Z-1)(2.5.12)由式(2.5.12)可得，当Z=Z1是Hb(Z)的一个零点（或极点）时，则它也将是H
39、e(Z-1)的一个零点（或极点），因此1/Z1将是He(Z)的一个0点（或极点）。于是如果He(Z)是一个最小相移网络，其零点全部在单位圆内，则Hb(Z)将是一个最大相移网络，其零、极点全部在单位圆外。2.5.3 Levinson-Durbin递推算法欲求解前后向预测滤波器的系数，就需求解Yule-Walker方程。若利用高斯消元法直接求求解运算量p3阶，考虑利用相关矩阵性质也有p2级运算量，Levinson利用阵Toeplitz性Hermitain对称性得到了求解Yule-Walker方程的递推公式。利用m阶预测器系数求m+1阶预测器系数直到达到p阶为止。此算法是按下列递推法进行的：依次求得
40、a11,12，a12,a22,22，ap1,ap2,app,p2。递推从一阶开始，首先求a11，12。由一阶Yule-Walker方程：从这个矩阵方程可解出a11及12，分别为再从p = 2 Yule-Walker方程解：a22，a21，22分别为依此类推得递推公式从一阶Yule-Walker方程解得a11，1的数据，并已知x(k)就可按上三式递推求得 akk，aki，k2（k = 2,3,P）从（*）式有三点结论 12 22 P2 0 当我们递推到P阶时P2 = Ee2(n)min k2 0，对于任何k必有|akk|1，k = 1，2，P（1）可以证明（1）式正是前向预测误差滤波器传函He(
41、Z)所有极点在单位圆内（即稳定性）的充要条件，它也是为正定阵的充要条件。2.5.4 预测误差格型滤波器一、前后向预测误差滤波器的递推公式按线性预测理论，前向预测误差e(n)，这里用ep(n)表示（P为阶数）；后向预测误差b(n)，这里用bp(n)表示。(是由x(n)以前的数据x(n-1),x(n-P)加权和)由Levinson递推公式可知apk=ap-1,k+appap-1,p-k又令kp=app，kp为部分相关系数（PARCOR）或反射系数，将此二式代入bp(n)为后向预测误差，由bp(n)定义 比较ep(n)与bp(n)，它们具有相同的系数apk（当apk为复数时，不同，互为共轭）把apk()关系式代入bp(n)中可用推导ep(n)类似的方法，可以证明：bp(n) = bp-1(n-1)+kpep-1(n