第二十一讲估计理论.ppt

《第二十一讲估计理论.ppt》由会员分享，可在线阅读，更多相关《第二十一讲估计理论.ppt（51页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、第二十一讲估计理论现在学习的是第1页，共51页7.1 估计理论概述（Introduction Theory）信号处理的基本问题：从含有噪声的信号（数据）中提取有用信息。00()(,)()()()z ts t a fn tc tI t 观测=信号+观测设备的噪声+杂波+干扰00,a f 未知常数，采用非贝叶斯估计随机参量，贝叶斯估计信号形式未知波形估计现在学习的是第2页，共51页估计问题的统计模型00()(,)()()()z ts t a fn tc tI t()v t00()(,)()z ts t a fv t 高斯白噪声现在学习的是第3页，共51页离散化()()()0,1,.,1z ns n

2、v nnN()s nA恒定电平估计000()()()()s ns ts n tnts nn 时延估计00()cos2()()ds nAffnn正弦信号参数估计现在学习的是第4页，共51页 RadarSonarCommunicationNavigationSpeechImage AnalysisBiomedicineSeismology 应用领域现在学习的是第5页，共51页In Mathematical view:An estimator may be thought of as a rule that assigns a value to for a given observation z(0

3、),z(1),z(N-1).用数学的观点来，估计就是利用一组观测数据最佳地求取未知参数。(0),(1),.,(1)g zzz N最佳需要采用一些准则。现在学习的是第6页，共51页估计问题的案例：时延估计（time delay estimation）通过案例 阐述估计的基本概念 分析求解估计问题的基本步骤 如何评估估计量的性能 现在学习的是第7页，共51页Problem:How to determine the distance of target and sensor?Also Be termed TOA(Time of Arrival)Time delay 0.02cRRange estim

4、ation is equivalent to time delay estimation(TDE).现在学习的是第8页，共51页问题的统计描述（Problem of formulation）The noise corrupted signals received by the radar over some time interval can be modeled as0()()()0z tas tv ttT How to develop an estimator to determine 0?How to evaluate the performance of the estimator?I

5、f a is unknown,how to estimate 0?现在学习的是第9页，共51页步骤 1:将连续的观测离散化 假定噪声是零均值高斯过程，功率谱密度和相关函数分别为v(t)v(t)0sin(2)()()2BvvBBRGf dfN BB 现在学习的是第10页，共51页如果对z(t)以=1/(2B)进行抽样0()()()0,1,.,1z ns nv nnN 0sin(2)()2vBRN BB 相互独立的噪声序列现在学习的是第11页，共51页0()()()0,1,.,1z ns nv nnN Or0()0,1,.,1z ns nv nnN00000 01 1 1v nnnz ns nnv

6、 nnnnMv nnMnNThe problem is changed to estimate n00 1 1M s nn00/n 0 1 0n01nM1N z nn00/n 现在学习的是第12页，共51页步骤2：选择一种参数估计的方法00000 01 1 1v nnnz ns nnv nnnnMv nnMnN最大似然估计（Maximum Likelihood Estimate)是一种简单的估计。定义：(;)maxmlfz或ln(;)maxmlfz现在学习的是第13页，共51页最大似然估计的合理性解释0(;)fzzProbability of lied in the interval is m

7、aximum现在学习的是第14页，共51页0000012220120221222(;)11exp 2211exp 2211exp 22nnnMn nNn nMfnz nz ns nnz nz0 1 0n01nM1N z nn00/n 现在学习的是第15页，共51页001202/2201200211(;)exp(2)21exp2 2NNnnMn nfnz nz n s nns nnz00120021exp2 2nMn nz n s nns nnEquivalentlyMaximizing现在学习的是第16页，共51页0 M-1 N-1 s nn0 1 n0 n0+M-1 N-100/n 0s n

8、nn由于00112200 nMNn nns nns n现在学习的是第17页，共51页因此，n0 的MLE 可由使下式最大来求得0010 nMn nz n s nn000100argmax nMnn nnz n s nn即由于 R=c0/2=cn0/2,所以距离的最大似然估计为0(/2)Rcn现在学习的是第18页，共51页第三步：估计器的实现000100argmax nMnn nnz n s nn z n0s nn0010 nMn nz n s nnMoving window0n0n现在学习的是第19页，共51页延迟调节器 s n z n0s nn搜索最大值0 n0(/2)RcnR距离估计器的实

9、现框图现在学习的是第20页，共51页Step 3:Implement(Demonstration)0010 nMn nx n s nn现在学习的是第21页，共51页步骤4:评价估计量的性能假定 是待估计参数，由于观测是随机变量，所以估计量也是随机变量000100argmax nMnn nnz n s nn(0),(1),.,(1)g zzz N随机变量现在学习的是第22页，共51页希望估计量的概率密度如下图所示0()f Desire PDF概率密度越尖越好均值要等于真值方差越小越好现在学习的是第23页，共51页无偏估计()()()Efd zzzz估计量的均值:估计的方差2()()()VarEE

10、zzz均值相同时，方差越小的估计越好从三方面评价性能 无偏性 有效性 一致性方差最小的估计称为有效估计现在学习的是第24页，共51页均方误差(Mean Square Error)2()()MseEzz好的估计应该有小的均方误差 一致性（Consistent)lim1NNP 其中 根据N个观测得到的估计N现在学习的是第25页，共51页 时延估计器的性能000100argmax nMnn nnz n s nn000100argmax()nMnn nEs nnw n s nn是无偏估计器0 n0001000argmax nMnn nEs nn s nnn现在学习的是第26页，共51页另一种方法是用C

11、RLB，得到一个性能的边界0 n的方差计算是一个非常困难的事情通常需要借助计算机进行仿真分析现在学习的是第27页，共51页案例小结问题：距离估计1.问题的统计描述2.连续观测离散化3.选择估计准则 最大似然估计器4.估计器的实现5.估计器的性能评价6.研讨现在学习的是第28页，共51页研讨题：（1）用蒙特卡洛仿真方法分析一个 简单估计器的性能 0,1,.,1z nAv nnN2(0,)vN101 NnAz nN仿真分析 的均值、方差、概率密度A现在学习的是第29页，共51页101 NiinAz nN产生一组观测zin,?iNi=i+1计算 的统计特性iA初始化，i=0均值方差PDF现在学习的是

12、第30页，共51页（2）距离估计器性能的仿真分析延迟调节器 s n z n0s nn搜索最大值0 n0(/2)RcnR000100argmax nMnn nnz n s nn现在学习的是第31页，共51页（1）用MATLAB编写一个演示程序（2）用蒙特卡洛仿真方法分析估计的性能 均值 方差 估计量的概率密度现在学习的是第32页，共51页7.2 贝叶斯估计（Bayes Estimate）n 代价函数n 最小均方估计n 条件中位数估计n 最大后验概率估计n 线性贝叶斯估计现在学习的是第33页，共51页估计是有误差的，这个误差是要付出代价的，贝叶斯估计就是使平均代价最小的估计。贝叶斯估计的基本思想估

13、计的误差为()()zz 与误差有关的代价函数为,()()czcz 7.2.1 代价函数现在学习的是第34页，共51页典型的代价函数有：平方代价函数可得到最小均方估计绝对值代价函数可得到条件中位数估计均匀代价函数可得到最大后验概率估计2()()czz ()()czz 1()/2()0其他zcz 现在学习的是第35页，共51页平均代价为()(,)CCzf zdzd 贝叶斯估计就是使上式的平均代价最小的估计。或等价于()(|)()()(|)()CCzfz f z dzdCzfz df z dz(|)()(|)CzCzfz dz使平均代价最小不同的代价函数得到不同的估计现在学习的是第36页，共51页2

14、.最小均方估计采用平方代价函数的贝叶斯估计22()(,)()Czf zdzdEz 平均代价均方误差使平均代价最小等价于使均方误差最小 -最小均方估计现在学习的是第37页，共51页2(|)()(|)Czfz d(|)2()(|)Czfz d()(|)(|)(|)(|)0fz dfz dfz dfz d (|)fz d 很容易验证22(|)2(|)20Czfz d(|)(|)msfz dEz 最小均方估计是被估计量的条件均值现在学习的是第38页，共51页由于|()msEE EzE所以最小均方估计具有无偏性现在学习的是第39页，共51页2 条件中位数估计（Conditional Median Est

15、imate)采用绝对值代价函数的贝叶斯估计()()(|)|()|(|)()(|)()(|)zzCzzfz dzfz dzfz d现在学习的是第40页，共51页上式对估计求导，并令导数等于零，得(|)(|)absabsfz dfz d 采用绝对值代价函数的贝叶斯估计刚好是条件概率密度的中位数，所以也称为条件中位数估计。现在学习的是第41页，共51页4.最大后验概率估计采用均匀代价函数的贝叶斯估计/2/2/2/2(|)(|)(|)1(|)Czfz dfz dfz d map0(|)fz图 后验概率密度 现在学习的是第42页，共51页(|)|maxmapfzln(|)|maxmapfz最大后验方程(

16、|)0mapdfzdln(|)0mapdfzd现在学习的是第43页，共51页例7.1 噪声中的DC电平估计1,.,iizAviNvi 是独立同分布的高斯随机变量，均值为零，方差为 200(,)AUA A(|)()(|)()fA f Af Afzzz现在学习的是第44页，共51页221()(|)exp22zAf z A00012()0AAAAf A其他(|)()(|)()f z A f Af A zf z000000mapAzAAzAzAAzA 现在学习的是第45页，共51页z0(|)f A zA0A0Az0(|)f A zA0A0Az0(|)f A zA0A0A000000mapAzAAzAz

17、AAzA 现在学习的是第46页，共51页最小均方估计(|)()(|)()(|)()(|)()msAf z A f A dAf z A f AAAf A z dAAdAf zf z A f A dA0000220220()1exp2221()1exp222AAvvAAvvAzAdAAzAdAA现在学习的是第47页，共51页A0A0-A0-A0z估计量 估计图形 msAmapAmlA现在学习的是第48页，共51页例7.3 高斯白噪声中的DC电平估计1,.,iizAviNvi 是独立同分布的高斯随机变量，均值为零，方差为 22(,)AAAN(|)()(|)(|)()fA f Af AfA f A dAzzz现在学习的是第49页，共51页(|)()(|)(|)()fA f Af AfA f A dAzzz2|22|11exp()22A zA zA zA12|221A zAN2|22AA zA zANz现在学习的是第50页，共51页222|22221AAAmsA zA zAANzNAzN 令222/AAkN(1)msAAkzk|mapA zmsAA 现在学习的是第51页，共51页