《第二十一讲估计理论课件.ppt》由会员分享，可在线阅读，更多相关《第二十一讲估计理论课件.ppt（51页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第二十一讲估计理论第1页，此课件共51页哦7.1 估计理论概述估计理论概述（Introduction Theory）信号处理的基本问题：信号处理的基本问题：从含有噪声的信号（数据）中提取有用信息。从含有噪声的信号（数据）中提取有用信息。观测观测=信号信号+观测设备的噪声观测设备的噪声+杂波杂波+干扰干扰未知常数，采用非贝叶斯估计未知常数，采用非贝叶斯估计随机参量，贝叶斯估计随机参量，贝叶斯估计信号形式未知信号形式未知波形估计波形估计第2页，此课件共51页哦估计问题的统计模型估计问题的统计模型高斯白噪声高斯白噪声第3页，此课件共51页哦离散化离散化恒定电平估计恒定电平估计时延估计时延估计正弦信号
2、参数估计正弦信号参数估计第4页，此课件共51页哦 RadarSonarCommunicationNavigationSpeechImage AnalysisBiomedicineSeismology 应用领域应用领域第5页，此课件共51页哦In Mathematical view:An estimator may be thought of as a rule that assigns a value to for a given observation z(0),z(1),z(N-1).用数学的观点来，估计就是利用一组观测数据最佳地求取用数学的观点来，估计就是利用一组观测数据最佳地求取未知参
3、数。未知参数。最佳需要采用一些准则。最佳需要采用一些准则。第6页，此课件共51页哦估计问题的案例：时延估计（估计问题的案例：时延估计（time delay estimation）通过案例通过案例 阐述估计的基本概念阐述估计的基本概念 分析求解估计问题的基本步骤分析求解估计问题的基本步骤 如何评估估计量的性能如何评估估计量的性能 第7页，此课件共51页哦Problem:How to determine the distance of target and sensor?Also Be termed TOA(Time of Arrival)Time delay 0.Range estimation
4、 is equivalent to time delay estimation(TDE).第8页，此课件共51页哦问题的统计描述（问题的统计描述（Problem of formulation）The noise corrupted signals received by the radar over some time interval can be modeled asHow to develop an estimator to determine 0?How to evaluate the performance of the estimator?If a is unknown,how t
5、o estimate 0?第9页，此课件共51页哦步骤步骤 1:1:将连续的观测离散化将连续的观测离散化 假定噪声是零均值高斯过程，功率谱密度和相关函数分别为假定噪声是零均值高斯过程，功率谱密度和相关函数分别为v(t)v(t)第10页，此课件共51页哦如果对如果对z(t)z(t)以以 =1/(2B)=1/(2B)进行抽样进行抽样相互独立的噪声序列相互独立的噪声序列第11页，此课件共51页哦OrThe problem is changed to estimate n00 1 0 1 第12页，此课件共51页哦步骤步骤2：选择一种参数估计的方法：选择一种参数估计的方法最大似然估计（最大似然估计（M
6、aximum Likelihood Estimate)是一种简单是一种简单的估计。的估计。定义：定义：或或第13页，此课件共51页哦最大似然估计的合理性解释最大似然估计的合理性解释Probability of lied in the interval is maximum第14页，此课件共51页哦0 1 第15页，此课件共51页哦EquivalentlyMaximizing第16页，此课件共51页哦0 M-1 N-1 0 1 n0 n0+M-1 N-1 由于由于第17页，此课件共51页哦因此，因此，n0 的的MLE 可由使下式最大来求得可由使下式最大来求得即即由于由于 R=c 0/2=cn0/
7、2,所以距离的最大似然估计为所以距离的最大似然估计为第18页，此课件共51页哦第三步：估计器的实现第三步：估计器的实现Moving window第19页，此课件共51页哦 延迟调节延迟调节器器搜索最大值搜索最大值距离估计器的实现框图距离估计器的实现框图第20页，此课件共51页哦Step 3:Implement(Demonstration)第21页，此课件共51页哦步骤步骤4:4:评价估计量的性能评价估计量的性能假定假定 是待估计参数，由于观测是随机变量，所以估计量也是随是待估计参数，由于观测是随机变量，所以估计量也是随机变量机变量随机变量随机变量第22页，此课件共51页哦希望估计量的概率密度如
8、下图所示希望估计量的概率密度如下图所示0Desire PDF概率密度越尖越好概率密度越尖越好均值要等于真值均值要等于真值方差越小越好方差越小越好第23页，此课件共51页哦无偏估计无偏估计估计量的均值估计量的均值:估计的方差估计的方差均值相同时，方差越小的估计越好均值相同时，方差越小的估计越好从三方面评价性能从三方面评价性能 无偏性无偏性 有效性有效性 一致性一致性方差最小的估计称为有效估计方差最小的估计称为有效估计第24页，此课件共51页哦均方误差均方误差(Mean Square Error)好的估计应该有小的均方误差好的估计应该有小的均方误差 一致性（一致性（Consistent)其中其中
9、根据根据N N个观测得到的估计个观测得到的估计第25页，此课件共51页哦 时延估计器的性能时延估计器的性能是无偏估计器是无偏估计器第26页，此课件共51页哦另一种方法是用另一种方法是用CRLBCRLB，得到一个性能的边界，得到一个性能的边界的方差计算是一个非常困难的事情的方差计算是一个非常困难的事情通常需要借助计算机进行仿真分析通常需要借助计算机进行仿真分析第27页，此课件共51页哦案例小结案例小结问题：距离估计问题：距离估计1.问题的统计描述问题的统计描述2.连续观测离散化连续观测离散化3.选择估计准则选择估计准则 最大似然估计器最大似然估计器4.估计器的实现估计器的实现5.估计器的性能评价
10、估计器的性能评价6.研讨研讨第28页，此课件共51页哦研讨题研讨题：（1）用蒙特卡洛仿真方法分析一个）用蒙特卡洛仿真方法分析一个 简单估计器的性能简单估计器的性能仿真分析仿真分析 的均值、方差、概率密度的均值、方差、概率密度第29页，此课件共51页哦产生一组观测产生一组观测zin,i=i+1计算计算 的统计特性的统计特性初始化，初始化，i=0均值均值方差方差PDF第30页，此课件共51页哦（2）距离估计器性能的仿真分析距离估计器性能的仿真分析 延迟调节延迟调节器器搜索最大值搜索最大值第31页，此课件共51页哦（1）用）用MATLAB编写一个演示程序编写一个演示程序（2）用蒙特卡洛仿真方法分析估
11、计的性能）用蒙特卡洛仿真方法分析估计的性能 均值均值 方差方差 估计量的概率密度估计量的概率密度第32页，此课件共51页哦7.2 贝叶斯估计（贝叶斯估计（Bayes Estimate）n 代价函数代价函数n 最小均方估计最小均方估计n 条件中位数估计条件中位数估计n 最大后验概率估计最大后验概率估计n 线性贝叶斯估计线性贝叶斯估计第33页，此课件共51页哦估计是有误差的，这个误差是估计是有误差的，这个误差是要付出代价的，贝叶斯估计就要付出代价的，贝叶斯估计就是使平均代价最小的估计。是使平均代价最小的估计。贝叶斯估计贝叶斯估计的基本思想的基本思想估计的误差为估计的误差为与误差有关的代与误差有关的
12、代价函数为价函数为7.2.1 代价函数代价函数第34页，此课件共51页哦典型的代价函数有：典型的代价函数有：平方代价函数平方代价函数可得到最小均可得到最小均方估计方估计绝对值代价函绝对值代价函数可得到条件数可得到条件中位数估计中位数估计均匀代价函数均匀代价函数可得到最大后可得到最大后验概率估计验概率估计第35页，此课件共51页哦平均代价为平均代价为 贝叶斯估计就是使上式的平均代价最小的估计。贝叶斯估计就是使上式的平均代价最小的估计。或等价于或等价于使平均代价最小使平均代价最小不同的代价函数得到不同的估计不同的代价函数得到不同的估计第36页，此课件共51页哦2.2.最小均方估计最小均方估计采用平
13、方代价函数的贝叶斯估计采用平方代价函数的贝叶斯估计平均代价平均代价均方误差均方误差使平均代价最小等价于使均方误差最小使平均代价最小等价于使均方误差最小 -最小均方估计最小均方估计第37页，此课件共51页哦很容易验证很容易验证最小均方估计是被最小均方估计是被估计量的条件均值估计量的条件均值第38页，此课件共51页哦由于由于所以最小均方估计具有无偏性所以最小均方估计具有无偏性第39页，此课件共51页哦2 2 条件中位数估计（条件中位数估计（Conditional Median Estimate)Conditional Median Estimate)采用绝对值代价函数的贝叶斯估计采用绝对值代价函数
14、的贝叶斯估计第40页，此课件共51页哦上式对估计求导，并令导数等于零，得上式对估计求导，并令导数等于零，得采用绝对值代价函数的贝叶斯估计刚好是条件概率密采用绝对值代价函数的贝叶斯估计刚好是条件概率密度的中位数，所以也称为度的中位数，所以也称为条件中位数估计条件中位数估计。第41页，此课件共51页哦4.4.最大后验概率估计最大后验概率估计采用均匀代价函数的贝叶斯估计采用均匀代价函数的贝叶斯估计0图 后验概率密度 第42页，此课件共51页哦最大后验方程最大后验方程第43页，此课件共51页哦例例7.1 噪声中的噪声中的DC电平估计电平估计vi 是独立同分布的高斯随机变量，均值为零，方差为是独立同分布的高斯随机变量，均值为零，方差为 2第44页，此课件共51页哦第45页，此课件共51页哦000第46页，此课件共51页哦最小均方估计最小均方估计第47页，此课件共51页哦A0A0-A0-A0估计量估计量 估计图形估计图形 第48页，此课件共51页哦例例7.3 高斯白噪声中的高斯白噪声中的DC电平估计电平估计vi 是独立同分布的高斯随机变量，均值为零，方差为是独立同分布的高斯随机变量，均值为零，方差为 2第49页，此课件共51页哦第50页，此课件共51页哦令令第51页，此课件共51页哦