《(6.1.2)--后验分布与估计.pdf》由会员分享，可在线阅读，更多相关《(6.1.2)--后验分布与估计.pdf（16页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、()p A(|)p A z-先验分布先验分布-后验分布后验分布A(|)p A z()p A直观的理解：直观的理解：观测数据的效果使后验概率密度更为集中，观测数据的效果使后验概率密度更为集中，使使A的不确定性减少。的不确定性减少。2 2.后验分布与估计后验分布与估计122/22011(|)exp()(2)2NiNipAzAz122/220011exp()2(2)2(|)()(|)()()NiNizAApA p Ap Appzzzz0AA(|)()(|)()(|)()(|)()pA p ApA p Ap AppA p A dAzzzzz考虑例考虑例1 1的后验概率密度，的后验概率密度，112220
2、012220()2()NNiiiiNiizAzANzNAN AzzNz2221()(|)exp2/()2/Azp ANcNzz002221()()exp2/2/AAAzcdANNz0AA0A0AA()p A/01 2A先验分布先验分布0A0AA(|)p A zz(|)E A z后验分布后验分布数据的作用使数据的作用使后验概率密度趋于集中后验概率密度趋于集中22()()(,)()(|)()minMse AAApA d dAAAp AdA pd zzzzz要使贝叶斯估计的均方误差最小，只要使贝叶斯估计的均方误差最小，只需需要使里面的积分最小，要使里面的积分最小，即即2()(|)(|)minAAp
3、AdAMse Azz基于后验概率密度的估计基于后验概率密度的估计-最小均方估计最小均方估计2(|)()(|)2()(|)Mse AAAp AdAAA p AdAAA zzz(|)(|)AAp AdAE Azz(|)(|)Ap AdAAp AdAzz()(|)0AA p AdAz(|)0Mse AAz令：得：0000002222222221()(|)exp2/()2/1()exp2/2/1()exp2/2/AAAAAAAzAE AAdANcNAzAdANNAzdANNzzA00AA(|)p A zz(|)E A z先验估计先验估计(无数据的估计）无数据的估计）后后验估计验估计数据估计数据估计（无
4、先验信息的估计（无先验信息的估计）如果我们试图根据如果我们试图根据来求最小均方估计，来求最小均方估计，()p A22()()()minEAAAAp A dA()AE A2()AVar A 对本例，对本例，()0AE A先验估计（无数据的估计）：先验估计（无数据的估计）：2()()0AA p A dA()()0Ap A dAAp A dA2221()(|)exp2/()2/Azp ANcNzz0AA当当N N时，后验概率密度趋于高斯分布时，后验概率密度趋于高斯分布当当N N时，时，即数据会逐步“擦除”先验信息即数据会逐步“擦除”先验信息(|)E Azz0Az(|)E A zN N时的后验时的后验
5、PDFPDF例例2 2：考虑高斯白噪声中随机变量的估计问题，考虑高斯白噪声中随机变量的估计问题，其中其中是均值为零、方差为是均值为零、方差为 2高斯白噪声序列高斯白噪声序列,。0,1,.,1iizAwiNiw2(,)AAAN 122/22011(|)exp()(2)2NiNipAzAz2221()()exp22AAAAp A(|)()(|)()pA p Ap Apzzz122/222022|22|(|)()(|)()11exp()(2)2()exp()2()1exp22NiNiAAAzAzAzpA p Ap ApzAApAzzzz222|11AzAN22|221AAAzANzN22|22(|)
6、1AAAzANzAE AN z222222AAAANAzNN (1)AAkzkk1k当当N N时，时，(|)AE Azz1k 小结：小结：先验信息与估计先验信息与估计先验信息的利用可以改善估计的精度。先验信息的利用可以改善估计的精度。-先验分布先验分布对于高斯白噪声中恒定电平的估计，对于高斯白噪声中恒定电平的估计，将原有的假定将原有的假定用用代替。代替。A (,)AUA A00()()Mse AMse A 后验分布与估计后验分布与估计0A0AA()p A/01 2A先验分布先验分布数据的作用使后验概率密度趋于集中数据的作用使后验概率密度趋于集中0AA(|)p A zz(|)E A z先验估计先验估计(无数据的估计）无数据的估计）后后验估计验估计数据估计数据估计（无先验信息的估计（无先验信息的估计）|Az(|)p A z()p AAz无数据估计无数据估计贝叶斯估计贝叶斯估计数据估计数据估计随着观测数据的增加，逐步随着观测数据的增加，逐步“抹去”先验信息。“抹去”先验信息。贝叶斯估计是介贝叶斯估计是介于于先验先验估计和数据估计之间。估计和数据估计之间。(1)AAkzk