《最小方差无偏估计和有效估计讲稿.ppt》由会员分享,可在线阅读,更多相关《最小方差无偏估计和有效估计讲稿.ppt(30页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、关于最小方差无偏估计和有效估计1第一页,讲稿共三十页哦2一、最小方差无偏估计一、最小方差无偏估计 由定义由定义2.4知,最小方差无偏估计(知,最小方差无偏估计(MVUE)是在无偏估)是在无偏估计类中,使均方误差达到最小的估计量,即在均方误差最小计类中,使均方误差达到最小的估计量,即在均方误差最小意义下的最优估计。它是在应用中,人们希望寻求的一种估意义下的最优估计。它是在应用中,人们希望寻求的一种估计量。计量。第二页,讲稿共三十页哦3第三页,讲稿共三十页哦4第四页,讲稿共三十页哦5第五页,讲稿共三十页哦6第六页,讲稿共三十页哦7 定理定理2.7给出了最小方差无偏估计的一种判别方法,但由给出了最小
2、方差无偏估计的一种判别方法,但由上例可见,该判别法使用并不方便,而且还只是一个充分条上例可见,该判别法使用并不方便,而且还只是一个充分条件。为了寻求更好的方法,需要借助充分统计量甚至充分完件。为了寻求更好的方法,需要借助充分统计量甚至充分完备统计量的概念。备统计量的概念。第七页,讲稿共三十页哦8定理定理2.8的说明的说明:如果无偏估计不是充分统计量如果无偏估计不是充分统计量的函数,则将之对充分统计量求条件期望可以的函数,则将之对充分统计量求条件期望可以得到一个新的无偏估计,该估计的方差比原来得到一个新的无偏估计,该估计的方差比原来的估计的方差要小,从而降低了无偏估计的方的估计的方差要小,从而降
3、低了无偏估计的方差。差。换言之,考虑换言之,考虑 的估计问题只需要在基于的估计问题只需要在基于充分统计量的函数中进行即可,充分统计量的函数中进行即可,该说法对所有该说法对所有的统计推断问题都是正确的,这便是所谓的的统计推断问题都是正确的,这便是所谓的充充分性原则分性原则。第八页,讲稿共三十页哦9第九页,讲稿共三十页哦10第十页,讲稿共三十页哦11第十一页,讲稿共三十页哦12第十二页,讲稿共三十页哦13第十三页,讲稿共三十页哦14第十四页,讲稿共三十页哦15第十五页,讲稿共三十页哦16第十六页,讲稿共三十页哦17 2.要直接验证某个估计量是最小方差无偏估计量要直接验证某个估计量是最小方差无偏估计
4、量是困难的是困难的.若能求出无偏估计中方差的下界若能求出无偏估计中方差的下界,而且又而且又能说明参数能说明参数 的的一切无偏估计中一切无偏估计中存在某个估计存在某个估计 的的方差能达到这个下界方差能达到这个下界,那么,那么 就是就是 的最小方差无的最小方差无偏估计偏估计.下面给出一个判别准则:下面给出一个判别准则:1.最小方差无偏估计提供了一种优良的估计,然而一最小方差无偏估计提供了一种优良的估计,然而一个更深入的问题是:无偏估计的方差是否可以任意小?个更深入的问题是:无偏估计的方差是否可以任意小?如果不可以,那么它的下界是多少?这个下界等否达到如果不可以,那么它的下界是多少?这个下界等否达到
5、?第十七页,讲稿共三十页哦定理定理2.10 (Cramer-Rao不等式不等式)设设X1,X2,Xn是是从密度函数为从密度函数为 的总体抽取的样本的总体抽取的样本,是是 的一个无偏估计的一个无偏估计,若若(1)集合集合 与与 无关无关;(2)对对 积分与微分可交换且积分与微分可交换且 存在,即存在,即(3)(3)(4)则有则有第十八页,讲稿共三十页哦其中其中常称常称为为Fisher信息量信息量.特别当特别当 ,有有常用的另一个表达式常用的另一个表达式常称为常称为C-R不等式不等式.第十九页,讲稿共三十页哦 费希尔信息量是数理统计学中一个基本概念,很多的统费希尔信息量是数理统计学中一个基本概念,
6、很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方计结果都与费希尔信息量有关。如极大似然估计的渐近方差,无偏估计的方差的下界等都与费希尔信息量差,无偏估计的方差的下界等都与费希尔信息量I()有有关。关。I()的种种性质显示,的种种性质显示,“I()越大越大”可被解释为可被解释为总体分布中包含未知参数总体分布中包含未知参数 的信息越多。的信息越多。第二十页,讲稿共三十页哦例例2.22 设总体服从泊松分布设总体服从泊松分布 ,X1,X2,Xn 是来自总是来自总体的一个样本,试求参数体的一个样本,试求参数 的无偏估计的下界?的无偏估计的下界?解解:(1):(1)写出密度函数写出密度函数 (2
7、)(2)求密度函数对数、再求导求密度函数对数、再求导 (3)(3)计算计算fisherfisher信息量信息量 (4)(4)代入代入C-RC-R不等式求方差下界不等式求方差下界第二十一页,讲稿共三十页哦1.写出密度函数,写出密度函数,求对数求对数2.计算计算fiser信息量信息量3.代入代入C-R不等式不等式求方差下界求方差下界第二十二页,讲稿共三十页哦例例2.23 设设 X1,X2,Xn 是取自总体是取自总体 X 的一个样本的一个样本,求求 的无偏估计的方差下界的无偏估计的方差下界.解解:(1)写出密度函数写出密度函数 (2)求密度函数对数、再求导求密度函数对数、再求导 (3)计算计算 (4
8、)代入代入C-R不等式求方差下界不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量最后寻找无偏估计中满足方差下界的估计量.第二十三页,讲稿共三十页哦1.写出密度函数写出密度函数2.求密度函数对数求密度函数对数3.计算计算fiser信息量信息量4.代入代入C-R不等式不等式求方差下界求方差下界第二十四页,讲稿共三十页哦2.求密度求密度函数对数函数对数的导数的导数3.计算计算fiser信信息量息量4.代入代入C-R不等式求不等式求方差下界方差下界5.计算最小方差无偏计算最小方差无偏估计的方差估计的方差第二十五页,讲稿共三十页哦262、有效估计、有效估计1)定义定义2.8 P57第二十六页,讲稿共三十页哦 例例2.24 设设 X1,X2,Xn 是取自总体是取自总体 XB(N,p)的一个样的一个样本,验证本,验证 是参数是参数P的有效估计量的有效估计量.1.写出概率函数写出概率函数,再求对数再求对数2.计算计算fiser信信息量息量3.代入代入C-R不等式不等式求方差下界求方差下界第二十七页,讲稿共三十页哦4.计算无偏估计的计算无偏估计的方差方差5.计算效率计算效率第二十八页,讲稿共三十页哦可能不是无偏估计可能不是无偏估计第二十九页,讲稿共三十页哦感感谢谢大大家家观观看看第三十页,讲稿共三十页哦