概率论与数理统计点估计.ppt

《概率论与数理统计点估计.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计点估计.ppt（41页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、概率论与数理统计点估计现在学习的是第1页，共41页参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计统计统计推断推断 的的基本基本问题问题7-2区间估区间估 计计现在学习的是第2页，共41页什么是参数估计？什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量.当此数量未知时当此数量未知时,从总体抽出一个样本，从总体抽出一个样本，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计.例如，例如，X N(,2),点估计点估计区间估计区间估计若若,2未知未知,通过构造样本的函数通过构造样本的函数,给出给出它们的估计值或

2、取值范围就是参数估计它们的估计值或取值范围就是参数估计的内容的内容.现在学习的是第3页，共41页第一节 点估计引入：引入：医院就诊人数医院就诊人数一个地区的男性成年人的身高一个地区的男性成年人的身高 设总体设总体 X 的分布函数形式已知的分布函数形式已知,但它的一个或多个参但它的一个或多个参数为未知数为未知,借助于总体借助于总体 X 的一个样本来估计总体未知的一个样本来估计总体未知参数的值的问题称为参数的值的问题称为点估计问题点估计问题.,0,试试估估计计参参数数设设有有以以下下的的样样本本值值为为未未知知参参数数数数的的泊泊松松分分布布为为参参假假设设它它服服从从以以是是一一个个随随机机变变

3、量量次次数数一一天天中中发发生生着着火火现现象象的的在在某某炸炸药药制制造造厂厂 X例例1现在学习的是第4页，共41页250126225490756543210 knkk火火的的天天数数次次着着发发生生着着火火次次数数解解),(X因因为为).(XE 所所以以用样本均值来估计总体的均值用样本均值来估计总体的均值 E(X).6060kkkknknx)162564223542901750(2501 .22.1.22.1)(的估计为的估计为故故 XE现在学习的是第5页，共41页一、点估计问题的一般提法一、点估计问题的一般提法.,.,);(2121为相应的一个样本值为相应的一个样本值本本的一个样的一个样

4、是是是待估参数是待估参数知知的形式为已的形式为已的分布函数的分布函数设总体设总体nnxxxXXXXxFX .),(),(2121 来估计未知参数来估计未知参数用它的观察值用它的观察值一个适当的统计量一个适当的统计量点估计问题就是要构造点估计问题就是要构造nnxxxXXX.),(21的估计量的估计量称为称为 nXXX.),(21的估计值的估计值称为称为 nxxx.,简记为简记为通称估计通称估计 现在学习的是第6页，共41页.,150,0,试估计参数试估计参数数据如下数据如下内断头的次数内断头的次数只纱锭在某一时间段只纱锭在某一时间段现检查了现检查了为未知为未知参数参数为参数的泊松分布为参数的泊松

5、分布假设它服从以假设它服从以随机变量随机变量是一个是一个断头次数断头次数在某纺织厂细纱机上的在某纺织厂细纱机上的 X15011293260456543210knkk次次的的纱纱锭锭数数断断头头断断头头次次数数.,的的估估计计值值作作为为参参数数把把的的观观察察值值再再计计算算出出先先确确定定一一个个统统计计量量 xxXX解解.133.1 x.133.1的估计值为的估计值为 例例2现在学习的是第7页，共41页二、估计量的求法 由于估计量是样本的函数由于估计量是样本的函数,是随机变量是随机变量,故对不同的故对不同的样本值样本值,得到的参数值往往不同得到的参数值往往不同,如何求估计量是关键问如何求估

6、计量是关键问题题.常用构造估计量的方法常用构造估计量的方法:(两种两种)矩估计法和最大似然估计法矩估计法和最大似然估计法.现在学习的是第8页，共41页1.矩估计法矩估计法,),;(,),;(,212121为待估参数为待估参数其中其中其分布律为其分布律为为离散型随机变量为离散型随机变量或或其概率密度为其概率密度为为连续型随机变量为连续型随机变量设设kkkxpxXPXxfX 的的样样本本，为为来来自自若若XXXXn,21,阶阶矩矩存存在在的的前前假假设设总总体体kX ,21即即的函数的函数且均为且均为k 现在学习的是第9页，共41页xxfxXEkllld),;()(21 (X为连续型为连续型),;

7、()(21kRxlllxpxXEX 或或(X为离散型为离散型)klxRX,2,1,可可能能取取值值的的范范围围是是其其中中),2,1,(11klXnAlnilil 总体矩总体矩依概率收敛于相应的依概率收敛于相应的因为样本矩因为样本矩.的的连连续续函函数数率率收收敛敛于于相相应应的的总总体体矩矩样样本本矩矩的的连连续续函函数数依依概概现在学习的是第10页，共41页点估计的思想方法点估计的思想方法设总体X 的分布函数的形式已知,但含有一个或多个未知参数：1,2,k设 X1,X2,Xn为总体的一个样本构造 k 个统计量：),(),(),(21212211nknnXXXXXXXXX随机变量7-5现在学

8、习的是第11页，共41页当测得样本值(x1,x2,xn)时,代入上述统计量，即可得到 k 个数：),(),(),(21212211nknnxxxxxxxxx数 值称数1,k为未知参数1,k的估计值如何构造统计量？如何构造统计量？如何评价估计量的好坏？如何评价估计量的好坏？7-6对应统计量 为未知参数的估计量1,k问问题题现在学习的是第12页，共41页矩估计法的定义矩估计法的定义 用样本矩来估计总体矩用样本矩来估计总体矩,用样本矩的连续函数来估用样本矩的连续函数来估计总体矩的连续函数计总体矩的连续函数,这种估计法称为这种估计法称为矩估计法矩估计法.矩估计法的具体做法矩估计法的具体做法:.,2,1

9、,klAll 令令,21的的方方程程组组个个未未知知参参数数这这是是一一个个包包含含kk .,21k 解解出出其其中中.,2121量量这这个个估估计计量量称称为为矩矩估估计计估估计计量量的的分分别别作作为为用用方方程程组组的的解解kk 矩估计量的观察值称为矩估计值矩估计量的观察值称为矩估计值.现在学习的是第13页，共41页矩估计原则 用样本均值估计总体均值E(X)，用样本方差估计总体方差Var(X)，用样本的 p 分位数估计总体的 p 分位数，用样本中位数估计总体中位数。2Var()nXS()E XX现在学习的是第14页，共41页.,),(,)0(,021的的估估计计量量求求的的样样本本是是来

10、来自自总总体体未未知知其其中中上上服服从从均均匀匀分分布布在在设设总总体体 XXXXXn 解解)(1XE 因为因为,2 根据矩估计法根据矩估计法,21XA 令令 2.2.Xx矩矩所以为所求 的估计量为所求 的估计值例例3现在学习的是第15页，共41页.,),(,21的的估估计计量量求求的的样样本本是是来来自自总总体体未未知知其其中中上上服服从从均均匀匀分分布布在在设设总总体体baXXXXbabaXn解解)(1XE ,2ba )(22XE ,41222baba 2)()(XEXD ,1211 niiXnAba令令2224)(12)(Ababa ,112 niiXn例例4现在学习的是第16页，共4

11、1页 .)(12,22121AAabAba即即解方程组得到解方程组得到a,b的矩估计量分别为的矩估计量分别为)(32121AAAa ,)(312 niiXXnX)(32121AAAb .)(312 niiXXnX现在学习的是第17页，共41页.,0,221222的矩估计量的矩估计量和和求求一个样本一个样本是是又设又设均为未知均为未知和和但但且有且有都存在都存在和方差和方差的均值的均值设总体设总体 nXXXX 解解)(1XE ,)(22XE ,22 2)()(XEXD .,2221AA 令令解方程组得到矩估计量分别为解方程组得到矩估计量分别为,1XA 2122AA niiXXn1221.)(11

12、2 niiXXn例例5现在学习的是第18页，共41页2.最大似然估计法最大似然估计法 思想方法思想方法：一次试验就出现的 事件有较大的概率 例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答答:第一箱.7-17问问:所取的球来自哪一箱？现在学习的是第19页，共41页属离散型属离散型设总体设总体 X)1(,),;(为为待待估估参参数数设设分分布布律律xpkXP,21的的样样本本是是来来自自总总体体XXXXn.);(,121 niinxpXXX 的的联联合合分分布布律律为为则则似然函数的

13、定义似然函数的定义)(可可能能的的取取值值范范围围是是其其中中 现在学习的是第20页，共41页,2121的的概概率率取取到到观观察察值值则则样样本本nnxxxXXX发生的概率为发生的概率为即事件即事件nnxXxXxX ,2211,),;();,()(121 niinxpxxxLL.)(称为样本似然函数称为样本似然函数 L.,2121一个样本值一个样本值的的为相应于样本为相应于样本又设又设nnXXXxxx现在学习的是第21页，共41页最大似然估计法最大似然估计法)(,21 Lxxxn选选取取使使似似然然函函数数时时得得到到样样本本值值,取得作为未最大值的的知数估计值参).;,(max);,(21

14、21 nnxxxLxxxL 即即)(可能的取值范围可能的取值范围是是其中其中 ),(,2121nnxxxxxx 记记为为有有关关与与样样本本值值这这样样得得到到的的),(21nXXX,的最大似然估计值的最大似然估计值参数参数.的最大似然估计量的最大似然估计量参数参数 现在学习的是第22页，共41页属连续型属连续型设总体设总体X)2(,),;(为为待待估估参参数数设设概概率率密密度度为为xf,21的的样样本本是是来来自自总总体体 XXXXn.);(,121 niinxfXXX 的的联联合合密密度度为为则则似然函数的定义似然函数的定义)(可可能能的的取取值值范范围围是是其其中中 .,2121一一个

15、个样样本本值值的的为为相相应应于于样样本本又又设设nnXXXxxx现在学习的是第23页，共41页),;();,()(121 niinxfxxxLL.)(称为样本的似然函数称为样本的似然函数 L).;,(max);,(2121 nnxxxLxxxL 若若),(21nxxx),(21nXXX,的最大似然估计值的最大似然估计值参数参数.的最大似然估计量的最大似然估计量参数参数 现在学习的是第24页，共41页求最大似然估计量的步骤求最大似然估计量的步骤:;);();,()();();,()()(121121 niinniinxfxxxLLxpxxxLL或或写出似然函数写出似然函数一一;);(ln)(l

16、n);(ln)(ln )(11 niiniixfLxpL或或取取对对数数二二费舍尔费舍尔最大似然估计法是由费舍尔引进的最大似然估计法是由费舍尔引进的.现在学习的是第25页，共41页.,0d)(lnd,d)(lnd )(的最大似然估计值的最大似然估计值解方程即得未知参数解方程即得未知参数并令并令求导求导对对三三 LL 最大似然估计法也适用于分布中含有多个未知最大似然估计法也适用于分布中含有多个未知参数的情况参数的情况.此时只需令此时只需令.,2,1,0lnkiLi .),2,1(,iikik 的的最最大大似似然然估估计计值值数数即即可可得得各各未未知知参参个个方方程程组组成成的的方方程程组组解解

17、出出由由 对数似然方程组对数似然方程组对数似然对数似然方程方程现在学习的是第26页，共41页.,),1(21的的最最大大似似然然估估计计量量求求个个样样本本的的一一是是来来自自设设pXXXXpBXn,2121一一个个样样本本值值的的为为相相应应于于样样本本设设nnXXXxxx解解,1,0,)1(1 xppxXPXxx的的分分布布律律为为似然函数似然函数iixnixpppL 11)1()(,)1(11 niiniixnxpp例例7现在学习的是第27页，共41页),1ln(ln)(ln11pxnpxpLniinii ,01)(lndd11 pxnpxpLpniinii令令的的最最大大似似然然估估计

18、计值值解解得得 p.11xxnpnii 的最大似然估计量为的最大似然估计量为p.11XXnpnii 这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.现在学习的是第28页，共41页.,0)(21似似然然估估计计量量的的最最大大求求的的一一个个样样本本是是来来自自的的泊泊松松分分布布服服从从参参数数为为设设 XXXXXn 解解的的分分布布律律为为因因为为X),2,1,0(,e!nxxxXPx niixxLi1e!)(,!e11 niixnxnii 的似然函数为的似然函数为所以所以 例例8现在学习的是第29页，共41页 ,!ln)(ln11 niiniixxnL ,0)(lndd1 nii

19、xnL令令的最大似然估计值的最大似然估计值解得解得,11xxnnii 的最大似然估计量为的最大似然估计量为.11XXnnii 这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.现在学习的是第30页，共41页.,),(22122的最大似然估计量的最大似然估计量和和求求的一个样本值的一个样本值是来自是来自为未知参数为未知参数设总体设总体 XxxxNXn解解的概率密度为的概率密度为X,e21),;(222)(2 xxfX 的的似然函数为似然函数为,e21),(222)(12 ixniL例例9现在学习的是第31页，共41页,)(21ln2)2ln(2),(ln12222 niixnnL ,0)

20、,(ln,0),(ln222 LL令令,0112 niinx ,0)()(21212222 niixn 现在学习的是第32页，共41页解得解得由由0112 niinx ,11xxnnii 解得解得由由0)()(21212222 niixn ,)(1212xxnnii 为为的最大似然估计量分别的最大似然估计量分别和和故故2 ,X .)(1212XXnnii 它们与相应的矩估它们与相应的矩估计量相同计量相同.现在学习的是第33页，共41页.,21的最大似然估计量的最大似然估计量求求的一个样本值的一个样本值是来自总体是来自总体未知未知其中其中上服从均匀分布上服从均匀分布在在设总体设总体baXxxxb

21、abaXn解解),min(21)(nlxxxx 记记),max(21)(nhxxxx 的概率密度为的概率密度为X .,0,1),;(其其他他bxaabbaxf例例10现在学习的是第34页，共41页,)()(21bxxabxxxahln 等等价价于于因因为为的函数的似然函数为的函数的似然函数为作为作为ba,其他其他,0,)(1),()()(hlnxbxaabbaL有有的的任任意意于于是是对对于于满满足足条条件件baxbxahl,)()(,)(1)(1),()()(nlhnxxabbaL 现在学习的是第35页，共41页,)(,),()()()()(nlhhlxxxbxabaL 取取到到最最大大值值

22、时时在在即即似似然然函函数数的最大似然估计值的最大似然估计值ba,min1)(inilxxa ,max1)(inihxxb 的最大似然估计量的最大似然估计量ba,min1iniXa .max1iniXb 现在学习的是第36页，共41页典型例题典型例题例1.312n6()0().0,xxxXf xXXXX设总体 的概率密度为：其它是取自总体 的样本。求：的矩估计量。现在学习的是第37页，共41页典型例题典型例题例2.X设总体 具有分布律P321X22(1)2(1)12301)1,2,1,xxx其中，（是未知参数，已知取得样本值试求 的矩估计值和最大似然估计值。现在学习的是第38页，共41页典型例

23、题典型例题例3.X设总体 的密度函数为：121,(,)naXXXXaa 其中，是未知参数，是其样本，试求 的矩估计量和最大似然估计量。现得样本值0.1，0.2，0.8，0.9，0.7，0.7。求参数 的估计值。(1)01(,)0aaxxf x a其它现在学习的是第39页，共41页三、小结两种求点估计的方法两种求点估计的方法:矩估计法矩估计法最大似然估计法最大似然估计法 在统计问题中往往先使用最大似然估计法在统计问题中往往先使用最大似然估计法,在最在最大似然估计法使用不方便时大似然估计法使用不方便时,再用矩估计法再用矩估计法.;);();,()();();,()(121121 niinniinxfxxxLLxpxxxLL或或似然函数似然函数现在学习的是第40页，共41页费舍尔资料Ronald Aylmer Fisher Born:17 Feb.1890 in London,EnglandDied:29 Jul.1962 in Adelaide,Australia现在学习的是第41页，共41页