《参数的点估计12070.ppt》由会员分享，可在线阅读，更多相关《参数的点估计12070.ppt（22页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、 一一一一 、参数的点估计参数的点估计参数的点估计参数的点估计 设总体设总体X X的分布函数的形式为已知的分布函数的形式为已知,但它的一个或多但它的一个或多个参数为未知个参数为未知,借助于总体借助于总体X X的一个样本来估计总体未知的一个样本来估计总体未知参数的值的问题称为参数的点估计问题参数的值的问题称为参数的点估计问题.例例1 1 在某炸药制造厂，一天中发生着火现象的次数在某炸药制造厂，一天中发生着火现象的次数是一个随机变量是一个随机变量,假设它服从以假设它服从以 00为参数的泊松分布为参数的泊松分布，参数，参数 为未知。设有以下的样本值，试估计为未知。设有以下的样本值，试估计参数参数 。
2、着火次数k 0 1 2 3 4 5 6发生K次着火的天数nk 75 90 54 22 6 2 1 =250 解解 由于由于X()故有故有=E(X).我们自然想到用样本我们自然想到用样本 均值均值来估计总体的来估计总体的均值均值E(X).现由已知数据计算得到现由已知数据计算得到 得得估计估计 E(X)=的的估计估计值值为为1.22。点估计问题点估计问题的一般提法的一般提法：设总体设总体X的分布函数的分布函数F(X;)的形式的形式为已知为已知,为为待估参数。待估参数。X1,X2,.,Xn是是X的一个样的一个样 本，本，x1,x2,.,xn是相应是相应的一个样本值的一个样本值.点估计问题就是要点估计
3、问题就是要构造一个适当的统计量构造一个适当的统计量 (X1,X2,.,Xn),用它的观察值用它的观察值 (x1,x2,.,xn)来估计未知参数来估计未知参数,我们称我们称 (X1,X2,.,Xn)为为 的的估计量估计量，(x1,x2,.,xn)为为 的估计值的估计值.在不致混淆的情在不致混淆的情况下统称估计量和估计值况下统称估计量和估计值为为估计。并都简记为估计。并都简记为 。如在例如在例1中，用样本均值估计总体均值。即有估计量中，用样本均值估计总体均值。即有估计量估计值估计值 二、二、矩估计法矩估计法 设设X为连续型随机变量为连续型随机变量,其概率密度为其概率密度为f(x;f(x;1,1,2
4、 2,.,k k),),或或X X为离散为离散型随机变量型随机变量,其分布规律为其分布规律为P X=x =p(x;(x;1 1,2 2,k k)其中其中 1 1,2 2,k k为待估参数为待估参数,X1,X2,.,Xn是来自是来自X的样本的样本,假设总体假设总体X的前的前 k 阶距阶距(X(X连续型连续型)或或(X(X离散离散型型)l=1,2,k (其中其中R(x)是是x可能取值的范围可能取值的范围)存在存在.一般来说一般来说,它们是它们是 1 1,2 2,.,k k的函数。基于样本矩的函数。基于样本矩 依概率收敛于总体矩依概率收敛于总体矩 l(l=1,2,k)样本矩的连续函样本矩的连续函数依
5、概率收敛于相应的总体矩函数，故用样本矩作为总数依概率收敛于相应的总体矩函数，故用样本矩作为总体矩的估计量，而以样本矩的连续函数作为相应的总体体矩的估计量，而以样本矩的连续函数作为相应的总体矩的连续函数的估计量，这种方法称为矩的连续函数的估计量，这种方法称为矩估计法矩估计法，具体，具体作法是：令作法是：令 l =Al ，l=1,2,k 这是包含这是包含k个未知参数个未知参数 1 1,2 2,.,k k,的联立方程组，的联立方程组，用解用解 1 1,2 2,k k作为估计量作为估计量,这种估计量称为这种估计量称为矩估计量矩估计量。矩矩估计量的观察值称为估计量的观察值称为矩估计值矩估计值。例例2 设
6、总体设总体X在在a,b上服从均匀分布上服从均匀分布,a,b未知未知.X1,X 2,.,Xn是一个样本是一个样本,试求试求a,b的矩估计值。的矩估计值。令令解上述联立方程组，得到解上述联立方程组，得到a，b的的矩估计量为矩估计量为 例例3 设总体设总体X的均值的均值 及方差及方差s s2 2都存在，且有都存在，且有s s2 2 0.0.但但,s,s2 2均未知。均未知。又设又设X1,X2,Xn是一个样本是一个样本。试求。试求,s,s2 2的矩估计量。的矩估计量。或即或即 解解 1 1=E=E(X)=,2 2=E=E(X2)=D(X)+E(X)2=s s2 2+2 2,令令 =A=A1 1,s s
7、2 2+2 2=A=A2 2.解上述方程组，得解上述方程组，得 和和s s2 2的矩估计量分别为的矩估计量分别为所得结果表明，总体均值与方差的矩估计量的表达式不因所得结果表明，总体均值与方差的矩估计量的表达式不因不同的总体分布而异。不同的总体分布而异。例如，例如，XN(,s(,s2 2),s),s2 2未知，即得未知，即得,s,s2 2的矩估计量为的矩估计量为 三三三三 、极大似然估计法极大似然估计法极大似然估计法极大似然估计法 例例 1 某学员与一位神枪手一同进行实弹射击某学员与一位神枪手一同进行实弹射击,各打各打一发一发,同一靶同一靶,仅中一发仅中一发,试问认为这一发是谁打中较合理试问认为
8、这一发是谁打中较合理？例例 2 假设在一罐中放有许多白球和黑球，并知两种假设在一罐中放有许多白球和黑球，并知两种球的数目之比是球的数目之比是1:3;但不知那种球的颜色多但不知那种球的颜色多.(现抽一球现抽一球,为黑的概率可能是为黑的概率可能是3/4，也可能是，也可能是1/4)。今连抽两球，全。今连抽两球，全为黑球。问袋中黑球多还是白球多？为黑球。问袋中黑球多还是白球多？解解 直观上可以回答。现以概率的角度考虑。设抽直观上可以回答。现以概率的角度考虑。设抽一球为黑球的概率为一球为黑球的概率为p，抽，抽n个而出现个而出现x个黑球的概率服个黑球的概率服从从b(n,p).这就是说，罐中黑球多时，出现两
9、个全黑的的概率这就是说，罐中黑球多时，出现两个全黑的的概率比白球多时出现两个全黑的概率大的多比白球多时出现两个全黑的概率大的多,或说使或说使n=2的样的样本来自本来自p=1/4的总体的可能性大的多。用到的总体的可能性大的多。用到“概率最大概率最大的的事情最可能出现事情最可能出现”原理原理,从参数角度，对总体从参数角度，对总体p有有供选择者较多，自然选最大者作供选择者较多，自然选最大者作p的估计，此方法称为的估计，此方法称为极极大似然估计法。大似然估计法。设设X为为离散型离散型,分布律为分布律为PX=x=px;,(;,(连续型连续型,其其概率密度概率密度f(x,),),Q Q的形式已知的形式已知
10、,为待估参数，为待估参数，Q Q是是 可能取值的范围。设可能取值的范围。设X1,X2,Xn是来自是来自X的样本，则的样本，则X1,X2,Xn的分布律的分布律(联合密度联合密度)为为 易知样本易知样本X1,X2,Xn取到观察值取到观察值x1,x2,xn的概的概率率即事件即事件X1,=x1,X2,=x2,Xn=xn发生的概率发生的概率这一概率随这一概率随 的取值而变化，它是的取值而变化，它是 的函数。的函数。L()()称为样本称为样本的似然函数的似然函数 由由Fisher引进的极大似然估计法，就是固定样本观察引进的极大似然估计法，就是固定样本观察值值x1,x2,xn，在，在 的的可能取值的范围可能
11、取值的范围Q Q内内 挑选使概率挑选使概率L(x1,x2,xn;)达到最大的参数值达到最大的参数值，作为，作为参数参数 的估计的估计值值。即取。即取 使使 若总体若总体X为连续为连续型，型，设设x1,x2,xn是相应于样本是相应于样本X1,X2,Xn的一个样本值的一个样本值,则随机点则随机点(X1,X2,Xn)近似近似地落在点地落在点(x1,x2,xn)的邻域的邻域(边长为边长为dx1,dx2,dxn的的n维立方体维立方体)内的概率近似为内的概率近似为这样得到的这样得到的 与样本观察值与样本观察值x1,x2,xn有关，记作有关，记作称为参数称为参数 的极大似然估计值，称统计量的极大似然估计值，
12、称统计量类似，引入函数类似，引入函数为为 的的极大似然估计量极大似然估计量。则则L()()称为样本的称为样本的似然函数似然函数。若。若为为 的极大似然估计值，称的极大似然估计值，称求法：若求法：若p(x;)或或f(x;)可微可微,这时可从方程这时可从方程求得，也可从求得，也可从为为 的的极大似然估计量极大似然估计量。求得求得 例例4 设设XB(1,p).X1,X2,Xn是来自是来自X的一个样本，的一个样本，试求参数试求参数p的极大似然估计量。的极大似然估计量。解解 设设x1,x2,xn 是来自是来自X1,X2,Xn 的一个样的一个样本本值。的分布律为值。的分布律为 PX=x=px(1-p)1-
13、x,x=0,1.故似然函数为故似然函数为而而令令解得解得p的极大似然估计值的极大似然估计值p的极大似然估计量为的极大似然估计量为 极大似然估计法适用于多个参数。若似然函数为极大似然估计法适用于多个参数。若似然函数为L(1 1,2 2,k)，则求关于，则求关于 i的偏倒数即可。的偏倒数即可。例例5 5 设设XN(,s(,s2 2),s),s2 2为未知参数为未知参数 ,x1,x2,xn 是来自是来自X的一个样本值。求的一个样本值。求,s,s2 2的极大似然估计量。的极大似然估计量。解解 X的概率密度为的概率密度为 似然函数为似然函数为而而令令因此得因此得,s,s2 2 的极大似然估计量分别为的极
14、大似然估计量分别为它们与相应的矩估计量相同。它们与相应的矩估计量相同。例例6 设总体设总体X在在a,b上服从均匀分布，上服从均匀分布，a,b未知，未知，x1,x2,xn是是一个样本值一个样本值,试求试求a,b的极大似然估计量。的极大似然估计量。解解 记记 x(1)=min(x1,x2,xn),x(n)=max(x1,x2,xn).X的概率密度是的概率密度是于是对于满足条件于是对于满足条件a x(1),b x(n)的任意的任意a,b有有由于由于a x1,x2,xn b，等价于，等价于a x(1),x(n)b.作为作为a,b的的函数的似然函数为函数的似然函数为即即L(a,b)在在a=x(1),b=x(n)时取到最大值时取到最大值(x(1)-x(n)-n.故故a,b的极大似然估计值为的极大似然估计值为a,b的极大似然估计量为的极大似然估计量为 极大似然估计的性质极大似然估计的性质 当总体分布中含有多个未知参数时，也具有以上性当总体分布中含有多个未知参数时，也具有以上性质。例如，在例质。例如，在例5中已得到的极大似然估计为中已得到的极大似然估计为根据上述性质，根据上述性质，得到标准差得到标准差s s的极大似然估计为的极大似然估计为其中其中x1,x2,xn)是是X的一个样本值。的一个样本值。