《参数的点估计.pptx》由会员分享，可在线阅读，更多相关《参数的点估计.pptx（41页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、 总体样本统计量描述作出推断随机抽样第1页/共41页 现在我们来介绍一类重要的统计推断问题 参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数.参数估计估计废品率估计新生儿的体重估计湖中鱼数 估计降雨量在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数.第2页/共41页这类问题称为参数估计.参数估计问题的一般提法X1,X2,Xn要依据该样本对参数作出估计,或估计的某个已知函数 .现从该总体抽样，得样本 设有一个统计总体,总体的分布函数为F(x,)，其中 为未知参数(可以是向量).第3页/共41页参数估计点估计区间估计在要求的精度范围内在要求的精度范围内
2、指出参数所在的区间指出参数所在的区间用某一统计值用某一统计值作为参数的近似作为参数的近似第4页/共41页（假定身高服从正态分布 ）设这5个数是:1.65 1.67 1.68 1.78 1.69 估计 为1.68，这是点估计.这是区间估计.估计在区间 1.57,1.84 内，例如我们要估计某队男生的平均身高.现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值 的估计.而全部信息就由这5个数组成.第5页/共41页寻求估计量的方法寻求估计量的方法1.矩估计法2.极大似然法3.最小二乘法4.贝叶斯方法 这里我们主要介绍前面两种方法.第6页/共41页1.矩估计法 矩估计法是
3、英国统计学家K.皮尔逊最早提出来的.由辛钦定理,若总体 的数学期望 有限,则有其中 为连续函数.第7页/共41页 这表明,当样本容量很大时,在统计上,可以用 用样本矩去估计总体矩.这一事实导出矩估计法.定义 用样本原点矩估计相应的总体原点矩,又用样本原点矩的连续函数估计相应的总体原点矩的连续函数,这种参数点估计法称为矩估计法.理论依据:大数定律矩估计法的具体做法如下 设总体的分布函数中含有k个未知参数 ,那么它的前k阶矩 ,一般第8页/共41页都是这 k 个参数的函数,记为：从这 k 个方程中解出i=1,2,kj=1,2,k那么用诸 的估计量 Ai 分别代替上式中的诸 ,j=1,2,k即可得诸
4、 的矩估计量：矩估计量的观察值称为矩估计值.第9页/共41页 例2 设总体 X 在 a,b 上服从均匀分布,a,b 未知.是来自 X 的样本,试求 a,b 的矩估计量.解 第10页/共41页即 解得于是 a,b 的矩估计量为 样本矩总体矩第11页/共41页解 例3 设总体 X 的均值 和方差 都存在,未知.是来自 X 的样本,试求 的矩估计量.第12页/共41页解得于是 的矩估计量为 样本矩总体矩第13页/共41页解 从而得到方程 所以的矩估计量为 第14页/共41页休息一会。第15页/共41页 2.最大似然法 它是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821
5、年提出的.GaussFisher 然而,这个方法常归功于英国统计学家费歇.费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.第16页/共41页最大似然法的直观想法：如果一个试验有多种可能结果，现在进行一次试验，发现事件A发生了，于是我们认为事件A发生的可能性似乎比其它事件发生的可能性要大。第17页/共41页 最大似然估计原理：当给定样本X1,X2,Xn时，定义似然函数为：设X1,X2,Xn是取自总体X的一个样本，样本的联合密度(连续型）或联合分布律 (离散型)为 f(x1,x2,xn;).f(x1,x2,xn;)这里 x1,x2,xn 是样本的观察值.第18页/共41页 似然
6、函数：最大似然估计法就是用使 达到最大值的 去估计 .称 为 的最大似然估计值.看作参数 的函数，它可作为 将以多大可能产生样本值 x1,x2,xn 的一种度量.f(x1,x2,xn;)而相应的统计量称为 的最大似然估计量.第19页/共41页两点说明：1、求似然函数L()的最大值点，可以应用微积分中的技巧。由于ln(x)是 x 的增函数,lnL()与L()在 的同一值处达到它的最大值，假定 是一实数，且lnL()是 的一个可微函数。通过求解方程：可以得到 的MLE.若 是向量，上述方程必须用方程组代替.2、用上述求导方法求参数的MLE有时行不通，这时要用最大似然原则来求.第20页/共41页 下
7、面举例说明如何求最大似然估计L(p)=f(x1,x2,xn;p)例5 设X1,X2,Xn是取自总体 XB(1,p)的一个样本，求参数p的最大似然估计量.解：似然函数为:第21页/共41页对数似然函数为：第22页/共41页对p求导并令其为0，=0得即为 p 的最大似然估计值.从而 p 的最大似然估计量为 第23页/共41页 (4)在最大值点的表达式中,用样本值代入就得参数的最大似然估计值.求最大似然估计(MLE)的一般步骤是：(1)由总体分布导出样本的联合分布率(或联合密度);(2)把样本联合分布率(或联合密度)中自变 量看成已知常数,而把参数 看作自变量,得到似然 函数L();(3)求似然函数
8、L()的最大值点(常常转化为求ln L()的最大值点)，即 的MLE;第24页/共41页 例6 设总体 X N(),未知.是来自 X 的样本值,试求 的最大似然估计量.似然函数为 解X 的概率密度为 第25页/共41页于是令第26页/共41页解得的最大似然估计量为第27页/共41页解：似然函数为例7 设X1,X2,Xn是取自总体X的一个样本其中 0,求 的最大似然估计.i=1,2,n第28页/共41页对数似然函数为解：似然函数为i=1,2,n第29页/共41页=0 (2)由(1)得=0 (1)对 分别求偏导并令其为0,对数似然函数为若用求导方法无法最终确定用最大似然原则来求.第30页/共41页
9、是故使 达到最大的 即 的MLE 于是即 为 的MLE.对且是 的增函数第31页/共41页三、三、课堂练习课堂练习 例1 设总体X的概率密度为其中 是未知参数,X1,X2,Xn 是取自 X 的样本,求参数 的矩估计.第32页/共41页解 样本矩总体矩解得的矩估计量为故第33页/共41页解 由密度函数知例 2 设X1,X2,Xn是取自总体 X 的一个样本其中 0,求 的矩估计.具有均值为 的指数分布即E(X-)=D(X-)=E(X)=D(X)=故第34页/共41页解得也就是 E(X)=D(X)=的矩估计量为于是第35页/共41页例3 设X1,X2,Xn是取自总体X的一个样本求参数 的最大似然估计量。第36页/共41页解 似然函数为对数似然函数为例4 设X1,X2,Xn是取自总体X的一个样本 求 的最大似然估计值.其中 0,第37页/共41页求导并令其为0=0从中解得即为 的最大似然估计值.对数似然函数为第38页/共41页 这一讲，我们介绍了参数点估计,给出了寻求估计量最常用的矩法和极大似然法.参数点估计是用一个确定的值去估计未知的参数.看来似乎精确，实际上把握不大.四、小结四、小结第39页/共41页五、布置作业五、布置作业7-2：2，4，5，6第40页/共41页谢谢您的观看！第41页/共41页