《参数估计的点估计.ppt》由会员分享,可在线阅读,更多相关《参数估计的点估计.ppt(13页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第七章 参数估计 数理统计的基本问题之一是根据样本所提供的信息,对总体的分布以及分布的数字特征做出统计推断统计推断的主要内容分为两大类:一类是参数估计问题,另一类是假设检验问题本章主要讨论参数估计问题这里的参数可以是总体分布中的未知参数,也可以是总体的某个数字特征若总体分布形式已知,但它的一个或多个参数未知或总体的某个数字特征未知时,就需借助总体X 的样本来估计未知参数以下主要讨论总体参数的点估计和区间估计 7.1 点估计 参数的点估计(Point Estimation),就是利用样本的信息对总体分布中的未知参数作定值估计设总体X 的分布函数形式为已知,但它的一个或多个参数为未知,我们的目的是
2、构造一个相应的统计量 去估计该未知参数,即借助于总体X 的一个样本来估计总体的未知参数,这种估计称为参数的点估计下面给出两种点估计量的求法一矩估计 矩估计(Moment Estimation)又称数字特征法估计,它的基本思想是用样本矩估计总体的相应矩,用样本的数字特征估计总体相应的数字特征若总体X 中包含k个未知参数1,2,k,记总体原点矩,则由样本原点矩 可建立如下k个方程的方程组 即(7-1)注意:上述方程的右端实际上包含有未知参数1,2,因此,(7-1)是k个未知量、k个方程的一个方程组,一般来说,我们可以从中解得 它们就是未知参数1,2,的矩估计另外,(7-1)中也可用相应的中心矩代替
3、利用矩估计求出的估计量称为矩估计量,这种求估计量的方法称为矩法 可以看出,无论总体X 服从什么分布,只要EX=,DX=2存在,它们的矩估计量总是 矩估计既直观又简便,特别是在估计总体的均值、方差等数字特征时,不必知道总体的分布类型,这是矩估计的优点矩估计的不足之处是要求总体存在所需的矩,在总体分布类型已知的情形下,矩估计也未充分利用总体分布类型提供的信息,这时它的精度可能比别的估计法低二最大似然估计 矩估计不涉及总体的分布类型,而实际问题中总体的分布类型常常是已知的,这正是估计总体参数的一个有用信息在估计参数时,我们应充分利用这些信息,以下给出在总体分布类型已知时的最大似然估计(Maximum
4、 Likelihood Estimation)1.最大似然估计法的基本思想:在随机抽样中,对于随机样本 记它的取值为,由于 是随机的,在一次抽样中居然取到 则我们有理由认为该随机样本取到 的概率最大从而可选取适当的参数,使其取到该样本值的概率达到最大,这就是最大似然估计的基本思想先看一个例子,然后分别讨论离散情形和连续情形2.最大似然估计的基本步骤(1)总体分布为离散的情形 总体X 的概率分布,其中1,2,是总体分布中的未知参数,这时样本值()出现的概率是(7-2)记此概率 为,即(7-3)它是参数 的函数,选择参数值 使(7-4)并用 作为 的估计值,这种求估计值的方法称为最大似然估计法;用
5、这种方法求得的估计值 叫做 的最大似然估计值;而称 为参数 的似然函数(Likelihood Function)如果似然函数 对 的导数或偏导数存在,那么根据多元函数极值理论 应有(7-5)从中解出的最大值点 即为最大似然估计值 由于对数函数ln L 是单调增加的,所以L 和有相同的最大值点利用这一事实,可将最大化L 的问题转化为最大化ln L,这样,往往可简化最大似然估计的求法通常将ln L 称为对数似然函数(2)总体分布为连续的情形 设总体X 的概率密度是,其中1,2,k 为未知参数考察随机样本(X1,X2,Xn)落在样本值()的指定邻域内的概率 其中 都是充分小的常量令,(7-6)由于 是常数,所以上述概率达到最大,当且仅当L(1,2,k)达到最大这里的L(1,2,k)称为似然函数,满足 的 称为 的最大似然估计;这种求估计值的方法同样称为最大似然法具体做法与情形(1)相同