《概率论与数理统计教程（答案及课件）chapter6.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计教程（答案及课件）chapter6.ppt（38页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第六章第六章 点估计点估计实际工作中碰到的随机变量往往是知道大致的分布类型，但不知道确切的分布。需要根据样本来估计总体的参数。这类问题称为参数估计。通常有两种方法：点估计：以样本的某一函数值作为总体中未知参数的估计值。区间估计：依据样本把总体的参数确定在某一范围内。1 估计量的优劣标准估计量的优劣标准希望估计量能代表真实参数。三种常用的评价标准：(一)一致估计一致性只在样本容量较大时才起作用.(二)无偏估计如果有一系列抽样构成各个估计，希望这些估计的期望值与参数的真实值相等。即样本估计量在参数值的真实值周围摆动，没有系统误差。(三)有效估计注:无偏估计不唯一,如例3.2.矩估计法矩估计法 矩估
2、计法是英国统计学家矩估计法是英国统计学家K.皮尔逊皮尔逊最早提出来的最早提出来的.由辛钦定理由辛钦定理,若总体若总体 的数学期望的数学期望 有限有限,则有则有其中其中 为连续函数为连续函数.这表明这表明,当样本容量很大时当样本容量很大时,在统计上在统计上,可以可以用用 用样本矩去估计总体矩用样本矩去估计总体矩.这一事实导出矩估计法这一事实导出矩估计法.定义定义 用样本原点矩估计相应的总体原点矩用样本原点矩估计相应的总体原点矩,又又用样本原点矩的连续函数估计相应的总体原点矩的用样本原点矩的连续函数估计相应的总体原点矩的连续函数连续函数,这种参数点估计法称为这种参数点估计法称为矩估计法矩估计法.理
3、论依据理论依据:大数定律大数定律矩估计法的具体做法如下矩估计法的具体做法如下 用样本矩作为相应总体矩的估计量用样本矩作为相应总体矩的估计量总体总体X的分布函数为的分布函数为假设总体假设总体X的的r阶原点矩存在，记：阶原点矩存在，记：是是的的函数，记为：函数，记为：用用样本矩作为总体矩的估计，有样本矩作为总体矩的估计，有则总体的则总体的k阶原点矩阶原点矩它它确定了含有确定了含有r r个个未知数未知数的的r r个方程个方程（*）由方程（由方程（*）解得）解得其中其中分别称为分别称为的矩的矩估计量。估计量。例例1 1为总体为总体的的一个样本，一个样本，总体均值总体均值方差方差未知，未知，求其矩估计量
4、。求其矩估计量。假设总体二阶矩存在假设总体二阶矩存在,分别是分别是一阶矩一阶矩二阶矩二阶矩解解由上由上两式得：两式得：不论总体不论总体X 服从什么分布，其服从什么分布，其数学期望和方差的矩估计量分数学期望和方差的矩估计量分别为样本均值和二阶样本矩别为样本均值和二阶样本矩即即:联立求解可得 矩法的优点矩法的优点是简单易行是简单易行,并不需要事先知道总体并不需要事先知道总体是什么分布是什么分布.缺缺点点是是，当当总总体体类类型型已已知知时时，没没有有充充分分利利用用分分布布提提供供的的信信息息.一一般般场场合合下下,矩矩估估计计量量不不具具有有唯唯一一性性.其主要原因在于建立矩法方程时，选取那些总
5、体其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性矩用相应样本矩代替带有一定的随意性.稍事休息稍事休息 3.最大（极大）似然估计最大（极大）似然估计 它它是是在在总总体体类类型型已已知知条条件件下下使使用用的的一一种种参参数数估估计方法计方法.它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的年提出的.GaussFisher 然而然而,这个方法常这个方法常归功于英国统计学家归功于英国统计学家费歇费歇.费歇费歇在在1922年重新发现了这年重新发现了这一方法，并首先研究了这种方法一方法，并首先研究了这种方法的一些性质的一些性质.最大似然法的基本思想最大
6、似然法的基本思想 先看一个简单例子：先看一个简单例子：一只野兔从前方窜过一只野兔从前方窜过.是谁打中的呢？是谁打中的呢？某位同学与一位猎人一起外某位同学与一位猎人一起外出打猎出打猎.如果要你推测，如果要你推测，你会如何想呢你会如何想呢?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下.你就会想，只发一枪便打中你就会想，只发一枪便打中,猎人命中的概率猎人命中的概率一般大于这位同学命中的概率一般大于这位同学命中的概率.看来这一枪是猎人看来这一枪是猎人射中的射中的.这个例子所作的推断已经体现了极大似然法的这个例子所作的推断已经体现了极大似然法的基本思想基本思想.利用总体利用总体X的分布函数的分布
7、函数的的表达式表达式的估计量及样本的信息，建立未知参数的估计量及样本的信息，建立未知参数的的估计量估计量 。分布列为分布列为,其中其中为待估计参数为待估计参数,从而总体从而总体X的样本的样本的联合分布列为的联合分布列为1.1.总体总体X的分布为离散型的分布为离散型:它它表示样本表示样本取值取值的的概率概率.对于样本的观察值对于样本的观察值,它是它是的的函数函数,记为记为即即称为似然函数称为似然函数。概率密度为概率密度为 为待估参数为待估参数,从总从总体中抽得样本体中抽得样本,其其联合概率联合概率密度为密度为2.2.总体总体X的分布为连续型的分布为连续型:落在区间落在区间内的内的概率概率,近似为
8、近似为从而样本落在点从而样本落在点的的邻域内的概率为邻域内的概率为只要只要对于样本的一个观对于样本的一个观察值察值它是它是的的函数，记为函数，记为即即称为称为似然函数似然函数。综上所述，我们给出下面定义综上所述，我们给出下面定义：设设总体总体X含未知参数含未知参数并且总体分布的形式已知，并且总体分布的形式已知，为为样本样本的的一个观察值。若一个观察值。若存在存在的的一个值一个值使得似然函数使得似然函数在在是是则称则称的的一个一个极大似然极大似然估计值估计值，统计量，统计量为为的的一个一个极大似然估计量极大似然估计量。上述问题就是求似然函数上述问题就是求似然函数的最大值问的最大值问题。设题。设关
9、于关于 可微，要使可微，要使取取最大值，最大值，必须满足必须满足达到最大值，由上式可解得由上式可解得的的极大似然估计值极大似然估计值 。由于由于与与在在同一同一值处值处取得极大值取得极大值所以所以也可由也可由求得。这样求求得。这样求 有时更简便。上面两个方程均有时更简便。上面两个方程均称为似然方程。称为似然方程。若若总体中未知参数有多个总体中未知参数有多个则则似然函数似然函数L是这些未知参数的函数，这时有是这些未知参数的函数，这时有似然方程组似然方程组或或解解方程组可得各未知参数的极大似然估计值。方程组可得各未知参数的极大似然估计值。例例1 1 设总体设总体X 服从参数为服从参数为的的泊松分泊
10、松分布，分布列为布，分布列为求求参数参数的的极大似然估计量。极大似然估计量。解解 设设为从为从总体总体X中随机抽取中随机抽取的的样本，样本观察值为样本，样本观察值为，似然函数似然函数为为两边取对数得两边取对数得对对求导数的似然方程求导数的似然方程解得解得所以参数所以参数的的极大似然估计量为极大似然估计量为解解 设设为为样本观察值，总体样本观察值，总体X的密度函数为的密度函数为则，似然函数为则，似然函数为取取对数得对数得 例例 设总体设总体 X N(),未知未知.是来自是来自 X 的样本值的样本值,试求试求 的最大似然估计量的最大似然估计量.对对两个参数分别求偏导数，得似然方程组两个参数分别求偏导数，得似然方程组解解方程组得方程组得和和的的估计值估计值 这一讲，我们介绍了参数点估计这一讲，我们介绍了参数点估计,给出了寻求给出了寻求估计量最常用的矩法和极大似然法估计量最常用的矩法和极大似然法.参数点估计是用一个确定的值去估计未知的参数点估计是用一个确定的值去估计未知的参数参数.看来似乎精确看来似乎精确，实际上把握不大，实际上把握不大.小结小结3 C-R不等式不等式