第六章参数估计1.ppt

《第六章参数估计1.ppt》由会员分享，可在线阅读，更多相关《第六章参数估计1.ppt（50页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、第六章参数估计第六章参数估计112021/2/2222021/2/22 问题的提出问题的提出点点 估估 计计区区 间间 估估 计计参参 数数 估估 计计 总体总体X的分布形式，未知的只是分布中的参数，要估计的只是的分布形式，未知的只是分布中的参数，要估计的只是参数或参数的某一函数参数或参数的某一函数.总体总体X的估计有两类：的估计有两类：一、参数估计一、参数估计 二、非参数估计二、非参数估计 总体总体X的分布形式未知，要估计的是总体的分布形式的分布形式未知，要估计的是总体的分布形式.32021/2/22本章内容本章内容 6.1 6.1 参数的点估计参数的点估计 6.2 6.2 点估计的优良性准

2、那点估计的优良性准那么么 6.3 6.3 区间估计区间估计42021/2/22一、点估计的一般定义及步骤一、点估计的一般定义及步骤 设总体设总体XF(x,),是未知参数是未知参数,(X1,X2,Xn)是取自总体是取自总体X的样本的样本,适中选取一个统计量适中选取一个统计量=(X1,X2,Xn)用用 去估计参数去估计参数,称称 为为的估计量或把的估计量或把 叫做叫做的点估计的点估计.注注6.1 6.1 参数的点估计参数的点估计(1)估计量估计量 具有二重性：一方面具有二重性：一方面 是是R.V.；二方面，当；二方面，当样本样本(X1,X2,Xn)=(x1,x2,xn)时，时，是数值，称为参数是数

3、值，称为参数的估计值的估计值.(2)参数参数的取值范围叫做参数空间，记作：的取值范围叫做参数空间，记作：(3)参数可以是一个，可以多个参数可以是一个，可以多个.如：正态分布有两个参数如：正态分布有两个参数.52021/2/22从总体从总体 X 中抽取样本中抽取样本(X1,X2,X n)构造构造合适的合适的统计量统计量 =T(X1,X2,X n)参参数数的的 估估计计量量 将样本观察值将样本观察值(x1,x2,x n)代入估计量代入估计量 计算出估计量的观察值计算出估计量的观察值 =T(x1,x2,x n)参参数数的的 估估计计值值 设总体设总体X的分布函数为的分布函数为F(x,),未知未知，现

4、估计现估计 .步骤如下：步骤如下：二、获取点估计的两种方法二、获取点估计的两种方法1.矩估计法矩估计法2.极大似然估计法极大似然估计法62021/2/221.1.矩估计法矩估计法 矩估计法的思想是：用样本的各阶矩去估计总体相应的各阶矩，矩估计法的思想是：用样本的各阶矩去估计总体相应的各阶矩，而总体各阶矩都是总体分布中未知参数的函数，从而，通过估计而总体各阶矩都是总体分布中未知参数的函数，从而，通过估计总体矩来到达估计总体分布中未知参数的目的总体矩来到达估计总体分布中未知参数的目的.设总体分布为设总体分布为F(x,1,2,k),i未知，未知，样本样本(X1,X2,X n)来自总体来自总体 X，计

5、算计算 令令 解未知量解未知量 1,2,k 称为参数称为参数 1,2,k的矩估计量的矩估计量.用样本一阶原点矩估计总体一阶原点矩；用样本一阶原点矩估计总体一阶原点矩；用样本二阶原点矩估计总体二阶原点矩用样本二阶原点矩估计总体二阶原点矩.背景：背景：1900年英国统计学家提出了一个交换原那么，后来人们年英国统计学家提出了一个交换原那么，后来人们称此方法为矩法称此方法为矩法.72021/2/22 例例2 设样本设样本(X1,X2,X n)来自总体来自总体 XN(,2)，求求 与与 2 的的矩估计量矩估计量.解：解：例例1 设样本设样本(X1,X2,X n)来自总体来自总体 X，且总体的均值且总体的

6、均值 未知，未知，求求 的的矩估计量矩估计量.解：解：总体总体 X 的均值的均值 的的矩估计量为样本一阶原点矩矩估计量为样本一阶原点矩.因为因为而而故故82021/2/22 例例3 设样本设样本(X1,X2,X n)来自总体来自总体 XP()，求求 的的矩估计量矩估计量.解：解：另一方面：另一方面：EX2=DX+(EX)2=+2，所以所以 同一参数的矩估计可以不唯一同一参数的矩估计可以不唯一.此时，一般取低阶矩得到的那一个此时，一般取低阶矩得到的那一个.一阶样本原点矩作为一阶样本原点矩作为 的的矩估计量矩估计量92021/2/22 例例4 设样本设样本(X1,X2,X n)来自总体来自总体 X

7、，X服从服从 1,2上的上的均匀分布，均匀分布，求求 1和和 2 的的矩估计量矩估计量.解：解：这是两个参数这是两个参数的的矩估计问题矩估计问题.所以所以 解得解得 EX2=DX+(EX)2 102021/2/22 2.2.极大似然估计极大似然估计背景背景：极大似然估计法最早是高斯在：极大似然估计法最早是高斯在18211821年提出来的，但通常归年提出来的，但通常归功于费希尔功于费希尔(R.A.Fisher)(R.A.Fisher)，因为，因为FisherFisher在在19221922年再次提出了这种想法，年再次提出了这种想法，并证明了它的一些性质，从而使得极大似然估计法得到广泛应用并证明了

8、它的一些性质，从而使得极大似然估计法得到广泛应用.极大似然法的直观想法：极大似然法的直观想法：例：设有外形完全一样的两个箱子，甲箱中有例：设有外形完全一样的两个箱子，甲箱中有99个白球，个白球，1个黑个黑球，乙箱中有球，乙箱中有1个白球，个白球，99个黑球个黑球.现随机取一箱，再从中任取一现随机取一箱，再从中任取一球，结果是白球，问这个球是从哪个箱子中取出的？球，结果是白球，问这个球是从哪个箱子中取出的？假设取到的是甲箱，从中取出白球的概率为，假设取到的是甲箱，从中取出白球的概率为，假设取的是乙箱，从中取出白球的概率为假设取的是乙箱，从中取出白球的概率为0.01.如今一次试验白球出现了，人们的

9、直觉就是：如今一次试验白球出现了，人们的直觉就是：“此白球最像从甲箱取出的，此白球最像从甲箱取出的，“极大似然极大似然”之意之意112021/2/22思想：思想：进展一次详细的抽样后进展一次详细的抽样后,得到观察值得到观察值(x1,x2,x n).设总体分布设总体分布(以离散型为例以离散型为例)为为P(X=xk)=Pk(),k=1,2,.未知，未知，样本样本(X1,X2,X n)来自总体来自总体 X，因为因为(x1,x2,x n)在一次观测中就出现了，由小概率事件的实在一次观测中就出现了，由小概率事件的实际不发生原理：际不发生原理：到达最大的点，以此作为到达最大的点，以此作为 的估计的估计.是

10、参数是参数 的函数的函数.可以多元可以多元概率概率P(X1=x1,Xn=xn)较大较大.故使故使极大似然估计极大似然估计122021/2/22定义：定义：称为参数称为参数 的的似然函数似然函数.使似然函数到达最大，即使似然函数到达最大，即称为参数称为参数 的的极大似然估计极大似然估计.与与(x1,x2,xn)有关，记作：有关，记作：极大似然估计值极大似然估计值.相应的，相应的，极大似然估计量极大似然估计量.叫做极大似然估计法叫做极大似然估计法.132021/2/22(1)离散型总体极大似然估计的步骤离散型总体极大似然估计的步骤 (x1,x2,xn)是样本是样本(X1,Xn)的一次观测值的一次观

11、测值.得到得到似然方程似然方程.第二步第二步 建立似然方程建立似然方程(组组)或或似然方程组似然方程组.第三步第三步 解似然方程解似然方程(组组)设设第一步第一步 建立似然函数：建立似然函数：142021/2/22例例1 求求0-1分布中分布中,参数参数p的极大似然估计的极大似然估计.解解:设设(x1,x2,xn)是样本是样本(X1,X2,Xn)的一次观测值的一次观测值.总体总体X的概率分布为的概率分布为:P(X=k)=pk(1-p)1-k k=0,1.建立似然函数建立似然函数:L(x1,x2,xn;p)=建立似然方程建立似然方程:令令得得:p的极大似然估计值的极大似然估计值:p的极大似然估计

12、量的极大似然估计量152021/2/22试求二项分布中参数试求二项分布中参数p的极大似然估计量的极大似然估计量.设设(x1,x2,xm)是样本的一次观测值是样本的一次观测值,故似然函数为故似然函数为例例2162021/2/22似然函数：似然函数：例例3解：解：172021/2/222连续型总体极大似然估计的步骤连续型总体极大似然估计的步骤 第二步第二步 建立似然方程建立似然方程(组组)及第三步解法同离散型及第三步解法同离散型.第一步第一步 建立似然函数建立似然函数182021/2/22例例4解解:设设(x1,x2,xn)是样本是样本(X1,X2,Xn)的一次观测值的一次观测值,且且xi 0,i

13、=1,n.建立似然函数建立似然函数:建立似然方程建立似然方程:(估计值估计值)192021/2/22似然函数为：似然函数为：例例5的极大似然估计量：的极大似然估计量：2 ,202021/2/22极大似然法求估计量的步骤：极大似然法求估计量的步骤：(一般情况下一般情况下)说明：假设似然方程组无解，或似然函数不可导，说明：假设似然方程组无解，或似然函数不可导，此法失效，改用其它方法此法失效，改用其它方法.232021/2/22例例6方程组无解方程组无解 解：似然函数为：解：似然函数为：取对数取对数242021/2/22 6.2 点估计的优良性准那么点估计的优良性准那么 我们知道，一个未知参数的估计

14、量可能不止我们知道，一个未知参数的估计量可能不止一个一个.这些估计量中哪个好、哪个差呢？这就涉及这些估计量中哪个好、哪个差呢？这就涉及评价估计量的标准问题评价估计量的标准问题.我们介绍三个常用的标准：我们介绍三个常用的标准：1.无偏性；无偏性；2.有效性；有效性；3.一致性一致性.252021/2/22一、无偏性一、无偏性 定义定义 假如对一切假如对一切 ，有，有 例例1设总体设总体X 有期望有期望 EX=，样本样本(X1,X2,X n)来自来自 X，试证样本均值试证样本均值 X 是是 的无偏估计的无偏估计.1.1.这个结论与总体的分布类型无关这个结论与总体的分布类型无关.只要总体期望存在只要

15、总体期望存在，样本均值总是它样本均值总是它的无偏估计的无偏估计.假设估计量的期望值等于参数真值假设估计量的期望值等于参数真值,即即:我们称估计量我们称估计量 与参数真值与参数真值 没有系统偏差没有系统偏差,就叫做无偏估计就叫做无偏估计.证证:注注2.显然，参数显然，参数的无偏估计不惟一的无偏估计不惟一.是参数是参数 的估的估计计量，一般地，量，一般地，如：如：X1，(X1+X2)/2,都是都是 的无偏估计的无偏估计.262021/2/22 例例2 设总体设总体X 有期望有期望 EX=与方差与方差 DX=2，与与 2 都未知都未知.样本样本(X1,X2,X n)来自来自 X，试证：，试证：(1)

16、样本方差样本方差S2是是 2的无偏估计；的无偏估计；(2)样本标准差样本标准差S不是标准差不是标准差 的无偏估计；的无偏估计；(3)B2不是不是 2的无偏估计的无偏估计.证证：(1)由样本方差的性质知：由样本方差的性质知：ES2=2 (2)DS=ES2-(ES)2=2 -(ES)2 (3)因因 所以所以,S2是是 2的无偏估计的无偏估计.272021/2/22二、有效性二、有效性 一般地，未知参数一般地，未知参数 的无偏估计量往往不止一个，的无偏估计量往往不止一个，在这些估计量中，当然是取值相对于在这些估计量中，当然是取值相对于 的离散程度越小的越好，的离散程度越小的越好，即方差越小的越好即方

17、差越小的越好.定义定义 最有效估计最有效估计282021/2/22 解解：DX1=DX=2 例例1 设总体设总体X 有期望有期望 EX=与方差与方差 DX=2，与与 2 都未知都未知.样本样本(X1,X2,X n)来自来自 X，比较比较 的两个无偏估计的两个无偏估计X1 和和 X 的有的有 效性效性.例例2 条件同上，试证在条件同上，试证在 的所有线性无偏估计中的所有线性无偏估计中X方差最小方差最小.解解：所谓线性估计是指：所谓线性估计是指 为样本的线性函数为样本的线性函数.(n 1)那那么么(无偏性无偏性)而而所以所以292021/2/22三、一致性相合性三、一致性相合性例：例：302021

18、/2/22补充定理补充定理:设设 为为估计量序列估计量序列,若若则则 具有相合性具有相合性.例：例：证明证明:证：证：312021/2/22区间估计区间估计 点估计的点估计的优点优点：直观量的意义直观量的意义；缺点缺点：只是未知参数的一个近似只是未知参数的一个近似值，精度、误差没解决值，精度、误差没解决.可靠度：可靠度：要求区间以很大的可能性包含要求区间以很大的可能性包含 即：即：精度：精度：估计的精度要尽可能高估计的精度要尽可能高,即即 区间的长度要尽可能小区间的长度要尽可能小,或或 能表达此要求的其它准那么能表达此要求的其它准那么.在保证可靠度的条件下，尽量进步精度在保证可靠度的条件下，尽

19、量进步精度 可靠度和精度要统筹兼顾可靠度和精度要统筹兼顾 6.3 6.3 区间估计区间估计 322021/2/22 一、区间估计的根本概念一、区间估计的根本概念 设总体设总体XF(x;),是未知参数是未知参数,(X1,X2,Xn)为取自总体为取自总体X的样本的样本,适当地选取两个统计量适当地选取两个统计量:形成区间形成区间使之以相当大的把握覆盖参数使之以相当大的把握覆盖参数.则称则称 为为 的的置信度置信度(系数系数)为为1-的的置信区间置信区间或或区间估计区间估计,分别叫做参数分别叫做参数 的置信下限和置信上限的置信下限和置信上限.注注10 区间区间 具有二重性具有二重性:一方面是随机区间一

20、方面是随机区间;又是常数区间又是常数区间.20 定义式定义式 的含义的含义 30 通常通常=0.1,0.05,0.01.即置信度到达即置信度到达0.9,0.95,0.99.332021/2/22 标准正态分布的临界值上标准正态分布的临界值上 分位点分位点 O u y y=(x)u1-查表查表注：其他分布的上注：其他分布的上 分位点定义一样分位点定义一样.342021/2/22二、正态总体二、正态总体,参数参数 的区间估计的区间估计1.当当 2=02时时,均值均值 的区间估计的区间估计 设总体设总体X N(,2)，样本，样本(X1,X2,Xn)来自总体来自总体X.得得 的置信系数为的置信系数为1

21、-的置信区间：的置信区间：所以取枢轴变量为所以取枢轴变量为O/2a/2-a第一步第一步,选取枢轴变量选取枢轴变量:因为因为第二步第二步,求分位点求分位点(临界值临界值):对于给定的对于给定的0,令令P(|U|a)=1-查表确定出分位点查表确定出分位点a=u/21-=u/2第三步第三步,解出解出352021/2/22注注:10 第一步中的选取枢轴变量很关键第一步中的选取枢轴变量很关键,所谓枢轴变量就是满足以所谓枢轴变量就是满足以下两个条件的随机变量下两个条件的随机变量:(1)随机变量随机变量U的分布完全的分布完全,且有表可查且有表可查.(2)随机变量随机变量U中含且只含待估参数中含且只含待估参数

22、未知未知,其它都是的其它都是的.20 通过选取枢轴变量的方式求区间估计通过选取枢轴变量的方式求区间估计,叫做枢轴变量法叫做枢轴变量法.30 当给定当给定后后,相应地能确定出分位点相应地能确定出分位点u/2,如如:=0.1,u/2=1.64;=0.05,u/2=1.96;=0.01,u/2=2.58.当当时时,由由反查反查N(0,1)的分布函数表得的分布函数表得:362021/2/22例例1 P166例例1从大批灯泡中随机地抽取从大批灯泡中随机地抽取5个个,测得寿命为测得寿命为(单位单位:小时小时)：1650,1700,1680,1820,1800，假定灯泡寿命，假定灯泡寿命X N(,9)，求这

23、批灯泡平均寿命的区间估计求这批灯泡平均寿命的区间估计.解：方差解：方差 2=9，利用公式：，利用公式：x=1730，得得 的区间估计为的区间估计为 1727.37,1732.63.由由 ，得，得 u=1.96.372021/2/222.当当 2未知时，求未知时，求的区间估计的区间估计.所以所以 的置信系数为的置信系数为1-的置信区间：的置信区间：第一步第一步,选取枢轴变量选取枢轴变量:第二步第二步,对于给定的对于给定的 0,令令1-可以确定出分位点可以确定出分位点 第三步第三步,解出解出382021/2/22例例2 从大批灯泡中随机地抽取从大批灯泡中随机地抽取5个个,测得寿命为测得寿命为(单位

24、单位:小时小时)：1650,1700,1680,1820,1800，假定灯泡寿命，假定灯泡寿命XN(,2)，求这批灯泡平均寿命的区间估计求这批灯泡平均寿命的区间估计 .由由n=5，查查 t 分布表得分布表得 t0.025(4)=2.776.x=1730，S=75.50.所以，得所以，得 的区间估计为的区间估计为 1636.27,1823.73.解：解：方差方差 2未知，利用公式有：未知，利用公式有：392021/2/22 三、正态总体三、正态总体,方差方差2 2的的区间估计区间估计 .1.当当=0 时时,求求2的区间估计的区间估计.第一步第一步,选取枢轴变量选取枢轴变量:第二步第二步,对于给定

25、的对于给定的 0,令令得到分位点得到分位点:第三步第三步,解出解出2,得到得到置信系数为置信系数为1-的区间估计的区间估计为：为：1-402021/2/222.当当 未知时未知时,求方差求方差 2的区间估计的区间估计.2 的置信系数为的置信系数为1-的区间估计的区间估计为：为：枢轴变量为枢轴变量为412021/2/22查查 2 分布表得分布表得 2，2.所以，得方差的区间估计为所以，得方差的区间估计为 0.055,0.842.例例1 对某塔的高度进展了对某塔的高度进展了 5 次测量，数据单位：米如下：次测量，数据单位：米如下：9，设测量数据服从正态分布，设测量数据服从正态分布，求方差的区间估计

26、求方差的区间估计.(1)假设塔的真实高度为假设塔的真实高度为 90米米.(2)假设塔的真实高度未知假设塔的真实高度未知.解：解：(1)利用公式：利用公式：计算得：计算得：(2)利用公式：利用公式：计算得：计算得：查查 2分布表得分布表得 2，2.所以，得方差的区间估计为所以，得方差的区间估计为 0.060,1.380.422021/2/221.12,22都都,均值差均值差 1-2的区间估计的区间估计.四、两个正态总体四、两个正态总体,均值差均值差1 1-2 2的区间估计的区间估计 设样本设样本(X1,X2,Xn1)来自正态总体来自正态总体XN(1,12),(Y1,Y2,Y n2)来自正态总体来

27、自正态总体YN(2,22)，并假定，并假定X 与与 Y 互相独立互相独立步骤同前步骤同前:选取枢轴变量选取枢轴变量;确定临界值确定临界值;解出未知参数解出未知参数.由于由于所以选取枢轴变量所以选取枢轴变量:分别是两样本的均值和方差分别是两样本的均值和方差,1-是给定的置信系数是给定的置信系数432021/2/22所以所以 1-2的置信系数为的置信系数为1-的置信区间：的置信区间：O/2u/2/2-u/2令令P(|U|u/2)=1-442021/2/22解：解：由由 ，查标准正态分布表得，查标准正态分布表得 u/2=u因因 n1=10，n2=12,12=25,22=36，所以，所以，例例1 1

28、设自总体设自总体XN(XN(1,25)1,25)得到一容量为得到一容量为1010的样本，其样本均值的样本，其样本均值 ，自总体，自总体YN(YN(2,36)2,36)得到一容量为得到一容量为1212的样本，其样本均的样本，其样本均值值 ,且两样本互相独立且两样本互相独立,求求 1-1-2 2的置信区间的置信区间 .得得 1-2的置信区间为的置信区间为-8.06,-0.34.452021/2/222.12,=22=2 ,但但 2未知未知 取枢轴变量为取枢轴变量为 所以所以 1-2的置信系数为的置信系数为1-的置信区间：的置信区间：462021/2/22解：由抽样的随机性可推知样本灯泡互相独立，又

29、因为它们的解：由抽样的随机性可推知样本灯泡互相独立，又因为它们的总体方差相等，由总体方差相等，由得得 1-2的置信区间为的置信区间为-36.53,76.53.例例2 2 为比较为比较A,BA,B两种型号灯泡的寿命，两种型号灯泡的寿命，随机抽取随机抽取A A型灯泡型灯泡5 5只，只，测得测得 ，标准差，标准差SA=28小时，小时，随机抽取随机抽取B B型灯泡型灯泡7 7只，只，测得测得 ，标准差，标准差SB=32小时，设总体都是正态的，小时，设总体都是正态的，并且由生产过程知它们的方差相等并且由生产过程知它们的方差相等.求求 1-2 的置信区间（的置信区间（=0.01）因因 n1=5，n2=7,

30、SA=28,SB=32,而而 =0.01，查，查t分布表得分布表得 t/2(10)=t0.005(10)=3.169,，所以所以472021/2/22令枢轴变量为令枢轴变量为五、两个正态总体方差比五、两个正态总体方差比 的区间估计的区间估计所以方差比所以方差比 的置信系数为的置信系数为1-1-的置信区间为的置信区间为 482021/2/22例例3 3 两正态总体两正态总体XN(XN(1,1,12)12)和和YN(YN(2,2,22)22)的参数均未知，的参数均未知，依次取依次取容量为容量为25 25，1515的两独立样本，测得样本方差依次为的两独立样本，测得样本方差依次为6.38 6.38，求

31、两，求两个正态总体方差比的置信区间个正态总体方差比的置信区间 .所以方差比所以方差比 的置信系数为的置信系数为1-1-的置信区间为的置信区间为 0.527，2.639 解：因解：因 n1=25，n2=15,S12/S22=6.38/5.15=1.239,查查F-分布表得分布表得 F，由，由492021/2/22 本章小结本章小结1.理解点估计、区间估计的概念；理解点估计、区间估计的概念；2.纯熟掌握矩估计法和极大似然估计法；纯熟掌握矩估计法和极大似然估计法；3.知道评价估计量优良性标准，会断定无偏性、有效性；知道评价估计量优良性标准，会断定无偏性、有效性；4.纯熟掌握一个正态总体下参数的区间估计；掌握两个正纯熟掌握一个正态总体下参数的区间估计；掌握两个正态总体下均值差、方差比的区间估计态总体下均值差、方差比的区间估计.502021/2/22