《矩估计和极大似然估计课件.ppt》由会员分享，可在线阅读，更多相关《矩估计和极大似然估计课件.ppt（53页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、1关于矩估计和极大似然估计现在学习的是第1页，共53页2第七章第一节第一节矩矩 法法 估估 计计二、常用分布参数的矩法估计二、常用分布参数的矩法估计 一一、矩法估计、矩法估计 现在学习的是第2页，共53页3矩估计步骤：矩估计步骤：连续型连续型离散型离散型现在学习的是第3页，共53页4所以参数 p 的矩估计量为例：例：总体 X 的分布列为：是来自总体X的样本，解：由于总体X 的分布为二项分布，现在学习的是第4页，共53页5设某炸药厂一天中发生着火现象的次数X例例1 1服从现在学习的是第5页，共53页6下面我们通过几个例子说明利用矩估计法求下面我们通过几个例子说明利用矩估计法求未知参数的过程。未知
2、参数的过程。二、常用分布常数的矩法估计二、常用分布常数的矩法估计现在学习的是第6页，共53页7例例2 2解解现在学习的是第7页，共53页8注注:总体均值方差的矩估计量与总体分布无关。做矩估计时,也可用中心矩建立关于未知参数的方程组，因而矩估计不唯一。未知，求参数的矩估计。例例3 3解：解：现在学习的是第8页，共53页9解解不合格品率 p 的矩法估计 分析分析 设总体X 为抽的不合格产品数，相当于抽取了一组样本X1，X2，Xn,且因 p=EX,故 p 的矩估计量为 设某车间生产一批产品，为估计该批产品不合格品(即出现不合格产品的频率).例例4 4率，抽取了n 件产品进行检查.现在学习的是第9页，
3、共53页10例例5 5解解现在学习的是第10页，共53页11现在学习的是第11页，共53页12是未知参数，X1，X2，,Xn，是X 的一组样本，解解设总体X的概率密度为解得例例6 6求的矩估计量.现在学习的是第12页，共53页13其中0，与是未知参数，X1，X2，,Xn，是X 的一组样本，求与的矩估计量.解解例例7.设总体X的概率密度为令现在学习的是第13页，共53页14令令注意到注意到 DX=E(X2)(EX)2=2=2+(+)2现在学习的是第14页，共53页15第七章第二节极大似然估计极大似然估计极大似然估计极大似然估计 现在学习的是第15页，共53页16极大似然估计法极大似然估计法:设是
4、的一个样本值事件 发生的概率为为 的函数，形式已知(如离散型)X的分布列为的联合分布列联合分布列为：为样本的似然函数样本的似然函数。定义定义7.1现在学习的是第16页，共53页17即取使得：与有关,记为称为参数的极大似然估计值极大似然估计值。称为参数的极大似然估计量极大似然估计量。达到最大的参数作为的估计值。现从中挑选使概率样本的似然函数现在学习的是第17页，共53页18若总体X属连续型,其概率密度的形式已知，为待估参数；则的联合密度：一般，关于可微，故可由下式求得：因此的极大似然估计也可从下式解得：在同一点处取极值。现在学习的是第18页，共53页19现在学习的是第19页，共53页20故似然函
5、数为例例1 1 设是来自总体X的一个样本，试求参数 p 的极大似然估计值.解解：设是一个样本值。X的分布列为：而令现在学习的是第20页，共53页21它与矩估计量是相同的。它与矩估计量是相同的。解得解得p的极大似然估计值的极大似然估计值p的极大似然估计量的极大似然估计量令令解得现在学习的是第21页，共53页22设总体X的分布列为：是来自总体X的样本，求 p 的极大解：解：似然函数为似然函数为似然估计值。例例2 2现在学习的是第22页，共53页23令令即即所以参数所以参数的极大似然估计量为的极大似然估计量为现在学习的是第23页，共53页24解解例例3 3设 X1,X2,Xn 是取自总体X 的一个样
6、本,，求参数的极大似然估计值。似然函数为似然函数为:现在学习的是第24页，共53页25例例4 4设未知，是一个样本值求的极大似然估计量.解解 设的概率密度为：似然函数为现在学习的是第25页，共53页26等价于等价于因为因为对于满足对于满足的任意的任意有有即即时时,取最大值取最大值在在似然函数为似然函数为现在学习的是第26页，共53页27故故的极大似然估计值为:故故的极大似然估计量为:即时,取最大值在在似然函数为似然函数为现在学习的是第27页，共53页28今取得一组样本Xk数据如下，问如何估计？162950681001301402702803404104505206201902108001100
7、 某电子管的使用寿命 X（单位：小时)服从指数分布 例例5 5 指数分布的点估计指数分布的点估计 分析 可用两种方法：矩法估计 和极大似然估计.现在学习的是第28页，共53页291）矩法估计现在学习的是第29页，共53页302）极大似然估计）极大似然估计1.构造似然函数 当xi0,（i=1,2,n)时，似然函数为2.取对数3.建立似然方程现在学习的是第30页，共53页315.得极大似然估计量：4.求解得极大似然估计值现在学习的是第31页，共53页32似然函数为：例例6 6设为未知参数，是来自X的一个样本值，求的极大似然估计值。解解：X的概率密度为：现在学习的是第32页，共53页33解得：解得：
8、令令即：即：它们与相应的矩它们与相应的矩估计量相同估计量相同.现在学习的是第33页，共53页34 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值，一般只需求lnL 的极大值.求极大似然估计的求极大似然估计的一般步骤一般步骤：1.写出似然函数2.对似然函数取对数 3.对i (i=1,m)分别求偏导,建立似然方程(组)解得 分别为 的极大估计值.现在学习的是第34页，共53页35例例7 矩估计与似然估计不等的例子设总体概率密度为求参数的极大似然估计,并用矩法估计.解解 1)极大似然估计法1.构造似然函数2.取对数：当 0 xi1,(i=1,2,n)时现在学习的是第35页，共53页3
9、62.取对数：当 0 xi 1,(i=1,2,n)时3.建立似然方程4.求解得极大似然估计值为5.极大似然估计 量为现在学习的是第36页，共53页372)矩估计法现在学习的是第37页，共53页381.矩法估计量与极大似然估计量不一定相同；2.用矩法估计参数比较简单,但有信息量损失；3.极大似然估计法精度较高,但运算较复杂；4.不是所有极大似然估计法都需要建立似然方程小小 结结求解.现在学习的是第38页，共53页39解解例例6.不合格品率的矩法估计 分析分析 设总体X 即抽一件产品的不合格产品数，相当于抽取了一组样本X1，X2，Xn,且因 p=EX,故 p 的矩估计量为 设某车间生产一批产品，为
10、估计该批产品不合格品率，抽取了n件产品进行检查.(即出现不合格产品的频率).现在学习的是第39页，共53页40不合格品率p 的估计设 总体X是抽一件产品的不合格品数，记 p=PX=1=P产品不合格则 X的分布列可表示为 现得到X的一组样本X1，X2，,Xn的实际观察值为 x1,x2,xn,则事件 X1=x1，X2=x2，,Xn=xn例例7 7出现的可能性应最大,其概率为现在学习的是第40页，共53页41 应选取使L(p)达到最大的值作为参数 p 的估计.现在学习的是第41页，共53页42令令解得解得（频率值）（频率值）注意到注意到现在学习的是第42页，共53页43其中0，与是未知参数，X1，X
11、2，,Xn，解解设总体设总体X的概率密度为的概率密度为是X 的一组样本，求与 的矩估计量.例例8 8现在学习的是第43页，共53页44令令注意到注意到 DX=E(X2)E(X)2=2=2+(+)2现在学习的是第44页，共53页45例例 9 均匀分布的极大似然估计均匀分布的极大似然估计 设样本设样本X1，X2，Xn来自在区间来自在区间 0,上均匀分布的总体上均匀分布的总体X,求求 的极大似然估计的极大似然估计.解解 设设x1,x2,xn是是X1,X2,Xn的样本值，的样本值，似然函数为似然函数为现在学习的是第45页，共53页46#如图所示，似然函数如图所示，似然函数L 在在取到最大值，故取到最大
12、值，故的极大似然估计量为的极大似然估计量为现在学习的是第46页，共53页47注注 意：意：该似然函数不能通过求导构造似然方程该似然函数不能通过求导构造似然方程.尝试用其他方法求解！尝试用其他方法求解！分析分析 的估计应满足：的估计应满足：2.的值不能小于任何一个的值不能小于任何一个xi.1.的值尽可能小；的值尽可能小；现在学习的是第47页，共53页48现在学习的是第48页，共53页49第七章 参数估计3 估计标准说明：说明：退 出前一页后一页目 录现在学习的是第49页，共53页50第七章 参数估计3 估计标准例例2退 出前一页后一页目 录现在学习的是第50页，共53页51第七章 参数估计3 估计标准例例3解：解：退 出前一页后一页目 录现在学习的是第51页，共53页52第七章 参数估计3 估计标准例例4退 出前一页后一页目 录现在学习的是第52页，共53页534/5/2023感感谢谢大大家家观观看看现在学习的是第53页，共53页