《概率论与数理统计 第7章 参数估计.pdf》由会员分享，可在线阅读，更多相关《概率论与数理统计 第7章 参数估计.pdf（53页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第七章 参数估计第七章 参数估计第一章 随机事件与概率第一章 随机事件与概率1 随机事件随机事件2 概率概率3 概率的计算概率的计算4 概率的加法法则概率的加法法则5 条件概率与乘法规则条件概率与乘法规则6 全概率公式与贝叶斯公式全概率公式与贝叶斯公式7 独立试验概型独立试验概型第二章 随机变量及其分布第二章 随机变量及其分布1 随机变量的概念随机变量的概念2 随机变量的分布随机变量的分布3 二元随机变量二元随机变量4 随机变量函数的分布随机变量函数的分布第三章 随机变量的数字特征第三章 随机变量的数字特征1 数学期望数学期望2 数学期望的性质数学期望的性质3 条件期望条件期望4 方差、协方差
2、方差、协方差第四章 几种重要的分布第四章 几种重要的分布1 重要的离散型分布重要的离散型分布2 重要的连续型分布重要的连续型分布第五章 大数定律与中心极限定理第五章 大数定律与中心极限定理1 切贝谢夫不等式切贝谢夫不等式2 大数定律大数定律第六章 样本分布第六章 样本分布1 总体、个体与样本总体、个体与样本2 样本分布函数样本分布函数3 样本分布的数字特征样本分布的数字特征4 几个常用统计量的分布几个常用统计量的分布第七章 参数估计第七章 参数估计1 估计量的优劣标准估计量的优劣标准2 点估计点估计3 区间估计区间估计第八章 假设检验第八章 假设检验1 假设检验的原理假设检验的原理2 一个正态
3、总体的假设检验一个正态总体的假设检验3 两个正态总体的假设检验两个正态总体的假设检验第九章 回归分析第九章 回归分析1 一元线性回归方程一元线性回归方程2 相关性检验相关性检验3 可线性化的回归方程可线性化的回归方程全书目录全书目录全书目录全书目录目录目录1 估计量的优劣标准1 估计量的优劣标准2 点估计2 点估计3 区间估计3 区间估计实际工作中碰到的随机变量往往是知道大致的分布类型，但不知道确切的分布。需要根据样本来估计总体的参数。这类问题称为参数估计。通常有两种方法：点估计：以样本的某一函数值作为总体中未知参数的估计值。区间估计：依据样本把总体的参数确定在某一范围内。1 估计量的优劣标准
4、估计量的优劣标准设 为总体中要被估计的一个未知参数。12nX,X,.,X是 的估计值，它是样本的函数。2如样本平均值X与样本方差S 等。希望估计量能代表真实参数。三种常用的评价标准：(一)一致估计,n 一般但希望当时,与 越来越接近。即样本容量增大时,依概率收敛于n1n,0,limP1 定义如果当时,依概率收敛于 即任给则称 为参数 的一致估计。2iiEXDX12，证2：nii 11EXEXnnii 11EXn2nii 11DXDXnni2i 11DXn212n0,12X12n若总体 服从上的均匀分布,X,X,.,X 是一组样本。证明：是例的一致估计。利用切贝谢夫不等式，对任给 0P P 2X
5、 P X2222112n2 2213n 221P13n 即nlimP1 故即是 的一致估计(二)无偏估计如果有一系列抽样构成各个估计，希望这些估计的期望值与参数的真实值相等。即样本估计量在参数值的真实值周围摆动，没有系统误差。1n2(X,.,X),E,D2 22从总体 中取一组样本。试证样本平均值X与样本方差S 分别是 及的例无偏估计。E 定义2 如果成立,则称估计 为参数 的无偏估计。nii 11EXEXn证:nii 11EXn nii 11DXDXnni2i 11DXn2nn22ii 11ESEXXn1n2ii 11EXXn1nn22iii 1i 11EX2(X)(X)n Xn1 n22i
6、i 11EXn Xn1n22ii 11E XnE Xn1221nnn1n 2(三)有效估计无偏性只保证了 的概率平均等于，其取值可能与相差很大。要保证 的取值集中于 附近，就要求 的方差越小越好。1212123DD,定义设 与 都是 的无偏估计量，若则称 是比有效的估计量。在 的一切无偏估计量中方差最小的估计量 称为 的有效估计量。3ii 1333iiiii 1i 1i 11XX3Xa03a X,a比较总体期望 的两个无偏估计的有效性。例 解：EX33iiii 1i 1EXa EXa 2DX3 223333222iiiiii 1i 1i 1i 1DXa DXaaa 22ijijaa2a a利用
7、有232i123i 1aaaa222123121323aaa2a a2a a2a a 222222222123121323aaaaaaaaa2221233 aaa32ii 13a23322iii 1i 1DXaa 故33222iii 1i 1a3a 23DXXX故与有效2 点估计2 点估计(一)矩法利用样本的数字特征作为总体数字特征的估计。X用样本平均值 估计总体的期望。2S用样本方差估计总体的方差1147解：X灯泡的平均寿命约为1147小时1 某厂某天生产了一大批灯泡，从中抽取10个进行寿命试验，得数据如下(单位：小时)105011001080112012001250104011301300
8、1200问该天生产的灯泡平均寿命例大约是多少？例2 用矩法估计事件发生的概率p01P1 pp解：Ep 1nX,.,X若为一组样本，则nii 11pXXnmnnii 1mX其中表示重复试验中事件发生次数。即可用事件发生的频率来估计概率。3a,b设总体 服从上的均匀分布，用矩例法估计a与b1n设X,.,X 为解：一组样本abE2 由于21D(ba)12 abX2令221(ba)S12联立求解可得aX3SbX3S(1)x0 x1(x)04?设总体其它是例未知参数，求 的矩估计。10Ex(1)x dx 解：121X2令?2X 11 X解得矩估计的优点：直接、简便缺点：未充分利用分布信息(二)最大似然法
9、两人射击，一人打中，一人没打中，认为打中者技术较好。0.010.1某事件发生的概率为或，若一次试验中该事件发生了，认为其概率为0.1解：有放回地抽取3个球，若取到0个或1个白球，认为袋中黑球多。若取到2个或3个白球，认为袋中白球多。15133在一个袋中有许多黑球与白球，其数量比为：或：，通过抽样判断黑球多还是例白球多。用 表示取到的白球个数1 4若白球占，则 的分布为0123272791P646464643 4若白球占，则 的分布为0123192727P646464644可见，当 0或1时，认为白球占1233 4当 或 时，认为白球占即选择使观察结果概率较大的参数。1n(x,.,x)设为总体
10、的一组样本观察值。,要选取总体分布中未知参数 的估计值使得作为参数时，上述样本出现的可能性最大。若 是离散型随机变量这种方法称为最大似然法。iiP(x)p(x,)1nx,.,x则样本发生的概率为n1nii 1L(x,.,x,)p(x,)其中 是未知参数，可以是一个值，也可以是向量。若 是连续型随机变量，(x,)?则应将概率改为n1nii 1L(x,.,x,)(x,)称L为样本的似然函数若 是向量，则L是多元函数。实际上，是似然函数L的最大值点。11n定义如果L(x,.,x,)在 处达到最大值，则称 是 的最大似然估计。由于lnL与L同时达到最大值lnL求的最大值点往往更方便。lnL称为对数似然
11、函数。1m(,.,)若 为向量，解方程组1mlnL0.lnL01m(,.,),得到驻点它常常就是最大值点。例6 用最大似然法估计事件发生的概率p01P1 pp解：k1 kP(k)p(1 p)k0,1 1nx,.,x若为一组样本观察值nii 1L(p)P(x)iinx1 xi 1p(1 p)nniii 1i 1xnxp(1 p)取对数得nniii 1i 1lnL(p)xlnpnxln(1 p)求驻点：nniii 1i 111lnL(p)xnxp1 p0nii 11pxxn解得这是唯一的可能极值点，也是最大值点。即由最大似然法，可以由频率估计概率。k 11nP(k)p(1 p),k1,2,.,x,
12、.,x7 总体 服从几何分布设为样本观察值，用最大似然法估例计参数pniii 1nxnx1ni 1Lp(1 p)p(1 p)解：nii 1lnLnlnpxn ln(1 p)nii 1n1(lnL)xnp1 p0解得nii 1pnx1 xx1ex0(x,)()080?已知其它若有一组样本162950681001301402702803404104505206201902108001100用最大似然法估计例1nx,.,x用表示解：样本观察值ixni 11Lenii 11xn1enii 11lnLnlnx ni2i 1n1(lnL)x 0求解得到最大似然估计为nii 11xn x1x1629.800
13、 110018而318318故,9 21n2已知 服从正态分布N(),(x,.,x)为 的一组样本观察值，用最大似然法估计，例的值。2i2(x)n22i 11Le2 解：n2i2i 1n1n(x)22211e2 n22i2i 1n1lnLnln2ln(x)22 2分别对 与求偏导，得ni2i 1lnL1(x)0n2i224i 1lnLn1(x)22 0求解可得nii 11xn xn22ii 11(x)n n2ii 11(xx)n22注意：不是的无偏估计。x1n1(x)e,0(x,.,x)2(1)(2)10?设总体，为 的例一组样本观察值。用矩法估计参数的最大似然估计是否无偏估计。解：x1(1)
14、Exedx2 0不能用它估计参数22DE(E)2Ex21xedx222 222s 令s2故ixni 11(2)Le2nii 11xnn1 1e2nii 11lnLnln2nlnx ni2i 1n1(lnL)x 0求解得到最大似然估计为nii 11xn iE XE由于x1xedx2 nii 11EE Xn 故ni 11n 即 是 的无偏估计。3 区间估计3 区间估计点估计值未必等于真实值。即使相等也无法判定。根据估计量的分布，在一定的可靠程度下，指出被估计的总体参数所在的可能数值范围。这类问题称为参数的区间估计。121n1n(X,.,X)(X,.,X),找两个统计量与使得12P()1 12(,)
15、区间称为置信区间。12及分别称为置信区间的上下限。1称为置信系数，也称置信概率或置信度。是事先给定的一个小正数，它是指参数估计不准的概率。0.050.01一般设 或 12当样本不同时，与 也会不同，而 是真实值。1212P()(,)不是 落在区间的概率。12而是随机区间(,)包含 的概率。即平均100次抽样计算得到的100个区间中，约有(1-)100个区间包含 12(,)区间不包含 的可能性不超过即平均1次估计中至多会有一次犯错误。12(,)一般说来，的区间长度越小(越精确)，则可靠程度1-也越小。()一 方差已知时，总体期望值E 的区间估计1、总体分布未知(),D为一般总体 非正态已知n1n
16、ii 11(X,.,X)XXn设为一组样本，1EXEDXDn对X应用切贝谢夫不等式2DXP XE1 2DP XE1n 即XE 可改写为XEX 2DD11,nn 要使可取 于是DDP XEX1nn DDXXE1nn即，是的置信度为的置信区间。DXn是置信区间的上、下限D2n置信区间的长度为要提高精度，需要增大样本容量n或增大，即降低可靠程度1-n=10解：x1147D8 0.05 D84n10 0.05(11474,11474)故E 的置信区间为即 1143，11511若已知某天某车间生产的灯泡寿命的方差是8，抽取10只灯泡，其平均寿命为1147小时，求出灯泡平均寿命的置信区间(例=0.05)2
17、、正态总体21n(X,.,X)N(,)设是取自总体的样本XUN(0,1)n?u,查表确定使P Uu1 02(u)11 即0(u)12 如 0.05时，u=1.960.012.58 时，uXUun而可改写为XuXunn P XuXu1nn 即1故 的置信度为的置信区间为Xu,Xunn2un区间长度为要提高精度，需要增大样本容量nu,12或减少即降低1-也就是降低N(,8),102若已知某天某车间生产的灯泡寿命服从正态分布抽取只灯泡,平均寿命为1147小时，求出灯泡平均寿命的置信区间(例=0.05)0.05,u1.96解：n=108 x11478811471.9611471.961010置信区间为
18、，即 1145.25，1148.75此区间比例1中的区间短，更精确这是因为它利用了分布的信息。2130.082已知某炼铁厂的铁水含碳量再正常生产情况下服从正态分布，其方差。现在测定了9炉铁水，其平均含碳量为4.484。按此资料计算该厂铁水平均含碳量的置信区间，并要求有95例的可靠性。设该厂铁水平解均含碳量为：0.05=u1.960.108 n9x4.484置信度为95的置信区间为0.1080.1084.4841.96,4.4841.9699即(4.413,4.555)3、一般总体大样本当样本容量很大时,由中心极限定理,X近似服从正态分布，可利用正态总体的区间估计。解：n=100 x119001
19、500 0.05 u1.9615001500119001.96119001.96100100置信区间为，即(11606,12194)例4 对某地家庭收入进行抽样检查，随机抽取100个家庭，其样本平均值为11900元，据现有资料，总体家庭收入的标准差是1500元。求置信度为95的家庭收入均值的置信区间。()二 方差未知时,总体期望值E 的区间估计1、正态总体，小样本由于 未知，要用样本来估计21n(X,.,X)N(,)设样本取自正态总体XTt(n1)Sn?t,查表确定使得P Tt xPt1Sn 即SSP XtXt1nn 即置信度为1-的置信区间为SSXt,Xtnn2Stn区间长度为要提高精确度，
20、需要增大样本容量nt,1或减少即增加降低可靠度t确定 要查t分布的双侧临界值表,样表如下：P t(n)t,n 为自由度0.90.70.50.30.10.050.0110.1580.5101.0001.9636.31412.70663.65720.1420.4450.8161.3862.9204.3039.92530.1370.4240.7651.2502.3533.1825.84140.1340.4140.741 1.1902.1322.7764.60450.1320.4080.7271.1562.0152.5714.03260.1310.4040.7181.1341.9432.4473.70
21、770.1300.4020.711 1.1191.8952.3653.49980.1300.3990.7061.1081.8602.3063.35590.1290.3980.7031.1001.8332.2623.250100.1290.3970.7001.0931.8122.2283.169400.1260.3880.681 1.0501.6842.0212.7040.1260.3850.6741.0361.6451.9602.576n例5 假定出生婴儿体重服从正态分布，随机抽取5名婴儿，测其体重为3100，2520，3000，3160，3560，试以95的置信系数估计婴儿平均体重的区间。x
22、3068解：s137020370.16n=5n-1=40.052.776 查表可得t故婴儿平均体重的置信区间为：370.16370.1630682.776,30682.776552608.46 3527.54即，2、一般总体、大样本X2可用S 代替方差，近似服从正态分布按方差已知的正态总体区间估计计算，置信区间为SSXu,Xunn解：n=100 x11900s20000.05 u1.9620002000119001.96119001.96100100置信区间为，即(11508,12292)例6 对某地家庭收入进行抽样调查，随机抽取100个家庭，其样本平均值为11900元，样本标准差为2000元
23、，求置信度为95的家庭收入均值的置信区间。2()三 小样本下正态总体方差的区间估计21n(X,.,X)N(,)设来自正态总体2222(n1)S(n1)?查表确定a与b使得222(n1)SP abP ab1 222(n1)S(n1)SP1ba 即2即置信度为1-的的置信区间为22(n1)S(n1)S,ba22P(n),n 自由度330.990.9750.950.050.0250.0110.0 6280.0 9820.003933.845.026.6320.02010.05060.1035.997.389.2130.1150.2160.3527.819.3511.340.2970.4840.711
24、9.4911.112.350.5540.8311.14511.112.815.160.8721.241.6412.614.416.871.241.692.1714.116.018.581.652.182.7315.517.520.192.092.73.3316.919.021.7102.563.253.9418.320.523.2208.269.5910.942.634.237.63015.016.818.543.847.050.9n1 2查表使P ab2P(b)2 即查2P(a)12 ba551370720,2在例 中随机抽取 名新生婴儿,其体重的样本方差为s求新生婴儿体重的方差的区间估计(
25、=0例.05)解：n=52s1370200.05 0.975 2由P(a)=1-20.025 2P(b)=2查自由度为4的表得 a0.297，b11.12故方差的区间估计为4 137020 4 13702011.10.484，即(49376.6,1132396.7)标准差的区间估计为(222.2,1064.1)8 2测量铅的比重，没测量值服从正态分布N(,),则9次得到样本平均值为2.705，样本标准差为0.029,求铅的比重的置信区间,测量方差的置信区间。(=0例.01)解：n=9x2.705s0.029(1)方差未知，的区间估计应为ssxt,xtnnn-1=80.01 t3.3550.0290.0292.7053.355 2.7053.35599故 的置信区间为，即(2.6726,2.7374)(2)n-1=8,=0.012P(a)0.995 由2P(b)0.005 得 a=1.34,b=22.02228 0.0298 0.029221.34故的置信区间为，即(0.0003058,0.005021)标准差的区间为(0.0175,0.071)第七章 结束