《概率统计课件ch5大数定律、中心极限定理.ppt》由会员分享,可在线阅读,更多相关《概率统计课件ch5大数定律、中心极限定理.ppt(42页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、5.1 大数定律大数定律5.2 中心极限定理中心极限定理第五章第五章 大数定律与中心极限定理大数定律与中心极限定理 5.1 大数定律大数定律 事件发生的频率具有稳定性,即随着试事件发生的频率具有稳定性,即随着试 验次数的增加,事件发生的频率逐渐稳验次数的增加,事件发生的频率逐渐稳 定于某个常数。定于某个常数。一、大数定律引入的客观背景一、大数定律引入的客观背景字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率大量测量值的算术平均值也具有稳定性大量测量值的算术平均值也具有稳定性二、频率的稳定性的实质二、频率的稳定性的实质或或有有频率依概率收敛于概率频率依概率收敛于概率 设设 是是n重贝
2、努里试验中事件重贝努里试验中事件A发生的次数,发生的次数,p是每次试验中事件是每次试验中事件A发生的概率,则对任发生的概率,则对任 给的给的 0,定理定理1(贝努里大数定律)(贝努里大数定律)或或贝努里贝努里三、三、贝努里贝努里大数定律大数定律证明贝努里大数定律主要的数学工具是切比证明贝努里大数定律主要的数学工具是切比雪夫不等式雪夫不等式.设随机变量设随机变量X有期望有期望E(X)和方差和方差 ,则对于任给则对于任给 0,贝努里大数定律表明:当重复试验次数贝努里大数定律表明:当重复试验次数n充分大时,事件充分大时,事件A发生的频率发生的频率n n/n与与事件事件A的概率的概率p有较大偏差的概率
3、很小有较大偏差的概率很小.贝努里大数定律提供了通过试验来确定贝努里大数定律提供了通过试验来确定 事事 件概率的方法件概率的方法.蒲丰投针问题中解法的蒲丰投针问题中解法的理论依据就是大数定律理论依据就是大数定律 当投针次数当投针次数n很大时,用针与线相交的频率很大时,用针与线相交的频率m/n近近似针与线相交的概率似针与线相交的概率p,从而求得,从而求得的近似值的近似值.针长针长L线距线距a思考思考:用蒙特卡洛方法如何计算定积分?(随机投点法)用蒙特卡洛方法如何计算定积分?(随机投点法)设设0 f(x)1,求定积分求定积分如何计算如何计算a,b上的定积分呢?上的定积分呢?四、四、常用的几个常用的几
4、个大数定律大数定律1.大数定律的一般形式大数定律的一般形式定义定义 设有一随机变量序列设有一随机变量序列Xn,如果如果对任对任 给的给的 0,则称随机变量序列则称随机变量序列Xn服从大数定律服从大数定律定理定理2(切比雪夫大数定律)(切比雪夫大数定律)设设 X1,X2,是一列两两不相关的随机变量是一列两两不相关的随机变量序列,它们都有有限的方差,并且方差有序列,它们都有有限的方差,并且方差有共同的上界,即共同的上界,即 Var(Xi)c,i=1,2,,则,则对任意的对任意的0,切比雪夫切比雪夫2.切比雪夫大数定律切比雪夫大数定律(1)切比雪夫大数定律表明,两两不相关的随)切比雪夫大数定律表明,
5、两两不相关的随机变量序列机变量序列Xn,如果方差存在且有共同的上界,如果方差存在且有共同的上界,则则与其数学期望与其数学期望 偏差很小的偏差很小的概率接近于概率接近于1.不再是随机的了,取值接近于其数学期望的概率不再是随机的了,取值接近于其数学期望的概率接近于接近于1.即当即当n充分大时,充分大时,差不多差不多切比雪夫大数定律给出了切比雪夫大数定律给出了平均值稳定性的科学描述平均值稳定性的科学描述注:注:(2)切比雪夫大数定律只要求)切比雪夫大数定律只要求Xn互互不相关,并不要求同分布不相关,并不要求同分布.当当Xn独立独立同分布,且方差有限时,同分布,且方差有限时,Xn必定服从必定服从大数定
6、律大数定律.即得以下即得以下定理定理3.定理定理3(切比雪夫大数定律的特殊情况)(切比雪夫大数定律的特殊情况)设设X X1 1,X X2 2,是独立且具有相同的期望和方差的随是独立且具有相同的期望和方差的随机变量序列,即机变量序列,即E E(X Xi i)=)=,D D(X Xi i)=)=,i i=1,2,=1,2,则对任给则对任给 0,0,注:注:贝努里大数定律是定理贝努里大数定律是定理3的特特情况的特特情况.事实上事实上,设设n n是是n n重贝努里试验中事件重贝努里试验中事件A A发发 生次数生次数,P P是事件是事件A A发生的概率,发生的概率,引入引入i=1,2,n是事件是事件A发
7、生的频率,发生的频率,3.马尔可夫大数定律马尔可夫大数定律对随机变量序列对随机变量序列Xn,若若定理定理4则随机变量序列则随机变量序列Xn服从大数定律,即服从大数定律,即对对任意的任意的0,有,有马尔可夫条件马尔可夫条件注注:(1)马尔可夫大数定律的条件较弱马尔可夫大数定律的条件较弱.它没有独立性、它没有独立性、不相关、同分布的假定,容易满足。不相关、同分布的假定,容易满足。(2)切比雪夫大数定律可由切比雪夫大数定律可由马尔可夫大数定律推出马尔可夫大数定律推出.4.辛钦大数定律辛钦大数定律设随机变量序列设随机变量序列X X1 1,X X2 2,独立同分布,独立同分布,具有有限的数学期具有有限的
8、数学期E E(X Xi i)=)=,i=1,2,i=1,2,,则对任给则对任给 0 0,定理定理5(辛钦大数定律)(辛钦大数定律)辛钦辛钦辛钦大数定律不要求随机变量的方差存在辛钦大数定律不要求随机变量的方差存在.注注:辛钦大数定律为寻找随机变量的期望值辛钦大数定律为寻找随机变量的期望值 提供了一条实际可行的途径提供了一条实际可行的途径.例如要估计某地区的平均亩产量,要例如要估计某地区的平均亩产量,要收割某些有代表性的地块,例如收割某些有代表性的地块,例如n 块块.计计算其平均亩产量,则当算其平均亩产量,则当n 较大时,可用它较大时,可用它作为整个地区平均亩产量的一个估计作为整个地区平均亩产量的
9、一个估计.用蒙特卡洛方法计算定积分(平均值法)用蒙特卡洛方法计算定积分(平均值法)求求的值的值例例因此,当因此,当n充分大时,充分大时,计算原理:计算原理:设设XU(0,1)由大数定律由大数定律均值法均值法步骤:步骤:1)产生在产生在(0,1)上均匀分布的随机数上均匀分布的随机数xi,2)计算计算f(xi),n=1,2,Nn=1,2,N即即3)用平均值近似积分值用平均值近似积分值应如何近似计算?请思考应如何近似计算?请思考.问:若用上述方法求问:若用上述方法求 大数定律以严格的数学形式表达了随大数定律以严格的数学形式表达了随机现象最根本的性质之一:机现象最根本的性质之一:它是随机现象统计规律的
10、具体表现它是随机现象统计规律的具体表现.大数定律在理论和实际中都有广泛的应用大数定律在理论和实际中都有广泛的应用.平均结果的稳定性平均结果的稳定性(一)一)依概率收敛的定义依概率收敛的定义定义定义 设随机变量序列设随机变量序列Y Y1 1,Y Y2 2,Y Y3 3,a a是一常数,若是一常数,若对于任意正数对于任意正数,有:,有:五、随机变量序列的依概率收敛五、随机变量序列的依概率收敛 则称随机变量序列则称随机变量序列YYn n 依概率收敛于依概率收敛于a a 记为记为(二)(二)依概率收敛的性质依概率收敛的性质见教材见教材P145-146P145-146补充性质:补充性质:设随机变量序列设
11、随机变量序列 ,f(x)f(x)为为直线上的连续函数,直线上的连续函数,则则 5.2 中心极限定理中心极限定理(一)中心极限定理引入的客观背景(一)中心极限定理引入的客观背景 在实际问题中,常常需要考虑许多随机因在实际问题中,常常需要考虑许多随机因素所产生总影响素所产生总影响.例如:炮弹射击的落点与目标的偏差,就受着许多例如:炮弹射击的落点与目标的偏差,就受着许多随机因素的影响随机因素的影响.如瞄准时的误差、空气阻力所产生的误差、如瞄准时的误差、空气阻力所产生的误差、炮弹或炮身结构所引起的误差等等炮弹或炮身结构所引起的误差等等.这些随机因素的总影响可表示成独立随机这些随机因素的总影响可表示成独
12、立随机变量之和变量之和当当n无限增大时,这个和的极限分布是什么?无限增大时,这个和的极限分布是什么?观察表明,如果一个量是由大量相互独立的随机因观察表明,如果一个量是由大量相互独立的随机因素的影响所造成,而每一个别因素在总影响中所起素的影响所造成,而每一个别因素在总影响中所起的作用不大的作用不大.则这种量则这种量(随机变量的和)一般都服随机变量的和)一般都服从或近似服从正态分布从或近似服从正态分布.例例:20个个0-1分布的和的分布分布的和的分布X1 f(x)X1+X2g(x)X1+X2+X3 h(x)几个几个(0,1)上均匀分布的和的分布上均匀分布的和的分布0123xfgh总之,在客观实际中
13、有许多随机变量,它们总之,在客观实际中有许多随机变量,它们是由大量相互独立的随机因素的综合影响所形是由大量相互独立的随机因素的综合影响所形成的,而其中每一个因素在总的影响中所起的成的,而其中每一个因素在总的影响中所起的作用都是微小的,这种随机变量往往近似地服作用都是微小的,这种随机变量往往近似地服从正态分布。这种随机变量可以表示成相互独从正态分布。这种随机变量可以表示成相互独立的随机变量的和,中心极限定理将研究这种立的随机变量的和,中心极限定理将研究这种和当和当 时的统计规律。时的统计规律。为方便起见,研究为方便起见,研究n个随机变量之和的标准化的随个随机变量之和的标准化的随机变量机变量的分布
14、函数的极限的分布函数的极限.的分布函数的极限的分布函数的极限.可以证明,满足一定的条件,上述极限分可以证明,满足一定的条件,上述极限分布是标准正态分布布是标准正态分布.考虑考虑中心极限定理中心极限定理这就是下面要介这就是下面要介绍的绍的(二二)独立同分布的中心极限定理(林德贝尔格独立同分布的中心极限定理(林德贝尔格勒维勒维(lindeberglevylindeberglevy)极限定理)极限定理)教材教材p147定理四定理四 若若X1,X2,是一列独立同分布是一列独立同分布的随机变量,且的随机变量,且EXi=,Var(Xi)=2(20),i=1,2,则对任给的实数则对任给的实数y,有有例例 根
15、根据据以以往往经经验验,某某种种电电器器元元件件的的寿寿命命服服从从均均值值为为100小小时时的的指指数数分分布布.现现随随机机地地取取16只只,设设它它们们的的寿寿命命是是相相互互独独立立的的.求求这这16只只元元件件的的寿寿命命的的总总和和大大于于1920小小时时的的概率概率.由题给条件知,诸由题给条件知,诸Xi独立,独立,16只元件的寿命的总和为只元件的寿命的总和为解解:设第设第i只元件的寿命为只元件的寿命为Xi,i=1,2,16E(Xi)=100,Var(Xi)=10000依题意,所求为依题意,所求为P(Y1920)由于由于E(Y)=1600,Var(Y)=160000由中心极限定理由
16、中心极限定理,近似服从近似服从N(0,1)P(Y1920)=1-P(Y 1920)=1-(0.8)1-=1-0.7881=0.2119(三)德莫佛德莫佛拉普拉斯(拉普拉斯(de Moirre-Laplace)极限)极限定理定理教材教材P150定理六定理六 设设n是是n重贝努里试验中事件重贝努里试验中事件A出现的次数,又出现的次数,又A在每次试验中出现的概率为在每次试验中出现的概率为p(0p1),则对于任给的实数,则对于任给的实数y例例 某厂有某厂有400台同类机器,各台机器发生故障的概台同类机器,各台机器发生故障的概率都是率都是0.02,各台机器工作相互独立,各台机器工作相互独立,试分别用二,试分别用二项分布、泊松分布,中心极限定理计算机器出故障项分布、泊松分布,中心极限定理计算机器出故障的台数不少于的台数不少于2的概率。的概率。(四)大数定律与中心极限定理的联系(四)大数定律与中心极限定理的联系大数定律研究随机变量序列依概率收敛,大数定律研究随机变量序列依概率收敛,中心极限定理研究随机变量序列依分布收敛。中心极限定理研究随机变量序列依分布收敛。但它们都是研究大量的独立随机变量之和的行但它们都是研究大量的独立随机变量之和的行为。当独立同分布,且有大于零的有限方差为。当独立同分布,且有大于零的有限方差时,大数定律和中心极限定理同时成立。时,大数定律和中心极限定理同时成立。