《高等数学《概率论与数理统计》概率论中几种具有可加性的分布及其关系.pdf》由会员分享,可在线阅读,更多相关《高等数学《概率论与数理统计》概率论中几种具有可加性的分布及其关系.pdf(13页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第 0 页 共 13 页目录目录摘要1关键词1AbstractAbstract1Key wordsKey words1引言11 几种常见的具有可加性的分布11.1 二项分布21.2 泊松分布(Possion分布)31.3 正态分布 41.4 伽玛分布 61.5 柯西分布 71.6 卡方分布 72 具有可加性的概率分布间的关系 82.1 二项分布的泊松近似 82.2 二项分布的正态近似 92.3 正态分布与泊松分布间的关系102.4 正态分布与柯西分布、卡方分布及卡方分布与伽玛分布的关系113 小结 12参考文献 12致谢 13概率论中几种具有可加性的分布及其关系1概率论中几种具有可加性的分布及
2、其关系第 1 页 共 13 页概率论中几种具有可加性的分布及其关系摘要摘要 概率论与数理统计中概率分布的可加性是一个十分重要的内容.所谓分布的可加性指的是同一类分布的独立随机变量和的分布仍属于此类分布.结合其特点,这里给出了概率论中几种具有可加性的分布:二项分布,泊松分布,正态分布,柯西分布,卡方分布以及伽玛分布.文章讨论了各类分布的性质及其可加性的证明,这里给出了证明分布可加性的两种方法,即利用卷积公式和随机变量的特征函数.除此之外,文章就可加性分布之间的各种关系,如二项分布的泊松近似,棣莫佛-拉普拉斯中心极限定理等,进行了不同层次的讨论.关键词关键词 概率分布 可加性 相互独立特征函数Se
3、veral Kinds of Probability Dstribution and its RelationshipwithAdditiveAbstractProbability and mathematical statistics in the probability distribution of additivity is avery important content.The distribution of the so-called additivity refers to the distribution of thesame kind of independent rando
4、m variables and distribution are still belong to this kind ofdistribution.Combined with its characteristics,here given several has additivity distribution inprobability theory:the binomial distribution,poisson distribution and normal distribution andcauchy distribution,chi-square distribution and ga
5、mma distribution.Article discusses the nature ofall kinds of distribution and its proof of additivity,additive of proof distribution are also given twomethods,namely using convolution formula and characteristic function of a random variable.Inaddition,this paper the relationships between the additiv
6、e property distribution,such as thebinomial distribution of poisson approximation,Di mo-Laplaces central limit theorem,and so on,has carried on the different levels of discussion.Key Wordsprobability distributionadditivity propertymutual independencecharacteristic function引言引言 概率论与数理统计是研究大量随机现象的统计规律
7、性的学科,在概率论与数理统计中,有时候我们需要求一些随机变量的和的分布,在这些情形中,有一种求和类型比较特殊,即有限个相互独立且同分布的随机变量的和的分布类型不变,这一求和过程称为概率分布的“可加性”.概率分布中随机变量的可加性是一个相当重要的概念,本文给出了概率论中常见的六种具有可加性的分布,包括二项分布,泊松分布,正态分布,伽玛分布,柯西分布和卡方分布.文章最后讨论了几项分布之间的关系,如二项分布的泊松近似,正态近似等等.1 几种常见的具有可加性的分布在讨论概率分布的可加性之前,我们先来看一下卷积公式和随机变量的特征函数,首先来看卷积公式1:离散场合的卷积公式设离散型随机变量,彼此独立,且
8、它们的分布列分别2第 2 页 共 13 页是nkakPk,1,0,)(和.,1,0,)(nkbkPk 则的概率分布列可表示为.2,1,0,)()()(00 kbaikPiPkPikkiiki连续场合的卷积公式设连续型随机变量,彼此独立,且它们的密度函数分别是)(),(yfxf,则它们的和的密度函数如下.)()()(dxxzfxfffzf)2(其证明如下:的分布函数是dxdyyfxfzfzFzyx)()()()(dxxfdyyfxz)()(.)()(dxxfxzF其中)(xF为的分布函数,对上式两端进行求导,则可得到的密度函数:.)()()(dxxzfxfffzf即证.在概率分布可加性的证明中,
9、除了卷积公式,我们常用的证明方法还有利用随机变量的特征函数.下面我们来讨论一下这几种具有可加性的分布及其可加性证明的过程中卷积公式和特征函数的应用.1.1二项分布1.1.1 二项分布),(pnB的概念如果记为 n 次伯努利试验中成功(记为事件 A)的次数,则的可能取值为 0,1,2,n.记 p 为事件 A 发生的概率,则,)(pAp(p A),1p记为.q即.1pq因 n 次伯努利试验的基本结果可以记作=(w1,w2,n),wi或为A或为A,这样的 w 共有 2n个,这2n个样本点 w 组成了样本空间.下求的分布列,即求事件k的概率.若某个样本点=(w1,w2,n)k,意 味 着 w1,w2,
10、n中 有k个A,kn个A,由 独 立 性 即 可得:P().)1(knkpp而事件=k中这样的 w 共有nk个,所以的分布列为)(kP=nkpk(1-p)kn,.,1,0nk 3概率论中几种具有可加性的分布及其关系第 3 页 共 13 页此分布即称为二项分布,记作),(pnB.且我们易验证其和恒为.1.也就是knknknkpp)1(0=npp)1(1.n=1 时,二项分布),(pnB称为两点分布,有时也称之为10分布.二项分布的图像具有以下特点:二项分布的图像形状取决于n和p的大小,随着p的增加,分布图高峰逐渐右移.当5.0p时,图像是对称的.1.1.2 二项分布的可加性定 理定 理 1.1.
11、11.1.1 设),(),(pmBpnB而 且,相 互 独 立,记,则 有).,(pmnB证明证明 因,所以易知可以取mn 2,1,0等1mn个值.根据卷积公式)1(,事件k的概率可以表示为)()()(0ikPiPkPkiikmikmikinikinipppp)1()1(0.)1(0mikkinikmnkpp又因.0mnkmikkini所以.,1,0,)1()(mnkppkPkmnkmnk 也就是说,).,(pmnB即证!1.2泊松分布(Possion分布)与二项分布一样,泊松分布也是一种离散分布,许多随机现象,特别是社会现象与物理学中的一些随机现象都服从于泊松分布.泊松分布可作为描述大量试验
12、中稀有事件出现次数的概率分布的数学模型.1.2.1 泊松分布的概率分布列泊松分布的概率分布如下所示:2,1,0,!)(kekkPk,其中大于0,记作)(P.对于泊松分布而言,它的参数即是期望又是它的方差:eekeekkEkkkk110)!1(!)(.又因,ekkekkEkkkk1022)!1(!)(=ekkkk)!1(1)1(14第 4 页 共 13 页=11222)!1()!2(kkkkkeke=2故的方差为22)()()(EEVar=221.2.2 泊松分布的可加性定 理定 理 1.2.11.2.1设 随 机 变 量)(),(2211PP,且21,相 互 独 立,则).(2121P证明证明
13、此处 ,2,1,0,!)(,!)(212211kekkPekkPkk根据卷积公式)1(,有21)!(!)(20121eikeikPikkiiikikiikikke210)()!(!21.,1,0,!)()(2121 kekk所以).()(2121P即证!同样我们可以利用特征函数对其进行证明,此处不再赘述.1.3正态分布1.3.1 正态分布的定义6定义定义 1.31.3 对于已经给定的两个常数和0,定义函数222/)(,21)(xexp),(x)1(它含有两个参数和.显然的,)(,xp取正值.我们称密度函数为)(,xp的分布为正态分布,记作),(2N,它的分布函数记为dtexFxt222)(,2
14、1)(),(x正态分布的密度函数的图像是一条钟形曲线,中间高两边低,而且关于x对称,在此处)(,xp取最大值.21我们称为该正态分布的中心,在x附近取值的可能性比较大,在x处有拐点.若将固定,改变的取值,则越大,曲线峰顶越低,图像较为平坦;越小,曲线封顶越高,图像较为陡峭.因此正态密度函数的尺度由确定,故称为尺度参数.同样的,将固定,而去改变的值,会发现图像沿x轴平移而并不改变形状,也就说明该函数的位置由决定,故称其为位置参数.当1,0时的正态分布称为标准正态分布,记作)1,0(N.它的密度函数记为)(u,分布函数记为)(u.则有),(,21)(2/2ueuu5概率论中几种具有可加性的分布及其
15、关系第 5 页 共 13 页),(,21)(2/2udteuut1.3.2 一般正态分布的标准化对于正态分布族,0),(;),(2N标准正态分布)1,0(N只是其中一个成员.其实在应用中很少有随机变量恰好服从标准正态分布,可是一般正态分布均可以利用线性变换转变成标准正态分布.所以一切与正态变量有关的事件的概率均可通过标准正态分布分布求取.定理定理 1.3.11.3.1 如果随机变量),(NY,则)1,0(/)(NYX,其中X为标准正态变量.证明证明记Y与X的分布函数分别为)(yFY和)(xFX,易知).()()()(xFxYPxYPxXPxFYX因为正态分布函数严格递增而且处处可导,所以如果记
16、Y和X的密度函数分别是)(ypY和)(xpX,会有,21)()()(2/2expxFdxdxpYYX由此即得,).1,0(NYX即证.对于标准正态随机变量),1,0(NXX的数学期望为,21)(2/2dxxeXEx因被积函数2/2)(xxexh为奇函数,故上述积分值为 0,也就是说.0)(XE而对于一般正态变量),(2NY,如果满足XY,由数学期望的线性性质则可得到.0)(YE所以我们可以知道正态分布),(2N的数学期望即为其参数.因为dxexXEXEXVarx2/222221)()()()(212/2xexddxexexx2/2/22|21.1221212/2dxex且XY,由方差的性质.)
17、()(2xVarYVar也就是说,正态分布的方差即是其另一个参数.21.3.3 正态分布的可加性定理定理 1.3.21.3.2 设随机变量而且X和Y彼此独立,且),(),(222211NYNX则有6第 6 页 共 13 页).,(222121NYX证明证明知YX,服从于正态分布,且它们的密度函数分别是).2exp(),2exp(22222211ttittiYX又因YX,彼此独立,所以)()()(tttYXYX.)()(exp2222121tti这正是数学期望为,21方差为2221的正态分布的特征函数,即证!我们同样可以使用连续场合的卷积公式进行证明,详见文献5,此处不再赘述.1.4伽玛分布在讨
18、论伽玛分布之前,我们先来看一下伽玛函数:我们称dxexx01)()0(为伽玛函数,为其参数.它的性质如下:;)21(,1)1().()1(取自然数n的时候,有!.)()1(nnnn1.4.1 伽玛分布的定义定义定义 1.41.4 如果随机变量X的密度函数为,0,0;0,)()(1xxexxpx就称作X服从伽玛分布,记为),(GaX且,的值均大于 0.为伽玛分布的形状参数,为其尺度参数.当10时,)(xp为严格单调递减的函数,在0 x处取得奇异点;当1时,)(xp亦严格单调减,且0 x时有;)0(p当21时,)(xp为单峰函数,先上凸然后下凸;当2时,先下凸再上凸,最后下凸.而且随着的增大,)(
19、xp逐渐接近于正态分布的密度函数.1.4.2 伽玛分布的可加性定理定理 1.4.11.4.1 设随机变量),(),(21GaYGaX且X和Y彼此独立,则).,(21GaYX证明证明知,)1()(,)1()(21ittittYX且X与Y彼此独立,所以,)1()()()()(21ittttYXYX此即为)(21Ga的特征函数,根据惟一性定理则可知).,(21GaYX结论得证!7概率论中几种具有可加性的分布及其关系第 7 页 共 13 页如正态分布,对于伽玛分布,我们同样可以利用连续场合的卷积公式对其可加性进行证明,详见文献5;1.5柯西分布41.5.1 柯西分布的密度函数柯西分布是几个常见的连续分
20、布之一.它的密度函数为).,(,)(1),(22xxxp0,1时的柯西分布密度函数称为标准柯西分布密度函数,即).,(,111)(2xxxp为方便起见,往后我们分别记这两类密度函数为),(p和).1,0(p对于柯西分布的数学期望和方差,因.)(1),(22dxxxdxxpx所以dxxpx),(不收敛,故柯西分布的数学期望与方差均不存在.1.5.2 柯西分布的可加性定 理定 理 1.5.11.5.1 设 随 机 变 量),(),(2211pYpX且YX,彼 此 独 立,则 有).,(2121pYX证明证明因YX,均服从于柯西分布,且YX,的特征函数分别是,)(11ttiXet.)(22ttiYe
21、t又因YX,彼此独立,所以)()()(tttYXYX.)()(2121ttie这 恰 好 就 是 参 数 为2121,的 柯 西 分 布 的 特 征 函 数,所 以).,(2121pYX即证!1.6卡方分布(2分布)1.6.1 卡方分布(2分布)的定义及密度函数定 义定 义 1.61.677设nXXX ,21独 立 同 分 布 与 标 准 正 态 分 布 分 布),1,0(N则 称222212nXXX 所服从的分布为自由度为n的卡方分布,记为).(22n卡方分布的密度函数为.0,0;0,)2(21)(1222xxxenxpnxn1.6.2 卡方分布可加性卡方分布密度函数的图像是一个只取非负值的
22、偏态图像.它的图像随着自由度的增加而逐渐趋于对称,当自由度n时,其图像趋于正态分布的图像.这也从另一个侧面告诉我们,卡方分布是由其自由度决定的,不同的自由度对应了不同的卡方分布.由 1.6.1,我们可以知道卡方分布即伽玛分布的一个特例,所以由伽玛分布的可加性我们易知卡方分布亦满足可加性定理,即8第 8 页 共 13 页定理定理 1.6.11.6.155设),(),(22221nm且2221,彼此独立,则有).(22221nm证明证明由卡方分布的定义,设,22221222222121nmmmmXXXXXX 且,2,1),1,0(nmiNXi jiXX,彼此独立.则有,,2222122221222
23、1nmmmmXXXXXX 从从卡方分布的定义,因此).(22221nm即证!2 具有可加性的概率分布间的关系2.1 二项分布的泊松近似4当n的取值很大时,二项分布),(pnB的计算是令人头疼的.这里介绍了泊松分布的一个十分有用的特性,我们可利用泊松分布作为二项分布的一种特殊近似,即二项分布的泊松近似.下面我们来看泊松定理,当n取值较大,而p取值偏小的情况下使用泊松定理,可大大减小二项分布的计算量.定理定理 2.12.188(Possion定理定理)在n重伯努利试验中,记事件A在每次试验中发生的概率为,np它与试验发生的次数n有关,若当0n时,有,nnp即,limnnnp则对任意给定的k(k为非
24、负整数),有.!)1(limekppkknnknnkn证明证明设,nnnp则有,npnn所以knnknknknnknnkknnnnpp )1()(!)1()2)(1()1(.)1(!)11()21)(11(knnknnknknn .)1()1(!)11()21)(11(knnnknnnknknn 由已知有,,limnn则对于给定的k值,有;limkknn且nlim1)11()21)(11(nknn;;)1(lim)1(lim)(ennnnnnnnnn.1)1(limknnn所以有.!)1(limekppkknnknnkn即证!因Possion定理的条件之一为,limnnnp所以在二项分布的计算
25、中,若n值很大,p9概率论中几种具有可加性的分布及其关系第 9 页 共 13 页的值却很小,且np的大小适中时(一般认为当,1.0,100pn且10 np时),二项分布),(pnB可以使用参数为的泊松分布来做近似,即有,2,1,0,!)1(kekppnpkknnknnk此即为二项分布),(pnB的泊松近似,而且n的值应尽可能的大,这样计算结果才能更精确.二项分布),(pnB的泊松近似经常被用于稀有事件(即每次试验中事件发生的概率很小)的研究中,大量实例表明,一般情况下概率1.0p时,泊松近似非常好用,甚至n的取值不必很大.2.2 二项分布的正态近似定理定理 2.22.277(棣莫佛(棣莫佛-拉
26、普拉斯(拉普拉斯(DeLaplaceMoivre)极限定理)极限定理)设随机变量),(pnBX(,2,1,0,10np),则对任意的实数x,有).(211lim2/2xdtexpnpnpXPxtn证明证明因随机变量X服从二项分布),(pnB,所以X可看做是n个相互独立的且服从于同一参数p的两点分布的随机变量nXXX,21 的和,即,1niiXX而且 ,2,1),1()(,)(ippXVarpXEii根据LevyLindeberg 中心极限定理,有).(21)1(lim2/12xdtexpnpnpXPxtniin定理得证!DeLaplaceMoivre中心极限定理说明,n相当大时,服从二项分布)
27、,(pnB的随机变量X的概率的计算服从正态分布)1(,(pnpnpN的随机变量的计算.也就是说,二项分布可以用正态分布来近似计算.比如knknkppkXP)1()(,在n比较大的时候的计算量时十分大的.根据DeLaplaceMoivre中心极限定理,因)1(npnpnpX近似服从于标准正态分布,或者说是X近似服从于)1(,(pnpnpN分布,也就是说knknkppkXP)1()(.)1()1(1)1(21)1(2)(2pnpnpkpnpepnppnpnpx对于,)1()(knkbkankppbXaP有)1()1()1()(2121pnpnpapnpnpXpnpnpaPaXaP)1()1(12p
28、npnpapnpnpa)(10第 10 页 共 13 页我们只需查一下标准正态分布表,就可以求出我们需要的相当精确的值.但是,当p较大或者较小时近似效果可能差一些,利用公式时p的值最好满足9.01.0 p.另外,因二项分布是离散分布,正态分布是连续分布,所以在我们实际的应用中,为减小误差,常常使用)(21aXaP)1(5.0()1(5.0(12pnpnpapnpnpa来替换)(式.2.3 正态分布与泊松分布之间的关系9由上面的定理 2.1 和定理 2.2 我们可以知道,二项分布),(pnB可以用泊松分布来做近似,同样也可以用正态分布来近似.所以,从某个方面来说,泊松分布与正态分布也具有某种近似
29、的关系,首先我们来看特征函数的连续性定理.定理定理 2.3.12.3.11111分布函数列)(xFn弱收敛于分布函数)(xF的充分必要条件是它的相应的特征函数列)(tn收敛于)(xF的特征函数).(t定理定理 2.3.22.3.21111设随机变量),(PX则有.21lim22dtexXPxt证明证明知X服从泊松分布,则X的特征函数为.)()1(iteet所以X的特征函数是.)(1tietiet对于任何一个,t我们有.,1!212titeti所以有.,212122tttieti因此对于任意的点列,n有.)(lim22tetnn又知22te是标准正态分布)1,0(N的特征函数,因此由连续性定理可
30、以得到,.21lim22dtexXPxtnnnn由n的任意性,所以有dtexXPxt2221lim成立.我们来看泊松分布的正态逼近.定理定理 2.3.32.3.388对于任意的,21aa 有,21!lim2122/aaxkkdxeke其中.,21aa其证明见文献8.由前可知,),(pnB的正态近似与泊松近似的条件是不同的,当p的取值特别小时,11概率论中几种具有可加性的分布及其关系第 11 页 共 13 页哪怕n的值不是太大,用泊松分布来近似二项分布也是可以的.但在这种情况下,用正态近似却是不合理的.我们可以想象,若p值很小,但n的值也不是太大,则np的值肯定不会很大,而由定理 2.3.1,我
31、们可知,此时正态分布就不可能很好的进行泊松近似.2.4 正态分布与柯西分布、卡方分布及卡方分布与伽玛分布之间的关系首先来看正态分布与柯西分布的关系.定理定理 2.4.12.4.1设).1,0(),1,0(NYNX且X与Y独立同分布,记YXZ/,则)1,0(NZ.证明证明易知Z的取值范围是),(,所以对于),(z,我们利用商的公式,可以得到0222)1(exp1)()()(dtzttdtttpztpzpYXZ.)1(12z这正是1,0时的柯西分布的密度函数,所以结论得证!正态分布与卡方分布的关系如下:定理定理 2.4.22.4.2若随机变量),1,0(NX则).1(22X定理证明见文献10.这说
32、明了标准正态分布与自由度为1的卡方分布之间的关系.若.,2,1,1,0niNXi 且iX彼此独立,记222212nXXX ,根据卡方分布的定义,我们知2服从自由度为n的卡方分布.对于伽玛分布,当其参数21,2n时即为自由度为n的卡方分布,记为).()21,2(2nnGa3 小结文章第一部分我们讨论了六种具有可加性的分布以及它们的简单性质,上述分布的可加性均可利用卷积公式或者特征函数进行证明.正态分布是概率论中最重要的分布,一般地,如果某个数量指标受到大量随机因素影响,而每一因素起的作用很小,则这个数量指标就近似服从正态分布.在第二部分里研究了二项分布、正态分布与泊松分布的关系,从此处我们可以知
33、道二项分布不仅可以用泊松分布近似,同样也可由正态分布来近似.参考文献参考文献1 罗建华.卷积公式的应用注记J.中南林业科技大学学报,2007 年,第 27 卷,第 1 期:152 页.2 李贤平,沈崇生,陈子毅.概率论与数理统计M.上海:复旦大学出版社,2003.5:221-231.3唐玲,徐怀.复合泊松分布和泊松过程的可加性J.安徽建筑工业学院学报,2007.05:83 页.4 郭彦.对柯西分布性质的进一步讨论J.淮阴工学院学报,2005.05:12 页.5 茆诗松,程依明,濮晓龙.概率论与数理统计教程M.北京:高等教育出版社,2004.7:155-160;12第 12 页 共 13 页6 王梓坤.概率论基础及应用M.北京:北京师范大学出版社,1996.3:61-64.7 宋立新.概率论与数理统计M.北京:人民大学出版社,2003.9:176-177.8于洋.浅析二项分布、泊松分布和正态分布之间的关系J.企业科技与发展,2008年第 20期:120 页.9魏宗舒等.概率论与数理统计教程M.北京:高等教育出版社,1983.10:208-211.10孟凡华.浅谈几种概率分布之间的相互关系J.信阳农专学报,1992 年第 3 卷第 2 期:63-65.11王淑云.特征函数及其应用J.邯郸学院学报,2008 年第 18 卷第 3 期:52-56.13