《计量经济学的统计学基础.pptx》由会员分享,可在线阅读,更多相关《计量经济学的统计学基础.pptx(132页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第一章 计量经济学的统计学基础复习数理统计学问题的提出u首先,假定现在开始选学计量经济学课程的同学们都已经学习过数理统计学了。即便通过了数理统计的学分考试,也意识到数理统计学在大学的数学基础课教学中,属于比较困难的一部分。况且,同学们对数理统计的掌握可能不是很完备的。u其次,大多数人对数学公式、数学符号的健忘,也提醒我们在进一步讨论计量经济学内容之前,必须对数理统计学的基本内容进行一些温习与回顾。解决问题的思路u1恳请同学们将数理统计学的书籍拿出来进行复习。u2在老师讲授的内容的同时,加强回顾,多思考,多提问。一边听课一边在教科书上进行批注,并把教科书上的印刷错误(忒多)改正。u3恳请同学们到
2、图书馆借阅计量经济学的参考书。计量经济学的分类号是“F224”,计量经济学理论基础统计学的分类号是“O212”。u4在大三下以前掌握Windows 9x以及Office97及其以上的应用,为毕业论文和大四谋业面试打下坚实的基础。u4熟悉Internet的使用。,逐步养成通过网络了解世界与世界同步。主要内容u第一节 总体、样本和随机函数u第二节 对总体的描述随机变量的数字特征u第三节 对样本的描述样本分布的数字特征u第四节 随机变量的分布总体和样本的连接点u第五节 通过样本,估计总体(一)估计量的特征u第六节 通过样本,估计总体(二)估计方法u第七节 通过样本,估计总体(三)假设检验 为什么要复
3、习数理统计学u假设同学们都已经学习过数理统计学。u即便如此,数理统计学在大学数学教学中,属于比较难的部分,而且是研修高级课程必不可少的准备。u而且许多同学或许对于大部分同学,他们对于数学公式与数学符号的健忘,也提醒我们有必要在展开计量经济学讨论之前,对本课程中经常使用到的数理统计学基本内容事先进行一些温习和回顾。数理统计学在计量经济学中的地位u事实上不懂得数理统计学就不可能学习和研究计量经济学。u数理统计学是计量经济学的基础,它为计量经济学提供了唯一而有效的方法。u此外,从某种意义上来说,计量经济学就是使数理统计学在建立经济模型中得以应用的一门科学。复习数理统计学必须注意u建议同学们将已经学过
4、的西方经济学、 数理统计学、线性代数和Windows 95进行一次认真地复习。u复习时,注重西方经济学的宏观部分,注重数理统计学学科体系的逻辑结构分析、注重数理统计方法的阐述、注重数理统计公式、定义和定理的内在涵义及其相互关系,注重线性代数的求逆和相似形部分,注重Windows 95的基本操作部分。u在今后的学习中,注意经济学基本理论及其应用,注意数理统计学基础与计量经济学的联系与活用,注意线性代数与统计量的计量与检验。第一节 总体、样本和随机函数u四个基本定义与数理统计学的逻辑结构u一、随机变量的分布u二、二元随机变量u三、独立性u四、随机变量函数和分布四个基本定义与数理统计学的逻辑结构u总
5、体和个体u样本和样本容量u随机变量u统计量u数理统计学的逻辑结构总体(集合)和个体(构成集合的元素)u研究对象的全体称为总体或母体,组成总体的每个基本单位称为个体。注意:u(1)按组成总体个体的多寡分为:有限总体和无限总体;u(2)总体具有同质性:每个个体具有共同的观察特征,而与其它总体相区别;u(3)度量同一对象得到的数据也构成总体,数据之间的差异是绝对的,因为存在不可消除的随机测量误差;u(4)个体表现为某个数值是随机的,但是,它们取得某个数值的机会是不同的,即它们按一定的规律取值,即它们的取值与确定的概率相对应。样本和样本容量u总体中抽出若干个个体组成的集体称为样本。样本中包含的个体的个
6、数称为样本的容量,又称为样本的大小。u注意:抽样是按随机原则选取的,即总体中每个个体有同样的机会被选入样本。随机变量u根据概率不同而取不同数值的变量称为随机变量(Random Variable)。u注意:u(1)一个随机变量具有下列特性:RV可以取许多不同的数值,取这些数值的概率为p,p满足:0=p=1。u(2)随机变量以一定的概率取到各种可能值,按其取值情况随机变量可分为两类:离散型随机变量和连续型随机变量。离散型随机变量的取值最多可列多个;连续型随机变量的取值充满整个数轴或者某个区间。u(3)本书中,随机变量用x、y、等符号表示离散型随机变量与连续型随机变量 10 20 30 40 501
7、.0概率概率xx1.0离散型随机变量连续型随机变量总体与随机变量的关系u表示总体状况的数量特征,在总体中是参差不齐的,往往以一定的概率取不同的数值,显然对于这样的数值我们采用一般的变量是无法加以描述的。但是。可以采用一种特殊的变量来表示它们。这个特殊变量就是随机变量。因为,根据随机变量的定义,随机变量以一定的概率取许多不同的值,而且概率p满足:0=p=1。例如,一批灯泡的寿命可以取许多不同的数值,每个灯泡的取值不一定完全相同,但它们是按一定概率进行分布的,但它们却是以一定的概率取某个寿命值。由此看来,随机变量并不是一个随便变的量。u由于我们主要研究总体的数量特征,可以直接用随机变量来表示所研究
8、的总体。总体、随机变量、样本间的联系u总体就是一个随机变量,所谓样本就是n个(样本容量n)相互独立且与总体有相同分布的随机变量x1,xn。u每一次具体抽样所得的数据,就是n元随机变量的一个观察值,记为(X1,Xn)。u通过总体的分布可以把总体和样本连接起来。从两个角度来描述总体(随机变量)中个体的取值u(1)动态概率随机地选取一个个体取某个具体数值的可能性;u(2)静态分布个体取某个数值,从全局来看这个具体的数值(可能不只一个个体取这同一个数值)出现的次数占全体个体个数的比例,形象地说就是这个具体的数值在数轴的这个位置上分布了多少。u分布也好、概率也好它们在度量上是一致的。u这只是就离散型随机
9、变量的通俗示意。总体分布是总体和样本的连接点u所谓分布,它是从全局而言的。通俗地说,分布就是某个对象在什么地方,堆积了多少。u任何一个随机变量都有自己的分布,这个什么地方就是在数轴上取什么值,堆积多少就是在那里占有的比例是多少或者概率有多大。u总体可以表示为随机变量,并具有自身的分布。u样本则是相互独立与总体具有相同分布的n元随机变量。因此,总体分布是总体和样本的连接点。从而,可以通过对样本特征的研究达到对总体进行研究的目的。因为它们具有相同的分布。u须知,如果对于一个随机变量完全掌握了它的分布规律,就完全明白无误了。为什么样本是与所来自的总体具有相同的分布的随机变量u因为样本具有二重性:u一
10、是指某一次具体的抽样的具体的数值(X1,Xn);u二是指一次抽样的可能结果,它的每一次观察都是随机地从总体中(每一个个体有同样的机会被选入)抽取一个,所以它是一组随机变量(x1,x2,xn) u而且,每一次抽样都来自同一总体(分布),也就是每一次抽样都带来了与总体一样的分布信息。所以,样本与所来自的总体分布相同。u由于总体分布完整的描述了总体的信息,有时我们也直呼总体为分布,不加区别地使用总体或分布。统计量u设(x1,x2,xn)为一组样本观察值,函数f( x1,x2,xn )若不含有未知参数,则称为统计量。u统计量一般是连续函数。由于样本是随机变量,因而它的函数也是随机变量,所以,统计量也是
11、随机变量。u统计量一般用它来提取或压榨由样本带来的总体信息。就是统计量。样本方差1122ninixxs样本与总体之间的关系u样本是总体的一部分,是对u总体随机抽样后得到的集合。u对观察者而言,总体是不u了解的,了解的只是样本u的具体情况。我们所要做u的就是通过对这些具体样u本的情况的研究,来推知整u个总体的情况。Xn+1XnX1样本总体数理统计学的逻辑结构u(1)总体和样本u引入一个随机变量来描述总体u(2)对总体的描述:随机变量的数字特征u(3)对样本的描述:样本分布的数字特征u(4)总体与样本的连接点:随机变量的分布u(5)如何用样本的数字特征估计总体的数字特征及数据生成过程中的各种参数
12、a 估计量的优良性 b 估计方法 c 对估计量的检验假设检验 xVarxExx2方差数学期望,描述样本的离散程度样本方差,描述样本的一般水平样本平均数sX2a 估计量的优良性u1、无偏性u2、有效性u3、均方误最小u4、一致性b 估计方法u u u u u u u 矩法最大似然法最小二乘法最小卡平方法总体分布未知正态总体一般总体(大样)已知方差方差未知一般总体(大样)正态总体估计期望单个总体两个总体估计方差(常用小样本下,正态总体估计其它参数)点估计区间估计c 对估计量的检验假设检验u1.对总体分布特征的假设检验u(1)一个正态总体的假设检验a 检验均值:已知方差和未知方差b 检验方差:未知均
13、值(双尾和单尾)u(2)两个正态总体的假设检验a 检验均值:未知方差但可假设其相等b 检验方差:未知均值(双尾和单尾)u(3)总体分布的假设检验a 总体为离散型分布b 总体为连续型分布u2.对各种系数、参数估计值的假设检验一、随机变量的分布(一)离散型随机变量的分布u定义:如果随机变量只取有限个或可列多个可能值,而且以确定的概率取这些值,则称为离散型随机变量。u通常用分布列表示离散型随机变量:u的概率分布也可用一系列等式表示:uP( =xi)=pi (i=1,2,)称为的概率函数。注意这里xi只出现一次。u显然满足概率的定义:u离散型随机变量的分布就是指它的分布列或概率函数。1110iiipp
14、Xx1x2.xi.pp1p2.pi.离散型随机变量举例1u例1 一批产品的废品率为5%,从中任取一个进行检验,以随机变量来描述这一试验并写出的分布。u以X=0表示“产品为合格产品”,X=1表示“产品为废品”,那么分布列如下:u其概率函数p(X=0)=0.95, p(X=1)=0.05,或up(X=i)=(0.05)i(0.95)1-i ( i = 0, 1)X0(合格品)1(废品)P0.950.05离散型随机变量举例2u用随机变量X描述掷一颗骰子的试验。u分布的概率函数为:uP(X=i)= 1/6(i=1,2,3,4,5,6)X123456P1/61/61/61/61/61/6(二)随机变量的
15、分布函数u定义:若X是一个随机变量(可以是离散的,也可以是非离散的),对任何实数x,令F(x)=P(X=x),称F(x)为随机变量X的分布函数。uF(x),即事件“X=x”的概率,是一个实函数。u对任意实数x1x2,有uP(x1Xx2)=P(X=x2)- P(X=x1)=F(x2)- F(x1)u由此可知,若已知X的分布函数,就知道X在任何区间上取值的概率。所以,分布函数完整的描述了随机变量的变化情况。x2x2f(x)F(x)Xx1x1分布函数F(x)的性质 xixxxxFxFxFFxFFxFxFxip足关系:分布函数与概率函数满。且在间断点上右连续至多有可列多个间断点)()(为不减函数)(,
16、)对一切(4103210,1limlim分布函数举例u例3 求例1中的分布函数u例4 求例2中的分布函数 111095. 000 xxxxXPxF 61656/5546/4436/3326/2216/110 xxxxxxxxXPxF01F(x)x xxiipxF(三)连续型随机变量的分布u定义:对于任何实数x,如果随机变量X的分布函数uF(x)可以写成u概率分布密度函数的性质: 。常写成概率分布密度函数,也的为为连续型随机变量,称,则称其中xXXxXxdttxFx0 。有的连续点上,并且在显然)()(xxFxdxxbXaPdxxxba1201为什么(x)称为概率分布密度函数 的概率大小。附近取
17、值在能够反映分布的密集程度。但是点概率在值的概率,而是取不是表明xXxxXxXxxxxXxPxxFxxFxxxFxxlimlim00连续型随机变量分布函数举例 bxbxaabaxaxxFdttxFababdxdxxxFbaXbxaxXx1011,05又因为解。上的均匀分布。试求服从区间则称其它有密度函数若例a x ba x bF(x)(x)(四)分布函数、概率函数、密度函数三者的关系u分布函数既适用于离散型也适用于连续型,是描述各种类型随机变量最一般的共同形式。但是,它不够直观。u概率函数对于离散型的描述很直观。u概率密度函数的大小能够反映X在x附近取值的概率的大小,从而比分布函数更直观。u所
18、以,在实际应用中我们分别用概率函数和密度函数对离散型和连续型随机变量进行描述。二、二元随机变量un元随机变量的定义:每次试验同时处理n个随机变量(X1,X2,Xn),它们的取值随试验的进行而变化。如果对任何一组实数(x1,x2,xn),事件“X1x1,X2x2, Xnxn”有着确定的概率,则称n个随机变量(X1,X2,Xn)总体为一个n元随机变量。un元随机变量分布函数的定义: n元函数uF( x1,x2,xn )= P(X1x1,X2x2, Xnxn)u(x1,x2,xn)属Rn,为n元随机变量分布函数。u离散二元随机变量的定义:如果二元随机变量(X,Y)所有可能取值为有限或可列多个,并且以
19、确定的概率取各个不同数值,则称(X,Y)为二元随机变量。(X,Y)的联合分布表和联合分布函数u(X,Y)为离散型的二元随机变量,通常用联合分布函数与联合分布表表示。(X,Y)的概率分布表X Yy1y2yjX的边际分布x1p11p12p1jp1.x2p21p22p2jp2.xipi1pi2pijpi.Y的边际分布p.1p.2p.j1称 p(X=xi,Y=yj)=pij (i,j=1,2,.)为(X,Y)的概率分布上式也称为(X,Y)的联合分布。离散二元分布函数的示例u例6 同一品种的5个产品中,有2个正品,3个次品,每次从中抽取一个进行质量检查,不放回的抽取,连续两次。令“Xi=0”表示第i次抽
20、取到正品,而“Xi=1”表示第i次抽取到次品,写出(X1,X2)的分布。u解 p(X1=0,X2=0)= p(X1=0)P(X2=0)=(2/5)(1/4)=1/10u p(X1=0,X2=1)=p(X1=0)P(X2=1)=(2/5)(3/4)=3/10u p(X1=1,X2=0)=p(X1=1)P(X2=0)=(3/5)(2/4)=3/10u p(X1=1,X2=1)=p(X1=1)P(X2=1)=(3/5)(2/4)=3/10(X1,X2)的概率分布表X1 X201X1边际分布01/103/102/513/103/103/5X2边际分布2/53/51连续二元随机变量的定义 badcxyd
21、xdyyxdYcbXapdcbadsdttsyxyxyxYXyxYXdsdttsyxFyxyxFYXyx,1,20,1,),(,),(,有显然,对于任意实数)(,)对于一切实数(的性质:的联合密度函数。与为称。是二元连续型随机变量则称都有:,对于任意实数的分布函数,使得二元变量如果存在一个非负函数三、独立性u(一)事件的独立性u(二)随机变量的独立性(一)事件的独立性u定义1.12事件的独立性的定义u如果事件A发生的可能性不受事件B发生与否的的影响,即P(A/B)=P(A),则称事件A对于事件B独立。u显然,若事件A对于事件B独立,事件B对于事件A也一定独立,我们称事件A与事件B相互独立。uA
22、与B独立的充分必要条件是:u P(AB)=P(A)P(B)(二)随机变量的独立性u定义1.13随机变量相互独立的定义u 对于任何实数x,y,如果二元随机变量(X,Y)的联合分布函数F(x,y)等于X和Y的边际分布的乘积,即u F(x,y) = FX(x) . FY(y)u则称X与Y相互独立。u定义1.14边际分布的定义u离散型二元随机变量(X,Y)中,分量X(或Y)的概率分布称为(X,Y)的关于X(或Y)的边际分布,边际分布又称边缘分布。四、随机变量函数的概念和分布u定义1.15 随机变量函数的定义u 设f(x)是定义在随机变量X的一切可能取值集合上的函数。如果对于X的每一个可能值x,都有另一
23、个随机变量Y的取值y=f(x)与之相对应,则称Y为X的函数,记作Y=f(X)。u 我们常常遇到一些随机变量,它们的分布往往难于直接得到(例如滚珠体积的测量值等),但与它们有关系的另一个随机变量的分布却是容易知道的(如滚珠直径的测量值)。因此,就要研究两个随机变量之间的关系,然后通过它们之间的关系,由已知随机变量的分布求出与之有关的其它随机变量的分布。其间的关系通常用函数关系表示。第二节 对总体的描述随机变量的数字特征u一、数学期望u二、方差u三、数学期望与方差的图示一、数学期望u研究数字特征的必要性u两个最重要的数字特征u(1)数学期望u(2)方差研究数字特征的必要性u总体就是一个随机变量。对
24、总体的描述就是对随机变量的描述。随机变量的分布就是对随机变量最完整的描述。但是,u(1)求出总体的分布往往不是一件容易的事情;u(2)而且,在很多情况下,我们并不需要全面考察随机变量的变化情况,只需要了解总体的一些综合指标。一般说来,常常需要了解总体的一般水平和它的离散程度;u(3)如果了解总体的一般水平和离散程度,就已经对总体有了粗略的了解了;u(4)在很多情况下,了解这两个数字特征还是深入求出总体分布的基础和关键。u由此看来,研究随机变量的数字特征是十分必要的。数学期望的定义u定义2.1离散型随机变量数学期望的定义u假定有一个离散型随机变量X有n个不同的可能取值x1,x2,xn,而p1,p
25、2,pn是X取这些值相应的概率,则这个随机变量X的数学期望定义如下:u数学期望描述的是随机变量(总体)的一般水平。u定义2.2连续型随机变量数学期望的定义 的数学期望。称为绝对收敛,则,若积分有分布密度函数若连续型随机变量XdxxxxEdxxxxX 平均数。的所有可能取值的加权是随机变量实际上,XXExEniiinnxpxpxpxp12211u数学期望是最容易发生的,因而是可以期待的。它反映数据集中的趋势。数量概率10.10.120.10.230.41.240.20.850.213.3父亲钓鱼的试验数学期望数学期望的性质u(1)如果a、b为常数,则u E(aX+b)=aE(X)+bu(2)如果
26、X、Y为两个随机变量,则u E(X+Y)=E(X)+E(Y)u(3)如果g(x)和f(x)分别为X的两个函数,则 u Eg(X)+f(X)=Eg(X)+Ef(X)u(4)如果X、Y是两个独立的随机变量,则u E(X.Y)=E(X).E(Y) 求离散型随机变量数学期望举例u例1 甲、乙两射手在一次射击中的得分(分别用X、Y表示)的分布率如下:u试比较两射手的射击技术水平,并计算如果二人各发一弹,他们得分和的估计值。u解 EX=1 0.4+2 0.1+3 0.5=2.1u EY=1 0.1+2 0.6+3 0.3=2.2u E(X+Y)=2.1+2.2=4.3u EXEY 乙射手射击水平比较高u
27、二人各发一弹,得分总和最可能在4.3分左右(即4分或5分)X123P0.40.10.5Y123P0.10.60.3二、方差u定义2.4 离均差的定义u 如果随机变量X的数学期望E(X)存在,称uX-E(X) 为随机变量X的离均差。显然,随机变量离均差的数学期望是0,即u E X-E(X) = 0u定义2.3 连续型随机变量的方差u定义2.5 随机变量离均差平方的数学期望,叫随机变量的方差,记作Var(x),或D(x)。方差的算术平方根叫标准差。 dxxXVXXxEx2的方差以下式给出:为连续型随机变量,则若 xEExVarxVxxExx222方差的意义u(1)离均差和方差都是用来描述离散程度的
28、,即描述X对于它的期望的偏离程度,这种偏差越大,表明变量的取值越分散。u(2)一般情况下,我们采用方差来描述离散程度。因为离均差的和为0,无法体现随机变量的总离散程度。事实上正偏差大亦或负偏差大,同样是离散程度大。方差中由于有平方,从而消除了正负号的影响,并易于加总,也易于强调大的偏离程度的突出作用。方差的性质u(1)Var(c )=0u(2)Var(c+x)=Var(x )u(3)Var(cx)=c2Var(x)u(4)x,y为相互独立的随机变量,则uVar(x+y)=Var(x )+Var(y )=Var(x-y)u(5)Var(a+bx)=b2Var(x)u(6)a,b为常数,x,y为两
29、个相互独立的随机变量,则(ax+by)=a2Var(x)+b2Var(y)u(7)Var(x)=E(x2)-(E(x)2例2 计算本节例1中甲射手的方差u例1 甲、乙两射手在一次射击中的得分(分别用X、Y表示)的分布率如下:uE(X)=2.1uVar(X)=(- 1.1) 2 0.4+(-0.1)2 0.1+0.92 0.5u = 0.89X123P0.40.10.5Y123P0.10.60.3三、数学期望与方差的图示u数学期望描述随机变量的集中程度,方差描述随机变量的分散程度。u1方差同、期望变大 2期望同、方差变小51055第三节 对样本的描述样本分布的数字特征u一、样本分布函数u二、样本
30、平均数u三、样本方差一、样本分布函数 数。,称它们为样本分布函本容量的个数除以样个观察值中不超过等于样本的这里,令排列为按大小的一组观察值,把它们为总体设nxnxxxnkxnxxFxxxxxxFxxxxxxnnkknnn*1*2*1*1*2*121110,样本分布函数举例随机观察总体X10个数据如下及其排序X*X3.22.5-42.5023.22.542X*-40222.52.52.53.23.24求样本分布函数。 4142 . 310/92 . 3310/835 . 210/75 . 2210/42010/20410/14010 xxxxxxxxxF二、样本平均数u总体的数字特征是一个固定不
31、变的数,称为参数;样本的数字特征是随抽样而变化的数,是一个随机变量,称为统计量。u定义3.1样本平均数的定义u样本平均数用来描述样本的平均水平(一般Common)水平。为样本平均数。,称对于样本niinxxxxnx1211,三、样本方差和标准差u定义3.2 样本方差和标准差的定义xxsxxxxxxxxsxxxnnniinsinniiniinininin2122212121212221111111,。来描述样本离散程度的样本方差和标准差是用差。分别为样本方差和标准以及,称对于样本第四节 随机变量的分布总体和样本的连接点u一、几种重要的分布u二、各种分布之间的联系u三、分布是总体和样本之间的连接点
32、u学习的重点应放在确定X服从什么分布,和各种分布的联系上。一、几种重要的分布u如果一个随机变量的分布已经确定,那么这个随机变量的一切性质对于我们便都是已知的。因为随机变量的分布是对随机变量最完整的描述。u例如X是广西十万大山中树木的高度, 它的分布函数为F(x)=P(X 时, MSE()=0,亦即Var()=0和Bias()2 =0,也就是随着样本加大,的方差变小;的偏差接近于0,这就是一致性描述的情况。u事实上一致性和MSE()=0(当n= )这两条标准在计量经济学中往往是通用的。N小N大N极大小的概率第六节 通过样本,估计总体(二)估计方法u一、点估计u(1)矩法u(2)最大似然法u(3)
33、最小二乘法u二、区间估计u(一)对总体期望值的估计u(二)对总体方差的估计u(三)关于区间估计的几点说明一、点估计u所谓点估计就是给出被估计参数的一个特定的估计值。u常用的点估计方法有四种:矩法、最大似然法、最小二乘法和X2法。u这四种方法分别建立在不同的原则上。u对同一样本根据四种方法估计同一参数,所获得的估计结果可能互不相同。u然而由于各种建立原则的合理性,所以四种方法在研究中都经常使用。(1)矩法u矩法是求估计量最古老的方法。具体作法是:一样本矩作为相应总体矩的估计量;以样本矩的函数作为相应的总体矩同样函数的估计量。u这种方法最常见的应用是用样本平均数估计总体数学期望。u矩法比较直观,求
34、估计量时有时也比较直接,但它求出的估计量往往不够理想。矩法点估计的例题u例1某灯泡厂某天生产了一大批灯泡,从中抽取了0个进行寿命试验,获得数据如下(单位:小时),问该天生产的灯泡的平均寿命是多少?抽样序号12345678910寿命(小时) 1050 1100 1080 1120 1200 1250 1040 1130 1300 1200计算得样本算术平均数=1147,作为总体数学期望的估计值xxxxdxdxxdxxxxxxxxn2,22021111,001,22001在矩法下又是多少?问在矩法下其它取自均匀分布若样本例(2)最大似然法(Maximum Likelihood Estimation
35、)u1、一个重要的事实u2、最大似然法的概念u3、似然法函数u4、最大似然法的定义u5、最大似然法的三个示例1、请注意如下事实u不同的总体会产生不同的样本,对于某一特定的样本,在我等不了解产生它的母体究竟为何物的观察者眼中,它来自一些母体的可能性要比来自另一些母体的可能性大,即一些母体更容易产生出我们所观察到的样本。u举例说,假定我们抽取到(x1,x2,x8)我们知道它来自正态总体,且总体的方差是了解的,但是总体的均值未知。如下图所示。x6 x2 x3 x4 x5 x6 x7 x8 分布B分布A概率x假定样本不是来自B就是来自A。如果样本来自B,观察到它的可能性非常小;真正的母体若是A,得到样
36、本的可能性很大。显然我们宁愿承认样本来自A。是样本“替”我们“选择”了A。2、最大似然法的概念u上述事实诱导我们宁愿作出这样的抉择:将样本最容易来自的总体当作产生样本的总体。u现在要根据从总体中抽取得到的样本(x1,xn)对总体中的未知数进行估计。最大似然法是选择这样的估计量作为的估计值,以便使观察结果(x1,xn)出现的可能性(概率)最大。u对于离散型变量,就是要选择使p(x1)p(x2)p(xn)最大。(连乘表示一次独立地抽取各个样本观察值)u对于连续型变量,就是要选择使(x1)(x2).(xn)最大。注意(xi)是随机变量在xi附近取值的概率,相当于离散型的p(xi)。3、似然法函数ni
37、iniinniinnxxxxxxxxxxxxxxxxPLPPLLLxxF1212112121;,;,;,;则似然函数的概率函数为离散型随机变量,它设为样本的似然函数。的函数,称成参数可以看是常数,所以由于每一取定的样本值:的联合分布分布密度是样本的独立性,则是未知参数。由于样本,其中度函数是,分布密的分布函数是为连续型随机变量,它设4、最大似然法的定义的最大似然估计。是则称处达到最大值,在如果定义 ;,1 . 621xxxnL5、最大似然法的估计方法u为了取得的最大似然估计,必须使似然函数L达到最大值,并且把此时的作为的估计量。由于对数函数是单增的,L达到最大亦即LnL达到最大。u这样使LnL
38、达到最大来估计为计算带来了许多方便。u根据微分中的拉格朗日定理,对未知参数求条件极值,令LnL对 的一阶导数等于0,即dLnL/d =0 =得到似然方程,我们所求的就是似然方程中的解。5、最大似然法示例之一的最大似然估计。是得解似然方程似然函数解的最大似然估计。的一组观察值,求是其它的分布为:已知随机变量例1011ln1lnln11;,0001;31121211121211xxnnndLdnLxxLxxniiniiniiniinninnixxxxeexxxxxxexniiii5、最大似然法示例之二u例4 某电子管的寿命服从例3中的分布(实际上多为指数分布)抽取一组样本,其具体数值如下:u根据例
39、3的结果,在最大似然法下,指数分布中的,应用样本平均数估计。u=(16+29+800+110)=318(小时)16295068100 130 140 270280340 410 450 520 620 190 210 800 11005、最大似然法示例之三已知N(,2),以一组样本观察值估计的参数 型估计时也是如此。估计量,以后对线性模差的估计往往是有偏:最大似然估计法对方意然后解似然方程组。注,分别对不同参数求偏导估计时,应将:当不只一个参数需要注意解得解2ln1110220122ln1ln21ln221ln2ln121211221124212124221212221212212222222
40、LinninninnLLinnLexLniniininiininiininixinnixxxxxxxxeni(3)最小二乘法(Least Square Estimation Method)u最小二乘法是计量经济学中应用最广泛的一种估计方法。u这是本课研究的重点问题,在以后各章中将详尽地阐述它的原理、步骤、特性和优越处。u这里暂时不加以讨论。二、区间估计u(一)对总体期望值的估计u1、已知方差,对数学期望E进行区间估计u(1)方差已知,估计总体数学期望u(2)正态总体u(3)一般总体大样本下数学期望的区间估计u2、方差未知,对对数学期望E进行区间估计u(二)对总体方差的估计u(三)关于区间估计的
41、几点说明区间估计的概念u所谓区间估计就是以一定的可靠性给出被估计参数的一个可能的取值范围。u用点估计估计参数,即使是无偏有效的估计量,也会由于样本的随机性,使得由样本计算出的估计值并不恰恰是真值。而且即使等于真值,由于真值未知,我们也不能肯定这种相等。那么,究竟相差多少?于是问题等价为:在给定可靠程度下,指出被估计参数所在的可能值的范围,就是参数的区间估计问题。u具体作法是找出两个统计量1(x1,xn)与2 (x1,xn),使u P(2 2 )=1-u(1 , 2)称为置信区间, 1-称为置信系数(置信度), 称为冒险率(测不准的概率),一般等于5%或1%。对区间估计的形象比喻u我们经常说某甲
42、的成绩“大概80分左右”,可以看成一个区间估计问题。(某甲的成绩为被估计的参数)u P(2 2 )=大概的准确程度( 1-)u u 如:P(75 =30时,就可以把样本平均数近似地看作服从正态分布N(,2/n)。u所以,对于大样本仍可以按正态总体进行均值的区间估计。2、方差未知,对对数学期望E进行区间估计u(1)大样本下u根据中心极限定理,V 可以用s2代替,所以仍按已知方差正态分布的方法进行的置信区间估计。u(2)小样本下11/,1,15. 4) 1(/,221tttttxxnsxnsxpnsxpTptnntnsxTNn的置信区间为:因此,即使分布的临界值的查具有对给定的)(由定理未知,令由
43、于来自正态总体设小样本例8 新生儿体重的置信区间u假设新生儿(男)的体重服从正态分布。随机抽取12名新生儿,测得体重如下表,试以95%的置信度估计新生儿(男)的平均体重。序 号123456789101112新生儿体重 3100 2520 3000 3000 3600 3160 3560 3320 2880 2600 3400 254033002820201. 2123 .3753057201. 2123 .375305795%3 .37530571113057(201. 21205. 01212)112(即的置信区间是置信度为再计算表的图有错)ixtisxn2/111111,22212121112222bZpaZpbaanbnpbsapbZapnsZNssxxxnn时,一般取和在确定那么,。)来自总体设样本(对总体方差的区间估计