《程老师计量经济学：线性回归模型概述和一元模型的参数估计讲课讲稿.ppt》由会员分享，可在线阅读，更多相关《程老师计量经济学：线性回归模型概述和一元模型的参数估计讲课讲稿.ppt（25页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、程老师计量经济学：线性回归模型概述和一元模型的参数估计第二章第二章 内容内容&2.1 线性回归模型概述线性回归模型概述&2.2 一元线性回归模型的参数估计一元线性回归模型的参数估计&2.3 多元线性回归模型的参数估计多元线性回归模型的参数估计&2.4 多元线性回归模型的统计检验多元线性回归模型的统计检验&2.5 多元线性回归模型的置信区间多元线性回归模型的置信区间&2.6 异方差异方差&2.7 序列相关序列相关&2.8 多重共线性多重共线性&2.9 单方程计量经济模型综合练习单方程计量经济模型综合练习2022/11/1722.1 线性回归模型概述线性回归模型概述 一、一、线性回归模型的特征线性
2、回归模型的特征二、二、线性回归的普遍性线性回归的普遍性 三、三、线性回归模型的基本假设线性回归模型的基本假设2022/11/173一、线性回归模型的特征一、线性回归模型的特征&消费函数模型消费函数模型消费函数模型消费函数模型 ：凯恩斯绝对收入假设消费理论：凯恩斯绝对收入假设消费理论：凯恩斯绝对收入假设消费理论：凯恩斯绝对收入假设消费理论：消费是由收入唯一确定消费是由收入唯一确定消费是由收入唯一确定消费是由收入唯一确定,是收入的线性函数。是收入的线性函数。是收入的线性函数。是收入的线性函数。&实际上消费与收入之间的关系式并不是准确的。实际上消费与收入之间的关系式并不是准确的。&原因在于：原因在于
3、：（1 1）消费还受到除收入以外的因素的影响；）消费还受到除收入以外的因素的影响；（2 2）线性关系是一种近似关系；）线性关系是一种近似关系；（3 3）收入、消费数据也是一个近似）收入、消费数据也是一个近似 。边际消费边际消费消费与收消费与收入的比重。入的比重。2022/11/174&为为了了更更准准确确、符符合合实实际际地地描描述述消消费费与与收收入间的关系，必须引入随机误差入间的关系，必须引入随机误差。&即：即：2022/11/175一、综合归纳一、综合归纳用统计学方法去认识消费函数用统计学方法去认识消费函数&对收入水平对收入水平X=80，称，称P(YX=80)为给定为给定X=80时时Y的
4、条的条件概率。件概率。一个假设的例子，一个假设的例子，X收入，收入，Y消费消费(不同家庭）不同家庭）&表中表明：表中表明：对于同一等级的对于同一等级的收入水平，有不收入水平，有不同的消费支出。同的消费支出。如何考虑如何考虑Y与与X的关系呢？的关系呢？2022/11/176&对于同一等级收入水平，消费支出对于同一等级收入水平，消费支出Y的平均值称为的平均值称为条件期望，记为条件期望，记为E（YX）。）。&把所有点（把所有点（Xi,E(YXi)）描在平面图上，可看出其轨迹描在平面图上，可看出其轨迹接近于一条直线。接近于一条直线。&此直线称为总体回归函数曲此直线称为总体回归函数曲线，其形式为：线，其
5、形式为：&E(YXi)=0+1Xi,即尽管即尽管对于同一收入水平对于同一收入水平Xi，有不同，有不同的消费支出的消费支出Y，但，但Y的条件期的条件期望值与望值与Xi接近于一条直线。接近于一条直线。2022/11/177&注意这里所描述注意这里所描述X与与Y的表达式不是精确的表达的表达式不是精确的表达式，而是式，而是Y的平均值（即条件期望）与的平均值（即条件期望）与X的平均关系。的平均关系。&将总体因变量的条件期望表示为自变量的某种函将总体因变量的条件期望表示为自变量的某种函数，这个函数称为总体回归函数，若只有一个自变数，这个函数称为总体回归函数，若只有一个自变量，则可写为量，则可写为E(YXi
6、)=f(Xi)，其线性形式为，其线性形式为&E(YXi)=0+1Xi,&或或Yi=0+1Xi+i，i为随机扰动项。这里引入随为随机扰动项。这里引入随机扰动项更能客观地描述机扰动项更能客观地描述Y与与X的变动关系。的变动关系。&总体回归曲线的几何意义：表示当自变量给定时，总体回归曲线的几何意义：表示当自变量给定时，因变量的条件期望值的轨迹，总体回归函数实际上因变量的条件期望值的轨迹，总体回归函数实际上是概率性模型。是概率性模型。2022/11/178&样本残差样本残差ei=实际值实际值-（模型确定的）拟合值。（模型确定的）拟合值。样本回归函数样本回归函数 前面所讲总体回归函数是假定总体所有数据均
7、可前面所讲总体回归函数是假定总体所有数据均可获得，但若总体数目较大时，在实际中无法取得总体获得，但若总体数目较大时，在实际中无法取得总体所有单位的全部数值，则此时总体回归函数无法建立。所有单位的全部数值，则此时总体回归函数无法建立。这时所采用方法是在总体中抽取若干单位的样本数据，这时所采用方法是在总体中抽取若干单位的样本数据，用此样本组建立函数，此函数称为样本回归函数，用用此样本组建立函数，此函数称为样本回归函数，用它来推断总体回归函数的参数。它来推断总体回归函数的参数。例如对应于总体回归函数：例如对应于总体回归函数：Yi=0+1Xi+i 的样本回归的样本回归函数记为：函数记为：2022/11
8、/179二、随机干扰项二、随机干扰项的包括的因素的包括的因素&（1 1）在解释变量中被忽略的因素）在解释变量中被忽略的因素&（2 2）观察值（数据）的误差）观察值（数据）的误差&（3 3）模型数学形式设定误差）模型数学形式设定误差&（4 4）其他随机因素的影响）其他随机因素的影响M 随机扰动项是不可观察的，但可通过残差（实际随机扰动项是不可观察的，但可通过残差（实际值与拟合值的差）进行估计。值与拟合值的差）进行估计。2022/11/1710二、线性回归模型的普遍性二、线性回归模型的普遍性&虽然在经济现象中，因素间关系直接表虽然在经济现象中，因素间关系直接表现为线性的并不很多，往往是非线性的，但
9、现为线性的并不很多，往往是非线性的，但是许多非线性的，可以通过一些简单的数学是许多非线性的，可以通过一些简单的数学处理，将非线性的关系化为线性关系。所以，处理，将非线性的关系化为线性关系。所以，将线性回归模型作为计量经济模型研究的主将线性回归模型作为计量经济模型研究的主要形式。要形式。&有关将非线模型化为线性模型的方法在有关将非线模型化为线性模型的方法在第三章讲第三章讲2022/11/1711三、线性回归模型的基本假定三、线性回归模型的基本假定&通常采用普通最小二乘法（通常采用普通最小二乘法（OLS）估计线性回归）估计线性回归模型，为了保证模型，为了保证OLS估计量具有良好的统计特性估计量具有
10、良好的统计特性线性、无偏性和有效性，对计量经济模型给出五线性、无偏性和有效性，对计量经济模型给出五项基本假定。项基本假定。&满足这些基本假定，满足这些基本假定，OLS估计量将具有优良性，估计量将具有优良性，否则否则OLS方法不能使用，应寻找其它估计方法。方法不能使用，应寻找其它估计方法。&显然，基本假定是针对显然，基本假定是针对OLS方法提出来的。方法提出来的。2022/11/1712五项基本假定五项基本假定&假定假定1 1：解释变量：解释变量X X1 1,X,X2 2,X Xk k是确定性变量（非随机的，即是确定性变量（非随机的，即E E(X(Xi i)=X)=Xi i)。解释变量之间互不相
11、关。解释变量之间互不相关.&假定假定2 2：随机误差项：随机误差项i i具有具有0 0均值和同方差。即：均值和同方差。即：&E(E(i i)=0)=0，Var(Var(i i)=)=2 2 （不依赖于样本期数不依赖于样本期数i)i)&假定假定3 3：随机误差项在不同样本点之间是独立的。即：随机误差项在不同样本点之间是独立的。即：CovCov(i i,j j)=0)=0，ijij，表示误差不存在序列相关。，表示误差不存在序列相关。&假定假定4 4：随机误差项与解释变量之间不相关：随机误差项与解释变量之间不相关,但与被解释变量但与被解释变量Y Y相关。即相关。即:Cov(:Cov(i i,X,Xj
12、iji)=0)=0，但：，但：Cov(Cov(i i,Y)0.,Y)0.&假定假定5 5：随机误差项服从：随机误差项服从0 0均值、同方差的正态分布。即均值、同方差的正态分布。即:&i i N(0,N(0,2 2)2022/11/1713计量经济学检验计量经济学检验&对计量经济模型进行关于5项基本假定的检验称为计量经济学检验。即进行：解释变量解释变量之间不相关检验（称为多重共线性检验），随之间不相关检验（称为多重共线性检验），随机误差项机误差项i i同方差（称为异方差检验），序同方差（称为异方差检验），序列相关检验。列相关检验。2022/11/17142.2 一元线性回归模型的参数估计一元线性
13、回归模型的参数估计一、普通最小二乘法一、普通最小二乘法OLS二、最大似然法二、最大似然法ML（不讲）（不讲）三、参数估计量的性质三、参数估计量的性质四、一元线性回归模型参数估计的实例四、一元线性回归模型参数估计的实例2022/11/1715“回归回归”一词的由来一词的由来&回归分析最旱起源于生物学的研究，“回归”最初是遗传学中的一个名词。1889年英国的生物学家兼统计学家F.Gallton和他的朋友K.Pearson收集了上千个家庭成员的身高、臂长和腿长的记录。&企图寻找出子女们身高与父母们身高之间关系的具体表现形式。&根据1078个家庭的调查结果得到：2022/11/1716&但从他们的研究
14、结果来看，并非高的越长越高，但从他们的研究结果来看，并非高的越长越高，矮的越长越矮（父母身高增加一个单位，而矮的越长越矮（父母身高增加一个单位，而Y仅增加仅增加0.516个单位）。高个子父母的子女身高有低于其父母身个单位）。高个子父母的子女身高有低于其父母身高的趋势，而矮个子父母的子女身高有高于其父母身高高的趋势，而矮个子父母的子女身高有高于其父母身高的趋势，的趋势，结论：父母所生子女有回归于人类平均身高的结论：父母所生子女有回归于人类平均身高的趋势，趋势，故某人种的平均身高是相当稳定的。故某人种的平均身高是相当稳定的。&见见1889年年F.Gallton的论文的论文普用回归定律普用回归定律。
15、&回归的含义：任何变异的东西总有趋向于一般、平稳回归的含义：任何变异的东西总有趋向于一般、平稳的势头。的势头。&后来人们将此种方法普遍用于寻找变量之间的规律后来人们将此种方法普遍用于寻找变量之间的规律。X为父母的为父母的身高，身高，Y为为成年子女的成年子女的身高。身高。2022/11/1717一元线性回归模型的一般形式一元线性回归模型的一般形式&要求估计：要求估计：&（1）模型结构参数）模型结构参数 0和和 1&（2）模型分布参数）模型分布参数 22022/11/1718一、普通最小二乘法一、普通最小二乘法OLS（Ordinary Least Square )&普通最小二乘法的思路普通最小二乘
16、法的思路普通最小二乘法的思路普通最小二乘法的思路:&1 1为了精确地描述为了精确地描述为了精确地描述为了精确地描述Y Y与与与与X X之间的关系，用这两之间的关系，用这两之间的关系，用这两之间的关系，用这两个变量的每一对观察值（个变量的每一对观察值（个变量的每一对观察值（个变量的每一对观察值（n n组观察值），作组观察值），作组观察值），作组观察值），作Y Y与与与与X X的的的的散点图，方法很多，可用散点图，方法很多，可用散点图，方法很多，可用散点图，方法很多，可用EviewsEviews来画。来画。来画。来画。&2.2.观察观察观察观察Y Y与与与与X X的散点图是否存在直线关系或近似的散
17、点图是否存在直线关系或近似的散点图是否存在直线关系或近似的散点图是否存在直线关系或近似直线关系。如果是则设定为：直线关系。如果是则设定为：直线关系。如果是则设定为：直线关系。如果是则设定为：&真实模型为：真实模型为：真实模型为：真实模型为：y yi i=0 0+1 1x xi i+i i&最小二乘法的核心是找一条直线（最小二乘法的核心是找一条直线（最小二乘法的核心是找一条直线（最小二乘法的核心是找一条直线（2.2.2)2.2.2)，使得，使得，使得，使得所有这些点所有这些点所有这些点所有这些点y yi i到该直线的距离的和（平方和）最小到该直线的距离的和（平方和）最小到该直线的距离的和（平方和
18、）最小到该直线的距离的和（平方和）最小实际与理论抽象最接近。实际与理论抽象最接近。实际与理论抽象最接近。实际与理论抽象最接近。2022/11/1719最小二乘法的数学原理最小二乘法的数学原理&距离是Y的实际值与拟合值之差，差异大,则拟合不好，差异小拟合好，所以称为残差、拟合误差或剩余值。&“最好最好”直线就是使误差平方和最小的直线。直线就是使误差平方和最小的直线。&于是可以运用求极值的原理，求出待定参数。于是可以运用求极值的原理，求出待定参数。2022/11/1720二、参数估计量的性质（证明略）二、参数估计量的性质（证明略）&参数估计量的性质实际上指的是用某种参数估计量的性质实际上指的是用某
19、种方法（如方法（如OLS）导出的参数估计量是否具）导出的参数估计量是否具有优良性。有优良性。&衡量优良性的标准：衡量优良性的标准：&1、线性；、线性；&2、无偏性；、无偏性；&3、有效性（最小方差性）；、有效性（最小方差性）；&4、随机误差项方差估计量的无偏性。、随机误差项方差估计量的无偏性。2022/11/1721三三.一元线性回归模型的实例一元线性回归模型的实例&认为我国用于文教科学认为我国用于文教科学卫生事业费用的支出卫生事业费用的支出（ED）主要由财政收入）主要由财政收入（FI）决定，二者之间具）决定，二者之间具有线性关系（从散点图可有线性关系（从散点图可看出）。看出）。平均百分误差在
20、平均百分误差在10%以内，表明是一个拟合得比较好的模型以内，表明是一个拟合得比较好的模型2022/11/1722我国财政文教科学卫生事业费支出模型我国财政文教科学卫生事业费支出模型:ED=30.05237+0.223419*FI1、作业记录、作业记录2.估计结果：系数、标准误差、估计结果：系数、标准误差、T统计量、显著性水平统计量、显著性水平prob拟合优度拟合优度R2残差标准差残差标准差SEF统计量统计量F显著性水平显著性水平prob2022/11/1723四、模型的检验四、模型的检验&（一）、经济意义检验。（一）、经济意义检验。&（二）、统计检验：主要包括如下几种检验：（二）、统计检验：主
21、要包括如下几种检验：&1、拟合优度检验（拟合优度检验（R R2 2检验）；检验）；2 2、方程显著、方程显著性检验（性检验（F F检验）；检验）；3 3、自变量显著性检验（、自变量显著性检验（t t检检验）；验）；4 4、残差标准差检验（、残差标准差检验（SESE检验）。检验）。&注意注意 可以证明在一元回归模型中可以证明在一元回归模型中R R2 2检验与检验与F F检验与检验与t t检验均等价，检验均等价，故只要对其中一种进行检故只要对其中一种进行检验即可。验即可。2022/11/1724此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢