《计量课件第三章-多元线性回归模型.ppt》由会员分享,可在线阅读,更多相关《计量课件第三章-多元线性回归模型.ppt(64页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、1第三章第三章 多元线性回归模型多元线性回归模型一元线性回归模型的推广一元线性回归模型的推广21、研究中国的、研究中国的GDP增长增长a.影响影响GDP增长的因素有哪些(投资、消增长的因素有哪些(投资、消费、出口、货币供应量等)?费、出口、货币供应量等)?b.GDP与各种因素关系的性质是什么?与各种因素关系的性质是什么?(增、减)(增、减)c.各影响因素与各影响因素与GDP的具体的数量关系?的具体的数量关系?d.所作数量分析结果的可靠性如何?所作数量分析结果的可靠性如何?e.今后的发展趋势怎么样?今后的发展趋势怎么样?32、中国股票价格的波动、中国股票价格的波动股票价格变动的情况怎样(股价指数
2、)?股票价格变动的情况怎样(股价指数)?影响股票价格变动的因素是什么(资金、影响股票价格变动的因素是什么(资金、政策、政策、利率等)?利率等)?股价与各种因素的关系是什么(利空、利股价与各种因素的关系是什么(利空、利多)?多)?各种因素影响的具体数量规律是什么?各种因素影响的具体数量规律是什么?所得结果可不可靠?所得结果可不可靠?今后的发展趋势怎样?今后的发展趋势怎样?43、中国家庭汽车的市场 汽车市场状况如何(销售量)?汽车市场状况如何(销售量)?影响汽车销量的主要因素是什么(收入、影响汽车销量的主要因素是什么(收入、价格、道路状况等)?价格、道路状况等)?各种因素对汽车销量影响的性质怎样(
3、正、各种因素对汽车销量影响的性质怎样(正、负、无)?负、无)?各种因素影响汽车销量的具体数量程度?各种因素影响汽车销量的具体数量程度?以上分析所得结论是否可靠以上分析所得结论是否可靠今后发展趋势怎样?今后发展趋势怎样?5 很明显,只用一个解释变量很明显,只用一个解释变量已很难分析已很难分析,还需要寻求有更多还需要寻求有更多个解释变量情况的回归分析方法。个解释变量情况的回归分析方法。6多元线性回归分析:研究因变量(被多元线性回归分析:研究因变量(被解释变量)与两个或两个以上自变量解释变量)与两个或两个以上自变量(解释变量)之间的回归问题,称为(解释变量)之间的回归问题,称为多元回归分析。多元回归
4、分析。线性回归线性回归自变量个数自变量个数大于等于大于等于2 2多元多元线性线性回归回归7第三章 多元线性回归模型第一节第一节 多元线性回归模型概述多元线性回归模型概述第二节第二节 多元线性回归模型的参数估计多元线性回归模型的参数估计第三节第三节 多元线性回归模型的统计检验多元线性回归模型的统计检验第四节第四节 非线性模型的线性化非线性模型的线性化小结小结8一、多元线性模型一、多元线性模型i=1,2,n在在这这个个模模型型中中,Y Y由由X X1 1,X,X2 2,X XK K所所解解释释,其其中中,“斜斜率率”j j的的含含义义是是其其它它变变量量不不变变的的情情况况下下,X Xj j改改变
5、变一一个个单单位位对对因因变变量量所产生的影响,也称为所产生的影响,也称为偏回归系数偏回归系数。第一节第一节 多元线性回归模型及古典假定多元线性回归模型及古典假定9二元线性回归模型(总体)二元线性回归模型(总体)样本回归模型样本回归模型10与简单线性回归分析一样,多与简单线性回归分析一样,多元线性回归分析要解决的主要问元线性回归分析要解决的主要问题仍是:根据观测样本估计模型题仍是:根据观测样本估计模型中的各个参数;对估计的参数及中的各个参数;对估计的参数及回归方程进行统计检验;利用回回归方程进行统计检验;利用回归模型进行预测和经济分析。归模型进行预测和经济分析。11 假定假定1 1:零均值假定
6、:零均值假定 假定假定2 2和假定和假定3 3:同方差和无序列相关假定:同方差和无序列相关假定 假定假定4 4:随机扰动项与解释变量不相关:随机扰动项与解释变量不相关 假定假定5:5:无多重共线性假定无多重共线性假定 (多元中多元中)假定各解释变量之间不存在线性关系,或假定各解释变量之间不存在线性关系,或各个解释变量观测值之间线性无关。各个解释变量观测值之间线性无关。假定假定6 6:正态性假定:正态性假定up二、多元线性回归模型的基本假定二、多元线性回归模型的基本假定12 第二节第二节 多元线性回归模型的参数估计多元线性回归模型的参数估计 本节基本内容:普通最小二乘法(普通最小二乘法(OLSO
7、LS)OLSOLS估计式的性质估计式的性质 随机误差项方差随机误差项方差 的估计的估计 思考题思考题 up13 一、普通最小二乘法一、普通最小二乘法(OLSOLS)最小二乘原则 剩余平方和最小:求偏导,令其为0:14151617P47 P47【经典实例经典实例】up18二、二、OLS估计式的性质估计式的性质 OLS估计式仍具有估计式仍具有 1.1.线性性线性性:2.2.无偏性无偏性:3.最小方差性最小方差性结论:结论:在古典假定下,多元线性回归的在古典假定下,多元线性回归的OLS估计式是最佳线性无偏估计式估计式是最佳线性无偏估计式 up19 三、随机误差项方差三、随机误差项方差 的估计的估计多
8、元回归中 的无偏估计为:T分布变换为变换:up20P58练习题练习题3建立高新技术企业销售额的计量建立高新技术企业销售额的计量经济模型:经济模型:2122 (23.152523.1525)()(11.308811.3088)(0.81910.8191)t=(4.6783)(4.7781)(-3.6378)t=(4.6783)(4.7781)(-3.6378)23思思考考一元线性回归模型与多元线性回一元线性回归模型与多元线性回归模型的基本假定是否相同?归模型的基本假定是否相同?24 已知含有截距项的三元线性回归模型已知含有截距项的三元线性回归模型估计的残差平方和估计的残差平方和 ,样本容量为样本
9、容量为n=24n=24,则随机误差项的方,则随机误差项的方差估计量为差估计量为()()。A.33.33B.40C.38.09D.36.36 up25 第三节第三节 多元线性回归模型的检验多元线性回归模型的检验本节基本内容:拟合优度检验 回归方程的显著性检验(F检验)变量的显著性检验(t检验)up26 对于双变量线性模型对于双变量线性模型 其中,其中,=残差平方和残差平方和我们有我们有第一节第一节 拟合优度拟合优度一、多重可决系数一、多重可决系数R R2 227对于多元线性模型对于多元线性模型我们可用同样的方法定义,称为多我们可用同样的方法定义,称为多重可决系数:重可决系数:对于多元线性模型对于
10、多元线性模型28 残残差差平平方方和和的的一一个个特特点点是是,每每当当模模型型增增加加一一个个解解释释变变量量,并并用用改改变变后后的的模模型型重重新新进进行行估估计计,残差平方和的值会减小。残差平方和的值会减小。由由此此可可以以推推论论,拟拟合合优优度度是是一一个个与与解解释释变变量量的的个数有关的量:个数有关的量:解释变量个数增加解释变量个数增加 减小减小 R R2 2 增大增大也也就就是是说说,人人们们总总是是可可以以通通过过增增加加模模型型中中解解释释变变量量的的方方法法来来增增大大R2的的值值。因因此此,用用R2来来作作为拟合优度的测度,不是十分令人满意的。为拟合优度的测度,不是十
11、分令人满意的。为此,我们定义修正可决系数为此,我们定义修正可决系数29 二、二、修正的可决系数修正的可决系数 在样本容量一定的情况下,增加解释变量在样本容量一定的情况下,增加解释变量必定使得自由度减少,所以调整的思路是必定使得自由度减少,所以调整的思路是:将将残差平方和与总离差平方和分别除以各自的自残差平方和与总离差平方和分别除以各自的自由度,以剔除变量个数对拟合优度的影响由度,以剔除变量个数对拟合优度的影响:其中:其中:n-k-1n-k-1为残差平方和的自由度,为残差平方和的自由度,n n-1-1为总体平方和的自由度。为总体平方和的自由度。K K为解释变量个数。为解释变量个数。30如果模型增
12、加一个没有解释能力的解释如果模型增加一个没有解释能力的解释变量,模型的残差平方和变量,模型的残差平方和RSS不会有多大不会有多大的减小,却使模型待估参数的个数增加,的减小,却使模型待估参数的个数增加,此时修正的可决系数不会增加,反而减此时修正的可决系数不会增加,反而减小了。而只有当模型引入有解释能力的小了。而只有当模型引入有解释能力的解释变量时,修正的可决系数才会增加。解释变量时,修正的可决系数才会增加。31 变差来源变差来源 平方和平方和 自由度自由度归于回归模型归于回归模型归于剩余归于剩余总变差总变差方差分析表方差分析表32 可决系数可决系数 必定非负,但修正的可决系数必定非负,但修正的可
13、决系数 可能为负值,这时规定可能为负值,这时规定 此外:t2.4569t0.0250.025(12)=2.179(12)=2.179拒绝原假设,拒绝原假设,说明说明 1 1不等于不等于0 0同理同理 2 2不等于不等于0 051注意注意:在一元回归中在一元回归中F检验与检验与t检验等价检验等价,一元中:一元中:F检验:检验:H0:1=0t检验:检验:H0:1=0但在多元回归中但在多元回归中F检验与检验与t检验作用不同。检验作用不同。521、将某公司的广告费用、将某公司的广告费用(X)与销售额与销售额(Y)的建立起一的建立起一元线性回归模型,计算的相关指标见表:元线性回归模型,计算的相关指标见表
14、:变差变差平方和数值平方和数值自由度自由度回归平方和回归平方和ESS()()残差平方和残差平方和RSS1540()总体平方和总体平方和TSS6604219请回答以下问题:请回答以下问题:(1)样本个数是多少?样本个数是多少?(2)求求ESS?(3)ESS和和RSS的自由度分别是多少?的自由度分别是多少?(4)求可决系数,并说明代表的含义求可决系数,并说明代表的含义(5)检验假设:检验假设:X对对Y无影响,你用什么假设检验?在无影响,你用什么假设检验?在0.05的显著性水平下,请检验。的显著性水平下,请检验。(6)估计随机误差项的方差?估计随机误差项的方差?53练练习习P57P57练习:课后习题
15、三、练习:课后习题三、计算分析题计算分析题2 254补充习题55完成以下问题:完成以下问题:1写出需求量对消费者平均收入、商品写出需求量对消费者平均收入、商品价格的线性回归估计方程。价格的线性回归估计方程。2解释偏回归系数的经济含义。解释偏回归系数的经济含义。3对该模型做经济意义检验。对该模型做经济意义检验。4估计调整的可决系数。估计调整的可决系数。5在在95%的置信度下对方程整体显著性的置信度下对方程整体显著性进行检验。进行检验。6在在95%的置信度下检验偏回归系数的置信度下检验偏回归系数(斜斜率率)的显著性。的显著性。up56 第四节第四节非线性模型的线性化非线性模型的线性化57 在实际经
16、济活动中,经济变量的关系直在实际经济活动中,经济变量的关系直接表现为线性关系的情况并不多见。接表现为线性关系的情况并不多见。如著名的如著名的恩格尔曲线恩格尔曲线表现为表现为幂函数曲幂函数曲线线形式形式,宏观经济学中的宏观经济学中的菲利普斯曲线菲利普斯曲线表现表现为为双曲线双曲线形式等。形式等。但是,大部分非线性关系可通过一些简但是,大部分非线性关系可通过一些简单的数学处理,使之化为数学上的线性关单的数学处理,使之化为数学上的线性关系,从而可以运用线性回归的方法进行计系,从而可以运用线性回归的方法进行计量经济学方面的处理。量经济学方面的处理。58一、非标准线性模型的标准化 特征:特征:有线性模型
17、的形式,但变量非完全有线性模型的形式,但变量非完全线性。线性。1、多项式函数模型、多项式函数模型2、对数模型、对数模型3、双曲线函数模型、双曲线函数模型59二、非线性模型的标准线性化 特征特征:变量与参数均非线性变量与参数均非线性。如柯布如柯布-道格拉斯生产函数道格拉斯生产函数具体做法:两边取对数具体做法:两边取对数up601.多元线性回归模型是将总体回归函数描述为一多元线性回归模型是将总体回归函数描述为一 个被解释变量与多个解释变量之间线性关系的个被解释变量与多个解释变量之间线性关系的 模型。模型。2.2.多元线性回归模型中对随机扰动项多元线性回归模型中对随机扰动项u u的假定的假定:零零
18、均值假定、同方差假定、无自相关假定、随机均值假定、同方差假定、无自相关假定、随机 扰动与解释变量不相关假定、正态性假定、无扰动与解释变量不相关假定、正态性假定、无 多重共线性假定。多重共线性假定。第三章 小结611.1.多元线性回归模型参数的最小二乘估计多元线性回归模型参数的最小二乘估计2.2.在基本假定满足的条件下,多元线性回归在基本假定满足的条件下,多元线性回归模型最小二乘估计式是最佳线性无偏估计模型最小二乘估计式是最佳线性无偏估计式。式。二、估计参数二、估计参数621.多重可决系数的意义和计算方法:修正可决系数的作用和方法:三、模型检验三、模型检验632.F检验是对多元线性回归模型中所有解释变量检验是对多元线性回归模型中所有解释变量联合显著性的检验,联合显著性的检验,F检验是在方差分析基础检验是在方差分析基础上进行的。上进行的。3.多元回归分析中,为了分别检验当其它解释变多元回归分析中,为了分别检验当其它解释变量不变时,各个解释变量是否对被解释变量有量不变时,各个解释变量是否对被解释变量有显著影响,需要分别对所估计的各个回归系数显著影响,需要分别对所估计的各个回归系数作作t检验。检验。64四、模型应用四、模型应用1、对偏回归系数经济含义的解释、对偏回归系数经济含义的解释2、点预测、点预测up