《相关与回归分析45经济计量学教学课件学习资料.ppt》由会员分享，可在线阅读，更多相关《相关与回归分析45经济计量学教学课件学习资料.ppt（102页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、相关与回归分析45经济计量学教学课件F71相关与回归分析的基本概念相关与回归分析的基本概念F72简单线性相关与回归分析简单线性相关与回归分析F73多元线性相关与回归分析多元线性相关与回归分析F74非线性相关与回归分析非线性相关与回归分析7-2 71 相关与回归分析的基本概念相关与回归分析的基本概念一、函数关系与相关关系一、函数关系与相关关系7-41.函数关系函数关系当一个或几个变量取一定的值当一个或几个变量取一定的值时，另一个变量有确定值与之时，另一个变量有确定值与之相对应，我们称这种关系为确相对应，我们称这种关系为确定性的函数关系。定性的函数关系。（函数关系）（函数关系）（1）是一一对应的确
2、定关系）是一一对应的确定关系（2）设设有有两两个个变变量量X 和和 Y，变变量量Y随随变变量量X一一起起变变化化，并并完完全全依依赖赖于于X，当当变变量量X取取某某个个数数值值时时，Y依依确确定定的的关关系系取取相相应应的的值值，则则称称 Y 是是 Y 的的函函数数，记记为为Y=f(X)，其其中中 X称称为为自自变变量，量，Y称为因变量称为因变量（3）各观测点落在一条线上）各观测点落在一条线上 7-5 X XY Y变量间的关系变量间的关系（函数关系）（函数关系）7-6 函数关系的例子函数关系的例子某某种种商商品品的的销销售售额额(Y)与与销销售售量量(X)之之间间的的关关系可表示为系可表示为
3、Y=p X(p 为单价为单价)圆圆的的面面积积(S)与与半半径径之之间间的的关关系系可可表表示示为为S=r2 企企业业的的原原材材料料消消耗耗额额(Y)与与产产量量(X1)、单单位位产产量量消消耗耗(X2)、原原材材料料价价格格(X3)之之间间的的关关系系可表示为可表示为Y=X1 X2 X3 2.相关关系：相关关系：当一个或几个相互联系的当一个或几个相互联系的变量取一定数值时，与之相对应的另一变量取一定数值时，与之相对应的另一变量的值虽然不确定，但它仍按某种规变量的值虽然不确定，但它仍按某种规律在一定的范围内变化。律在一定的范围内变化。现象之间客观存在的不严格、不确定的数量依存关系。7-7变量
4、间的关系变量间的关系（相关关系）（相关关系）（1）变变量量间间关关系系不不能能用用函函数数关关系精确表达；系精确表达；（2）一一个个变变量量的的取取值值不不能能由由另另一个变量唯一确定；一个变量唯一确定；（3）当当变变量量X 取取某某个个值值时时，变变量量Y 的取值可能有几个；的取值可能有几个；（4）各观测点分布在直线周围。）各观测点分布在直线周围。7-8 X XY Y（相关关系）（相关关系）7-9 相关关系的例子相关关系的例子商品的消费量商品的消费量(Y)与居民收入与居民收入(X)之间的关系之间的关系商品的消费量商品的消费量(Y)与物价与物价(X)之间的关系之间的关系商品销售额商品销售额(Y
5、)与广告费支出与广告费支出(X)之间的关系之间的关系粮粮食食亩亩产产量量(Y)与与施施肥肥量量(X1)、降降雨雨量量(X2)、温度、温度(X3)之间的关系之间的关系收入水平收入水平(Y)与受教育程度与受教育程度(X)之间的关系之间的关系父亲身高父亲身高(Y)与子女身高与子女身高(X)之间的关系之间的关系二、相关关系的种类二、相关关系的种类n1.按相关关系的程度划分可分为完全相关，不完全按相关关系的程度划分可分为完全相关，不完全相关和不相关。相关和不相关。n2.按相关形式划分可以分为线性相关和非线性相关。按相关形式划分可以分为线性相关和非线性相关。7-10（1）正相关：两个相关现象间，当一个变量
6、）正相关：两个相关现象间，当一个变量的数值增加（或减少）时，另一个变量的数的数值增加（或减少）时，另一个变量的数值也随之增加（或减少），即同方向变化。值也随之增加（或减少），即同方向变化。例如收入与消费的关系。例如收入与消费的关系。（2）负相关：当一个变量的数值增加（或减）负相关：当一个变量的数值增加（或减少）时，而另一个变量的数值相反地呈减少少）时，而另一个变量的数值相反地呈减少（或增加）趋势变化，即反方向变化。（或增加）趋势变化，即反方向变化。例如物价与消费的关系。例如物价与消费的关系。7-113.按相关的方向划分可分为正相关和负相关按相关的方向划分可分为正相关和负相关4.按相关关系涉及的
7、变量多少划分分为单相关、按相关关系涉及的变量多少划分分为单相关、复相关和偏相关。复相关和偏相关。n两个变量之间的相关，称为单相关。两个变量之间的相关，称为单相关。n当所研究的是一个变量对两个或两个以上其他变量当所研究的是一个变量对两个或两个以上其他变量的相关关系时，称为复相关。例如，某种商品的需的相关关系时，称为复相关。例如，某种商品的需求与其价格水平以及收入水平之间的相关关系便是求与其价格水平以及收入水平之间的相关关系便是一种复相关。一种复相关。n在某一现象与多种现象相关的场合，假定其他变量在某一现象与多种现象相关的场合，假定其他变量不变，专门考察其中两个变量的相关关系称为偏相不变，专门考察
8、其中两个变量的相关关系称为偏相关。例如，在假定人们的收入水平不变的条件下，关。例如，在假定人们的收入水平不变的条件下，某种商品的需求与其价格水平的关系就是一种偏相某种商品的需求与其价格水平的关系就是一种偏相关。关。7-12三、相关分析与回归分析三、相关分析与回归分析（一）概念：（一）概念：7-131.相关分析相关分析就是用一个指标来表明现象间相互就是用一个指标来表明现象间相互依存关系的密切程度。广义的相关依存关系的密切程度。广义的相关分析包括相关关系的分析（狭义的分析包括相关关系的分析（狭义的相关分析）和回归分析。相关分析）和回归分析。2.回归分析回归分析是指对具有相关关系的现象，根据是指对具
9、有相关关系的现象，根据其相关关系的具体形态，选择一个其相关关系的具体形态，选择一个合适的数学模型（称为回归方程式）合适的数学模型（称为回归方程式），用来近似地表达变量间的平均变，用来近似地表达变量间的平均变化关系的一种统计分析方法。化关系的一种统计分析方法。（二）相关分析与回归分析的（二）相关分析与回归分析的区别区别 n 1.在相关分析中，不必确定自变量和因变量；在相关分析中，不必确定自变量和因变量；而在回归分析中，必须事先确定哪个为自变而在回归分析中，必须事先确定哪个为自变量，哪个为因变量，而且只能从自变量去推量，哪个为因变量，而且只能从自变量去推测因变量，而不能从因变量去推断自变量。测因变
10、量，而不能从因变量去推断自变量。n2.相关分析不能指出变量间相互关系的具体形相关分析不能指出变量间相互关系的具体形式；而回归分析能确切的指出变量之间相互式；而回归分析能确切的指出变量之间相互关系的具体形式，它可根据回归模型从已知关系的具体形式，它可根据回归模型从已知量估计和预测未知量。量估计和预测未知量。n3.相关分析所涉及的变量一般都是随机变量，相关分析所涉及的变量一般都是随机变量，而回归分析中因变量是随机的，自变量则作而回归分析中因变量是随机的，自变量则作为研究时给定的非随机变量。为研究时给定的非随机变量。7-14（三）相关分析与回归分析的联系（三）相关分析与回归分析的联系n相关分析和回归
11、分析有着密切的联系，它们相关分析和回归分析有着密切的联系，它们不仅具有共同的研究对象，而且在具体应用不仅具有共同的研究对象，而且在具体应用时，常常必须互相补充。相关分析需要依靠时，常常必须互相补充。相关分析需要依靠回归分析来表明现象数量相关的具体形式，回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量之间存在数量变化的相关程度。只有当变量之间存在着高度相关时，进行回归分析寻求其相关的着高度相关时，进行回归分析寻求其相关的具体形式才有意义。具体形式才有意义。n简单说：简单说：1.相关分析是回归分析的基础
12、和前提相关分析是回归分析的基础和前提；2.回归分析是相关分析的深入和继续回归分析是相关分析的深入和继续。7-157-16定性分析定性分析是依据研究者的理论知识和实践经是依据研究者的理论知识和实践经验，对客观现象之间是否存在相关验，对客观现象之间是否存在相关关系，以及何种关系作出判断。关系，以及何种关系作出判断。定量分析定量分析在定性分析的基础上，通过编制在定性分析的基础上，通过编制相相关表关表、绘制、绘制相关图相关图、计算、计算相关系数相关系数等方法，来判断现象之间相关的方等方法，来判断现象之间相关的方向、形态及密切程度。向、形态及密切程度。四、相关关系的判断四、相关关系的判断(一一)相关表：
13、相关表：将自变量将自变量X的数值按照从小到大的顺序，的数值按照从小到大的顺序，并配合因变量并配合因变量Y的数值一一对应而平行排列的表。的数值一一对应而平行排列的表。例：为了研究分析某种劳务产品完成量与其单位产品成本之例：为了研究分析某种劳务产品完成量与其单位产品成本之间的关系，调查间的关系，调查30个同类服务公司得到的原始数据如表。个同类服务公司得到的原始数据如表。7-17整理后有整理后有(二二)相关图：又称散点图。将相关图：又称散点图。将X置于横轴上，置于横轴上，Y置于置于纵轴上，将（纵轴上，将（X,Y）绘于坐标图上。绘于坐标图上。用来反映两用来反映两变量之间相关关系的图形。变量之间相关关系
14、的图形。7-187-197-2 简单线性相关与回归分析简单线性相关与回归分析一、相关系数及其检验一、相关系数及其检验(一一)相关系数的定义相关系数的定义1.简单相关系数：在线性条件下说明两个变简单相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标，量之间相关关系密切程度的统计分析指标，简称相关系数。简称相关系数。若若相相关关系系数数是是根根据据总总体体全全部部数数据据计计算算的的，称为总体相关系数，记为称为总体相关系数，记为若若是是根根据据样样本本数数据据计计算算的的，则则称称为为样样本本相相关系数，记为关系数，记为 r7-217-227-23样本相关系数的定义公式实质样本相
15、关系数的定义公式实质7-24（二）相关系数的特点（二）相关系数的特点1.的取值介于与之间，的取值介于与之间，r 的取值范围是的取值范围是-1,12.在大多数情况下，在大多数情况下，|，即，即与与的样本的样本观测值之间存在着一定的线性关系，当观测值之间存在着一定的线性关系，当时，时，与为正相关，当与为正相关，当时，时，与与为负相关。为负相关。|的数值愈接近于的数值愈接近于1，表示，表示x与与y直线相关程度愈直线相关程度愈高；反之，高；反之，|的数值愈接近于的数值愈接近于0，表示，表示x与与y直直线相关程度愈低。通常判断的标准是线相关程度愈低。通常判断的标准是:|0.3称为微弱相关，称为微弱相关，
16、0.3|0.5称为低度相关，称为低度相关，0.|0.8称为显著相关称为显著相关，0.8|1称为高度相关或强相关。称为高度相关或强相关。7-253.如果如果|=1，则表明，则表明与与完全线性相关，完全线性相关，当当=1时，称为完全正相关，时，称为完全正相关，而而=-1时，称为完全负相关。时，称为完全负相关。4.是对变量之间线性相关关系的度量。是对变量之间线性相关关系的度量。=0只是表明两个变量之间不存在线性关系，只是表明两个变量之间不存在线性关系，它并不意味着它并不意味着与与之间不存在其他类型的之间不存在其他类型的关系。关系。7-26相关关系的测度相关关系的测度（相关系数取值及其意义）（相关系数
17、取值及其意义）7-27-1.0+1.00-0.5+0.5完全负相关完全负相关无线性相关无线性相关完全正相关完全正相关负相关程度增加负相关程度增加负相关程度增加负相关程度增加r正相关程度增加正相关程度增加正相关程度增加正相关程度增加(三三)相关系数的计算相关系数的计算7-28计算相关系数计算相关系数的的“积差法积差法”7-29 例：下表是有关例：下表是有关15个地区某种食物需求量和地区人口个地区某种食物需求量和地区人口增加量的资料。增加量的资料。7-30计算公式还可以有：计算公式还可以有：7-31（四）相关系数的显著性检验（四）相关系数的显著性检验 n1.检验两个变量之间是否存在线性相关关检验两
18、个变量之间是否存在线性相关关系系n2.采用采用 t 检验检验n3.检验的步骤为检验的步骤为n提出假设：提出假设：H0：；H1：07-32n n 计算检验的统计量：计算检验的统计量：计算检验的统计量：计算检验的统计量：n 确定显著性水平确定显著性水平，并作出决策，并作出决策 若若 t t，拒绝，拒绝H0 若若 t=48.385t t(15-2)=2.160(15-2)=2.160，拒绝，拒绝，拒绝，拒绝HH0 0，该，该，该，该种食物需求量和地区人口增加量种食物需求量和地区人口增加量之间的相关之间的相关之间的相关之间的相关关系显著。关系显著。关系显著。关系显著。什么是回归分析？什么是回归分析？（
19、内容）（内容）1.从从一一组组样样本本数数据据出出发发，确确定定变变量量之之间间的的数数学学关系式关系式2.对对这这些些关关系系式式的的可可信信程程度度进进行行各各种种统统计计检检验验，并并从从影影响响某某一一特特定定变变量量的的诸诸多多变变量量中中找找出出哪哪些变量的影响显著，哪些不显著些变量的影响显著，哪些不显著3.利利用用所所求求的的关关系系式式，根根据据一一个个或或几几个个变变量量的的取取值值来来预预测测或或控控制制另另一一个个特特定定变变量量的的取取值值，并给出这种预测或控制的精确程度并给出这种预测或控制的精确程度7-34二、简单线性回归分析二、简单线性回归分析回归模型与回归方程回归
20、模型与回归方程回归模型回归模型1.回答回答“变量之间是什么样的关系？变量之间是什么样的关系？”2.方程中运用方程中运用n1 个数字的因变量个数字的因变量(响应变量响应变量)n被预测的变量被预测的变量n1 个或多个数字的或分类的自变量个或多个数字的或分类的自变量(解释变量解释变量)n用于预测的变量用于预测的变量3.主要用于预测和估计主要用于预测和估计7-36回归模型的类型回归模型的类型7-37一个自变量一个自变量一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线
21、性线性回归回归非线性非线性回归回归一元线性回归模型一元线性回归模型（概念要点）（概念要点）1.当当只只涉涉及及一一个个自自变变量量时时称称为为一一元元回回归归，若若因因变变量量 Y 与与自自变变量量 X 之之间间为为线线性性关关系系时时称称为为一一元元线性回归。线性回归。2.对对于于具具有有线线性性关关系系的的两两个个变变量量，可可以以用用一一条条线线性方程来表示它们之间的关系。性方程来表示它们之间的关系。3.描述因变量描述因变量 Y 如何依赖于自变量如何依赖于自变量X 和误差项和误差项U 的方程称为的方程称为回归模型。回归模型。7-38标准的一元线性回归模型n（一）总体回归模型（一）总体回归
22、模型 i01iui（7.5）u t是随机误差项，又称随机干扰项，它是随机误差项，又称随机干扰项，它是一个特殊的随机变量，反映未列入方程式是一个特殊的随机变量，反映未列入方程式的其他各种因素对的影响。的其他各种因素对的影响。n （i i，.n).n)i称为残差，在概念上，称为残差，在概念上，i与总体误差与总体误差项项ui相互对应；是样本的容量。相互对应；是样本的容量。7-39n例例7.1：一个假想的社区总体有一个假想的社区总体有100户家庭组成，户家庭组成，要研究该社区每月要研究该社区每月家庭消费支出家庭消费支出Y与每月与每月家庭家庭可支配收入可支配收入X的关系。的关系。即如果知道了家庭的月即如
23、果知道了家庭的月收入，能否预测该社区家庭的平均月消费支出收入，能否预测该社区家庭的平均月消费支出水平。水平。为达到此目的，将该为达到此目的，将该100户家庭划分为组户家庭划分为组内收入差不多的内收入差不多的10组，以分析每一收入组的家组，以分析每一收入组的家庭消费支出庭消费支出。（一）总体回归模型（一）总体回归模型某社区家庭每月收入与消费支出统计表某社区家庭每月收入与消费支出统计表每月家庭可支配收入每月家庭可支配收入X X（元）（元）800110014001700200023002600290032003500每月每月家庭家庭消费消费支出支出Y Y（元）（元）56163886910231254
24、140816501969209022995947489131100130914521738199121342321627814924114413641551174920462178253063882597911551397159518042068226626298471012121014081650184821012354286093510451243147416721881218924862871968107812541496168319252233255211221298149617161969224425851155133115621749201322992640118813641573
25、17712035231012101408160618042101143016501870211214851716194722002002合计合计242057751149516445193052387025025214502128515510平均平均60582510451265148517051925214523652585n由于不确定因素的影响，对同一收入水平由于不确定因素的影响，对同一收入水平X，不同家庭的消费支出不完全相同；，不同家庭的消费支出不完全相同；n但由于调查的完备性，给定收入水平但由于调查的完备性，给定收入水平X的消的消费支出费支出Y的分布是确定的，即以的分布是确定的，即以X的给
26、定值的给定值为条件的为条件的Y的的条件分布（Conditional distribution）是已知的，例如：）是已知的，例如：P(Y=561|X=800）=1/4。n因此，给定收入因此，给定收入X的值的值Xi，可得消费支出，可得消费支出Y的的条件均值条件均值（conditional mean）或）或条件期望条件期望（conditional expectation）：）：E(Y|X=Xi)。n该例中：该例中：E(Y|X=800)=605n描出散点图发现：随着收入的增加，消费描出散点图发现：随着收入的增加，消费“平均地说”也在增加，且也在增加，且Y的条件均值均落的条件均值均落在一根正斜率的直线上
27、。这条直线称为在一根正斜率的直线上。这条直线称为总体总体回归线回归线。n在给定解释变量在给定解释变量Xi条件下被解释变量条件下被解释变量Yi的期望的期望轨迹称为轨迹称为总体回归线总体回归线（population regression line），或更一般地称为），或更一般地称为总体回总体回归曲线归曲线（population regression curve）。）。称为（双变量）称为（双变量）总体回归函数总体回归函数（population regression function,PRF）。相应的函数：相应的函数：050010001500200025003000350050010001500200
28、02500300035004000每月可支配收入X（元）每月消费支出Y（元）n含含义：回归函数（回归函数（PRF）说明被解释变量）说明被解释变量Y的的平均状态（总体条件期望）随解释变量平均状态（总体条件期望）随解释变量X变化变化的规律。的规律。函数形式函数形式：可以是线性或非线性的。可以是线性或非线性的。例例2.1中，中，将居民消费支出看成是其可支配收入将居民消费支出看成是其可支配收入的线性函数时的线性函数时:为一为一线性函数线性函数。其中，其中，B B0 0，B B1 1是未知参数，称为是未知参数，称为回归系数回归系数（regression coefficients）。）。随机随机误差差项n
29、总体回归函数说明在给定的收入水平总体回归函数说明在给定的收入水平Xi下，该下，该社区家庭平均的消费支出水平。社区家庭平均的消费支出水平。n但对某一个别的家庭，其消费支出可能与该平但对某一个别的家庭，其消费支出可能与该平均水平有偏差。均水平有偏差。n称为观察值围绕它的期望值的称为观察值围绕它的期望值的离差离差（deviation），是一个不可观测的随机变量，是一个不可观测的随机变量，又称为又称为随机误差项随机误差项（stochastic error）或或随机随机扰动项扰动项（stochastic disturbance）。n例例7.1中，给定收入水平中，给定收入水平Xi,个别家庭的支个别家庭的支
30、出可表示为两部分之和：出可表示为两部分之和：（1）该收入水平下所有家庭的平均消费支出）该收入水平下所有家庭的平均消费支出E(Y|Xi)，称为，称为系统性（系统性（systematic）或或确定性确定性（deterministic)部分；部分；（2）其他）其他随机随机或或非确定性（非确定性（nonsystematic)部分部分 ui。n称为称为总体回归函数（总体回归函数（PRF）的随机设定的随机设定形式。表明被解释变量除了受解释变量形式。表明被解释变量除了受解释变量的系统性影响外，还受其他因素的随机的系统性影响外，还受其他因素的随机性影响。由于方程中引入了随机项，成性影响。由于方程中引入了随机项
31、，成为计量经济学模型，因此也称为为计量经济学模型，因此也称为总体回总体回归模型归模型。n随机误差项主要包括下列因素：随机误差项主要包括下列因素：在解释变量中被忽略的因素的影响；在解释变量中被忽略的因素的影响；变量观测值的观测误差的影响；变量观测值的观测误差的影响；模型关系的设定误差的影响；模型关系的设定误差的影响；其他随机因素的影响。其他随机因素的影响。n产生并设计随机误差项的主要原因：产生并设计随机误差项的主要原因：理论的含糊性；理论的含糊性；数据的欠缺；数据的欠缺；节省原则节省原则“奥卡姆剃刀原则奥卡姆剃刀原则”。（二）（二）样本回本回归函数（函数（SRF）n问题：问题：能从一次抽样中获得
32、总体的近似的信息能从一次抽样中获得总体的近似的信息吗？如果可以，如何从抽样中获得总体的近似吗？如果可以，如何从抽样中获得总体的近似信息？信息？n例例7.2：在例在例7.1的总体中有如下一个样本，能的总体中有如下一个样本，能否从该样本估计总体回归函数否从该样本估计总体回归函数PRF？回答：能回答：能表：家庭消费支出与可支配收入的一个随机样本表：家庭消费支出与可支配收入的一个随机样本X800110014001700200023002600290032003500Y59463811221155140815951969207825852530 该样本的该样本的散点图散点图（scatter diagra
33、m)：n 画一条直线以尽好地拟合该散点图，由于样本画一条直线以尽好地拟合该散点图，由于样本取自总体，可以该直线近似地代表总体回归线。取自总体，可以该直线近似地代表总体回归线。该直线称为该直线称为样本回归线（sample regression lines）。n 记样本回归线的函数记样本回归线的函数形式为：形式为：称为称为样本回归函数样本回归函数（sample regression function，SRF）。注意：注意：这里将这里将样本回归线样本回归线看成看成总体回归线总体回归线的近似的近似替代替代则则:为为E(Y|Xi)的估计量的估计量bi为为Bi的估计量，的估计量，i=0,1一元线性回归模型
34、一元线性回归模型（概念要点）（概念要点）对对于于只只涉涉及及一一个个自自变变量量的的简简单单线线性性回回归归模模型型可可表表示示为为 Yi=0+1 Xi+Ui模型中，模型中，Y 是是 X 的线性函数的线性函数(部分部分)加上误差项加上误差项n线性部分反映了由于线性部分反映了由于 X 的变化而引起的的变化而引起的 Y 的变化的变化n误差项误差项Ui 是随机变量是随机变量n反反映映了了除除X 和和 Y 之之间间的的线线性性关关系系之之外外的的随随机机因因素对素对 Y 的影响的影响n是是不不能能由由 X 和和 Y 之之间间的的线线性性关关系系所所解解释释的的变变异性异性n 0 和和 1 称为模型的参
35、数称为模型的参数7-55样本回归函数与总体回归函数区别样本回归函数与总体回归函数区别1.总体回归线是未知的，只有一条。样本回归线是根据样本数据总体回归线是未知的，只有一条。样本回归线是根据样本数据拟合的，每抽取一组样本，便可以拟合一条样本回归线。拟合的，每抽取一组样本，便可以拟合一条样本回归线。2.总体回归函数中的总体回归函数中的0和和1是未知的参数，表现为常数。而样是未知的参数，表现为常数。而样本回归函数中的本回归函数中的 是随机变量，其具体数值随所抽取是随机变量，其具体数值随所抽取的样本观测值不同而变动。的样本观测值不同而变动。3.总体回归函数中的总体回归函数中的Ui是是i与未知的总体回归
36、线之间的纵向距与未知的总体回归线之间的纵向距离，它是不可直接观测的。而样本回归函数中的离，它是不可直接观测的。而样本回归函数中的i是是i与与样本回归线之间的纵向距离，当根据样本观测值拟合出样样本回归线之间的纵向距离，当根据样本观测值拟合出样本回归线之后，可以计算出本回归线之后，可以计算出i的具体数值。的具体数值。7-56（三）（三）误差项误差项的的基本标准假定基本标准假定1.误误差差项项Ui是是一一个个期期望望值值为为0的的随随机机变变量量，即即E(Ui)=0。对对于于一一个个给给定定的的 X 值值，Y 的的期期望望值值为为E(Yi|Xi)=0+1 Xi2.对于所有的对于所有的 X值，值，Ui
37、的方差的方差2 都相同都相同3.误误差差项项Ui是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相互独立。即相互独立。即UN(0,2)n独独立立性性意意味味着着对对于于一一个个特特定定的的 X值值，它它所所对应的对应的U与其他与其他X 值所对应的值所对应的U不相关不相关n对对于于一一个个特特定定的的 X值值，它它所所对对应应的的Yi值值与与其他其他 Xi所对应的所对应的Y 值也不相关值也不相关7-57总体回归线与随机误差项总体回归线与随机误差项7-58（t）01tXYtY 。ut（四）回归方程（四）回归方程（概念要点）（概念要点）1.描描述述 Y 的的条条件件平平均均值值或或期期
38、望望值值如如何何依依赖赖于于 X 的方程称为的方程称为回归方程。2.简单线性回归方程的形式如下简单线性回归方程的形式如下 E(Y|Xi)=0+1 Xi7-59方方方方程程程程的的的的图图图图示示示示是是是是一一一一条条条条直直直直线线线线，因因因因此此此此也也也也称称称称为为为为直直直直线线线线回回回回归归归归方程方程方程方程 0 0是是是是回回回回归归归归直直直直线线线线在在在在 Y Y 轴轴轴轴上上上上的的的的截截截截距距距距，是是是是当当当当 X=0 X=0 时时时时Y Y 的期望值的期望值的期望值的期望值 1 1是是是是直直直直线线线线的的的的斜斜斜斜率率率率，称称称称为为为为回回回回
39、归归归归系系系系数数数数，表表表表示示示示当当当当 X X 每每每每变动一个单位时，变动一个单位时，变动一个单位时，变动一个单位时，Y Y 的平均变动值的平均变动值的平均变动值的平均变动值估计估计(经验经验)的回归的回归方程方程7-603.简单线性回归中估计的回归方程为简单线性回归中估计的回归方程为其其中中：是是估估计计的的回回归归直直线线在在 Y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 X 的的值值，是是Y 的的估估计计值，也表示值，也表示 X 每变动一个单位时，每变动一个单位时，Y 的平均变动值。的平均变动值。2.用用样样本本统统计计量量
40、和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ，就得到了，就得到了估计的回归方程。估计的回归方程。估计的回归方程。估计的回归方程。1.总总体体回回归归参参数数 和和 是是未未知知的的，必必需需利利用用样样本数据去估计本数据去估计三、参数三、参数 0 和和 1 的最小二乘的最小二乘估计估计（一）最小二乘法（一）最小二乘法（概念要点）（概念要点）7-621.使因变量的观察值与估计值之间的离差平方和达使因变量的观察值与估计值之间的离差平方和达到最小来求得到最小来求得 和和 的方法。即的方法。即2.用用最最小小二二乘乘法法拟拟合合的的直直线线来来代代表表X与与Y之之间间的的关关系系与与
41、实实际际数数据据的的误误差差比比其其他他任任何何直直线线都都小。小。最小二乘法最小二乘法（图示）（图示）7-63X XY Y(Xn,Yn)(X1,Y1)(X2,Y2)(Xi,Yi)ei=Yi-Yi3.回归系数的估计的最小二乘法公式回归系数的估计的最小二乘法公式 设设 将对求偏导数，并令其等于零，可得将对求偏导数，并令其等于零，可得:n加以整理后有：加以整理后有：7-64 最小二乘法最小二乘法（和和 的计算公式的计算公式）7-65 解方程组解方程组可得求解可得求解 和和 的标准方程如下：的标准方程如下：例：现以前例的资料配合回归直线，计算如下：例：现以前例的资料配合回归直线，计算如下：7-667
42、-677-68上式中上式中 表示人口增加量每增加表示人口增加量每增加（或减少）（或减少）1千人，该种食品的年需求量千人，该种食品的年需求量平均来说增加（或减少）平均来说增加（或减少）0.5301十吨即十吨即5.301吨。吨。估计方程的求法估计方程的求法（Excel的输出结果）的输出结果）7-69（二）估计标准误差（二）估计标准误差 SY1.实际观察值与回归估计值离差平方和的均方根。实际观察值与回归估计值离差平方和的均方根。2.反映实际观察值在回归直线周围的分散状况。反映实际观察值在回归直线周围的分散状况。3.从另一个角度说明了回归直线的拟合程度。从另一个角度说明了回归直线的拟合程度。4.计算公
43、式为计算公式为7-70由由样本本资料料计算算由由总体体资料料计算或算或在大在大样本情况下本情况下7-71计计算算例例子子可得简化式：可得简化式：7-72上式的推导证明上式的推导证明了解了解（三）最小二乘估计量的性质（三）最小二乘估计量的性质（四）回归系数的区间估计（四）回归系数的区间估计7-73四、一元线性回归模型的检验四、一元线性回归模型的检验（一）（一）回归模型检验的种类回归模型检验的种类 回归模型的检验包括理论意义检验、一级检回归模型的检验包括理论意义检验、一级检验和二级检验。验和二级检验。（二）拟合程度的评价（二）拟合程度的评价n 所谓拟合程度，是指样本观测值聚集在样本所谓拟合程度，是
44、指样本观测值聚集在样本回归线周围的紧密程度。判断回归模型拟合回归线周围的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数程度优劣最常用的数量尺度是样本决定系数（又称决定系数）。它是建立在对总离差平（又称决定系数）。它是建立在对总离差平方和进行分解的基础之上的。方和进行分解的基础之上的。7-75总离差平方和的分解总离差平方和的分解1.因因变变量量 Y 的的取取值值是是不不同同的的，Y 取取值值的的这这种种波动称为波动称为变差变差。变差来源于两个方面：。变差来源于两个方面：n由于自变量由于自变量X 的取值不同造成的；的取值不同造成的；n除除 X 以以外外的的其其他他因因素素(如如X
45、对对Y的的非非线线性性影影响响、测量误差等测量误差等)的影响。的影响。2.对对一一个个具具体体的的观观测测值值来来说说，变变差差的的大大小小可可以以通通过过该该实实际际观观测测值值与与其其均均值值之之差差 来来表示。表示。7-76离差平方和的分解离差平方和的分解（图示）（图示）7-77X XY Y 离差分解图离差分解图离差平方和的分解离差平方和的分解（三个平方和的关系）（三个平方和的关系）2.两端平方后求和有两端平方后求和有7-781.从图上看有从图上看有SST=SSR+SSE总变差平方和总变差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）离差平方和的分解离差平方
46、和的分解（三个平方和的意义）（三个平方和的意义）1.总平方和总平方和(SST)n反映因变量的反映因变量的 n 个观察值与其均值的总离差个观察值与其均值的总离差2.回归平方和回归平方和(SSR)n反反映映自自变变量量 X 的的变变化化对对因因变变量量 Y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 X 与与Y 之之间间的的线线性性关关系系引引起起的的 Y 的的取取值值变变化化，也也称称为为可可解解释释的的平平方和。方和。3.残差平方和残差平方和(SSE)n反反映映除除 X 以以外外的的其其他他因因素素对对 Y 取取值值的的影影响响，也称为不可解释的平方和或剩余平方和。也称为不可解释
47、的平方和或剩余平方和。7-79样本决定系数样本决定系数（判定系数（判定系数 r2）1.回归平方和占总离差平方和的比例：回归平方和占总离差平方和的比例：7-802.反映回归直线的拟合程度反映回归直线的拟合程度3.取值范围在取值范围在 0,1 之间之间4.r2 1，说明回归方程拟合的越好；，说明回归方程拟合的越好；r20，说明回归方程拟合的越差，说明回归方程拟合的越差5.判定系数等于相关系数的平方，即判定系数等于相关系数的平方，即r2(r)2（三）回归方程的显著性检验（三）回归方程的显著性检验（线性关系的检验线性关系的检验）1.检检验验自自变变量量和和因因变变量量之之间间的的线线性性关关系系是是否
48、否显著显著2.具具体体方方法法是是将将回回归归离离差差平平方方和和(SSR)同同剩剩余余离离差差平平方方和和(SSE)加加以以比比较较，应应用用F检检验验来来分析二者之间的差别是否显著分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系如果不显著，两个变量之间不存在线性关系7-81回归方程的显著性检验回归方程的显著性检验（检验检验的步骤）的步骤）1.提出假设提出假设nH0：线性关系不显著：线性关系不显著7-822.计算检验统计量计算检验统计量F3.确定显著性水平确定显著性水平，并根据分子自由度，并根据分子自
49、由度1和分和分母自由度母自由度n-2找出临界值找出临界值F 4.作出决策：若作出决策：若F F ,拒绝拒绝H0；若若Ft，拒绝，拒绝H0；t t=2.160，拒拒绝绝H0，表表明明该该种种食食品品的年需求量与人口增加量之间有线性关系。的年需求量与人口增加量之间有线性关系。对前例的回归系数进行显著性检验对前例的回归系数进行显著性检验(0.05)回归系数的显著性检验回归系数的显著性检验(Excel输出的结果）输出的结果）7-89预测及应用预测及应用利用回归方程进行估计和预测利用回归方程进行估计和预测1.根据自变量根据自变量X 的取值估计或预测因变量的取值估计或预测因变量 Y的取值的取值2.估计或预
50、测的类型估计或预测的类型n点估计点估计nY 的平均值的点估计的平均值的点估计nY的个别值的点估计的个别值的点估计n区间估计区间估计nY 的平均值的的平均值的置信区间置信区间估计估计nY的个别值的的个别值的预测区间预测区间估计估计7-91利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）7-922.点估计值点估计值3.在点估计条件下，平均值的点估计和个别值的在点估计条件下，平均值的点估计和个别值的的点估计是一样的，但在区间估计中则不同的点估计是一样的，但在区间估计中则不同1.对对于于自自变变量量 X 的的一一个个给给定定值值x0，根根据据回回归归方方程程得到因变量得到因变量