相关与回归分析幻灯片.ppt-淘文阁

资源描述

《相关与回归分析幻灯片.ppt》由会员分享，可在线阅读，更多相关《相关与回归分析幻灯片.ppt（97页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、相关与回归分析相关与回归分析第1页，共97页，编辑于2022年，星期一1第一节第一节相关与回归分析的基本概念相关与回归分析的基本概念一、函数关系与相关关系一、函数关系与相关关系1.函数关系函数关系当一个或几个变量取一定的值时，当一个或几个变量取一定的值时，另一个变量有确定值与之相对应，另一个变量有确定值与之相对应，我们称这种关系为确定性的函数我们称这种关系为确定性的函数关系。关系。第2页，共97页，编辑于2022年，星期一2（函数关系）（函数关系）（1）是一一对应的确定关系）是一一对应的确定关系（2）设设有有两两个个变变量量 x 和和 y，变变量量 y 随随变变量量 x 一一起起变变化化，并

2、并完完全全依依赖赖于于 x，当当变变量量 x 取取某某个个数数值值时时，y 依依确确定定的的关关系系取取相相应应的的值值，则则称称 y 是是 x 的的函函数数，记记为为 y=f(x)，其其中中 x 称称为为自自变变量量，y 称称为为因因变量变量（3）各观测点落在一条线上）各观测点落在一条线上 x xy y第3页，共97页，编辑于2022年，星期一3变量间的关系变量间的关系（函数关系）（函数关系）函数关系的例子函数关系的例子某某种种商商品品的的销销售售额额(y)与与销销售售量量(x)之之间间的的关关系系可可表示为表示为 y=p x(p 为单价为单价)圆的面积圆的面积(S)与半径之间的关系可表示为

3、与半径之间的关系可表示为S=r2 企企业业的的原原材材料料消消耗耗额额(y)与与产产量量(x1)、单单位位产产量量消消耗耗(x2)、原原材材料料价价格格(x3)之之间间的的关关系系可可表表示示为为y=x1 x2 x3 第4页，共97页，编辑于2022年，星期一42.相关关系：相关关系：当一个或几个相互联系的变量当一个或几个相互联系的变量取一定数值时，与之相对应的另一变量的取一定数值时，与之相对应的另一变量的值虽然不确定，但它仍按某种规律在一定值虽然不确定，但它仍按某种规律在一定的范围内变化。的范围内变化。现象之间客观存在的不严格、不确定的数量依存关系。第5页，共97页，编辑于2022年，星期一

4、5变量间的关系变量间的关系（相关关系）（相关关系）（1）变变量量间间关关系系不不能能用用函函数数关关系系精确表达；精确表达；（2）一一个个变变量量的的取取值值不不能能由由另另一一个变量唯一确定；个变量唯一确定；（3）当当变变量量 x 取取某某个个值值时时，变变量量 y 的取值可能有几个；的取值可能有几个；（4）各观测点分布在直线周围。）各观测点分布在直线周围。x xy y第6页，共97页，编辑于2022年，星期一6（相关关系）（相关关系）相关关系的例子相关关系的例子商品的消费量商品的消费量(y)与居民收入与居民收入(x)之间的关系之间的关系商品的消费量商品的消费量(y)与物价与物价(x)之间的

5、关系之间的关系商品销售额商品销售额(y)与广告费支出与广告费支出(x)之间的关系之间的关系粮粮食食亩亩产产量量(y)与与施施肥肥量量(x1)、降降雨雨量量(x2)、温温度度(x3)之间的关系之间的关系收入水平收入水平(y)与受教育程度与受教育程度(x)之间的关系之间的关系父亲身高父亲身高(y)与子女身高与子女身高(x)之间的关系之间的关系第7页，共97页，编辑于2022年，星期一7二、相关关系的种类二、相关关系的种类n1.按相关关系的程度划分可分为完全相关，不完全按相关关系的程度划分可分为完全相关，不完全相关和不相关。相关和不相关。n2.按相关形式划分可以分为线性相关和非线性相关。按相关形式划

6、分可以分为线性相关和非线性相关。第8页，共97页，编辑于2022年，星期一8（1）正相关：两个相关现象间，当一个变量的数值）正相关：两个相关现象间，当一个变量的数值增加（或减少）时，另一个变量的数值也随之增加增加（或减少）时，另一个变量的数值也随之增加（或减少），即同方向变化。（或减少），即同方向变化。例如收入与消费的关系。例如收入与消费的关系。（2）负相关：当一个变量的数值增加（或减少）负相关：当一个变量的数值增加（或减少）时，而另一个变量的数值相反地呈减少（或增时，而另一个变量的数值相反地呈减少（或增加）趋势变化，即反方向变化。加）趋势变化，即反方向变化。例如物价与消费的关系。例如物价与消

7、费的关系。3.按相关的方向划分可分为正相关和负相关按相关的方向划分可分为正相关和负相关第9页，共97页，编辑于2022年，星期一94.按相关关系涉及的变量多少划分分为单相关、复按相关关系涉及的变量多少划分分为单相关、复相关和偏相关。相关和偏相关。n两个变量之间的相关，称为单相关。两个变量之间的相关，称为单相关。n当所研究的是一个变量对两个或两个以上其他变量当所研究的是一个变量对两个或两个以上其他变量的相关关系时，称为复相关。例如，某种商品的需的相关关系时，称为复相关。例如，某种商品的需求与其价格水平以及收入水平之间的相关关系便是求与其价格水平以及收入水平之间的相关关系便是一种复相关。一种复相关

8、。n在某一现象与多种现象相关的场合，假定其他变量在某一现象与多种现象相关的场合，假定其他变量不变，专门考察其中两个变量的相关关系称为偏相不变，专门考察其中两个变量的相关关系称为偏相关。例如，在假定人们的收入水平不变的条件下，关。例如，在假定人们的收入水平不变的条件下，某种商品的需求与其价格水平的关系就是一种偏相某种商品的需求与其价格水平的关系就是一种偏相关。关。第10页，共97页，编辑于2022年，星期一10三、相关分析与回归分析三、相关分析与回归分析（一）概念：（一）概念：1.相关分析相关分析就是用一个指标来表明现象间相互依就是用一个指标来表明现象间相互依存关系的密切程度。广义的相关分析存关

9、系的密切程度。广义的相关分析包括相关关系的分析（狭义的相关分包括相关关系的分析（狭义的相关分析）和回归分析。析）和回归分析。2.回归分析回归分析是指对具有相关关系的现象，根据其相是指对具有相关关系的现象，根据其相关关系的具体形态，选择一个合适的数关关系的具体形态，选择一个合适的数学模型（称为回归方程式），用来近似学模型（称为回归方程式），用来近似地表达变量间的平均变化关系的一种统地表达变量间的平均变化关系的一种统计分析方法。计分析方法。第11页，共97页，编辑于2022年，星期一11（二）相关分析与回归分析的（二）相关分析与回归分析的区别区别 n 1.在相关分析中，不必确定自变量和因变量；在相

10、关分析中，不必确定自变量和因变量；而在回归分析中，必须事先确定哪个为自变而在回归分析中，必须事先确定哪个为自变量，哪个为因变量，而且只能从自变量去推量，哪个为因变量，而且只能从自变量去推测因变量，而不能从因变量去推断自变量。测因变量，而不能从因变量去推断自变量。n2.相关分析不能指出变量间相互关系的具体形相关分析不能指出变量间相互关系的具体形式；而回归分析能确切的指出变量之间相互式；而回归分析能确切的指出变量之间相互关系的具体形式，它可根据回归模型从已知关系的具体形式，它可根据回归模型从已知量估计和预测未知量。量估计和预测未知量。n3.相关分析所涉及的变量一般都是随机变量，相关分析所涉及的变量

11、一般都是随机变量，而回归分析中因变量是随机的，自变量则作而回归分析中因变量是随机的，自变量则作为研究时给定的非随机变量。为研究时给定的非随机变量。第12页，共97页，编辑于2022年，星期一12（三）相关分析与回归分析的联系（三）相关分析与回归分析的联系n相关分析和回归分析有着密切的联系，它们相关分析和回归分析有着密切的联系，它们不仅具有共同的研究对象，而且在具体应用不仅具有共同的研究对象，而且在具体应用时，常常必须互相补充。相关分析需要依靠时，常常必须互相补充。相关分析需要依靠回归分析来表明现象数量相关的具体形式，回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象而

12、回归分析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量之间存在数量变化的相关程度。只有当变量之间存在着高度相关时，进行回归分析寻求其相关的着高度相关时，进行回归分析寻求其相关的具体形式才有意义。具体形式才有意义。n简单说：简单说：1、相关分析是回归分析的基础和前相关分析是回归分析的基础和前提提；2、回归分析是相关分析的深入和继续回归分析是相关分析的深入和继续。第13页，共97页，编辑于2022年，星期一13定性分析定性分析是依据研究者的理论知识和实践经验，是依据研究者的理论知识和实践经验，对客观现象之间是否存在相关关系，以对客观现象之间是否存在相关关系，以及何种关系作出判断。及何种

13、关系作出判断。定量分析定量分析在定性分析的基础上，通过编制在定性分析的基础上，通过编制相关相关表表、绘制、绘制相关图相关图、计算、计算相关系数相关系数等方等方法，来判断现象之间相关的方向、形态法，来判断现象之间相关的方向、形态及密切程度。及密切程度。四、相关关系的判断四、相关关系的判断第14页，共97页，编辑于2022年，星期一14(一一)相关表：相关表：将自变量将自变量x的数值按照从小到大的顺序，的数值按照从小到大的顺序，并配合因变量并配合因变量y的数值一一对应而平行排列的表。的数值一一对应而平行排列的表。例：为了研究分析某种劳务产品完成量与其单位产品成本之间的关系，调查30个同类服务公司得

14、到的原始数据如表。整理后有整理后有第15页，共97页，编辑于2022年，星期一15(二二)相关图：又称散点图。将相关图：又称散点图。将x置于横轴上，置于横轴上，y置于置于纵轴上，将（纵轴上，将（x,y）绘于坐标图上。绘于坐标图上。用来反映两变用来反映两变量之间相关关系的图形。量之间相关关系的图形。第16页，共97页，编辑于2022年，星期一16第二节第二节简单线性相关与回归分析简单线性相关与回归分析一、相关系数及其检验一、相关系数及其检验(一一)相关系数的定义相关系数的定义1.简单相关系数：在线性条件下说明两个变简单相关系数：在线性条件下说明两个变量之间相关关系密切程度的统计分析指标，量之间

15、相关关系密切程度的统计分析指标，简称相关系数。简称相关系数。n若若相相关关系系数数是是根根据据总总体体全全部部数数据据计计算算的的，称称为总体相关系数，记为为总体相关系数，记为n若若是是根根据据样样本本数数据据计计算算的的，则则称称为为样样本本相相关关系数，记为系数，记为 r第17页，共97页，编辑于2022年，星期一17第18页，共97页，编辑于2022年，星期一18第19页，共97页，编辑于2022年，星期一19样本相关系数的定义公式实质样本相关系数的定义公式实质第20页，共97页，编辑于2022年，星期一20(二二)相关系数的特点相关系数的特点1.的取值介于与之间，的取值介于与之间，r

17、称为高度相关或强相关。第21页，共97页，编辑于2022年，星期一213.如果如果|=1，则表明，则表明与与完全线性相关，完全线性相关，当当=1时，称为完全正相关，时，称为完全正相关，而而=-1时，称为完全负相关。时，称为完全负相关。4.是对变量之间线性相关关系的度量。是对变量之间线性相关关系的度量。=0只是表明两个变量之间不存在线性关系，只是表明两个变量之间不存在线性关系，它并不意味着它并不意味着与与之间不存在其他类型的之间不存在其他类型的关系。关系。第22页，共97页，编辑于2022年，星期一22相关关系的测度相关关系的测度（相关系数取值及其意义）（相关系数取值及其意义）-1.0+1.00

18、-0.5+0.5完全负相关完全负相关无线性相关无线性相关完全正相关完全正相关负相关程度增加负相关程度增加r正相关程度增加正相关程度增加第23页，共97页，编辑于2022年，星期一23计算相关系数计算相关系数的的“积差法积差法”(三三)相关系数的计算相关系数的计算第24页，共97页，编辑于2022年，星期一24 例：下表是有关例：下表是有关15个地区某种食物需求量和地区人口增加量的个地区某种食物需求量和地区人口增加量的资料。资料。第25页，共97页，编辑于2022年，星期一25第26页，共97页，编辑于2022年，星期一26计算公式还可以有：计算公式还可以有：第27页，共97页，编辑于2022年

19、，星期一27（四）相关系数的显著性检验（四）相关系数的显著性检验 n1、检验两个变量之间是否存在线性相关、检验两个变量之间是否存在线性相关关系关系n2、采用、采用 t 检验检验n3、检验的步骤为、检验的步骤为n提出假设：提出假设：H0：；H1：0n n 计算检验的统计量：计算检验的统计量：n 确定显著性水平确定显著性水平，并作出决策，并作出决策若若 t t，拒绝，拒绝H0 若若tt t(15-2)=2.160(15-2)=2.160，拒绝，拒绝，拒绝，拒绝HH0 0，该，该，该，该种食种食物需求量和地区人口增加量物需求量和地区人口增加量之间的相关关系显著。之间的相关关系显著。之间的相关关系显

20、著。之间的相关关系显著。第29页，共97页，编辑于2022年，星期一29什么是回归分析？什么是回归分析？（内容）（内容）1.从从一一组组样样本本数数据据出出发发，确确定定变变量量之之间间的的数数学学关关系式系式2.对对这这些些关关系系式式的的可可信信程程度度进进行行各各种种统统计计检检验验，并并从从影影响响某某一一特特定定变变量量的的诸诸多多变变量量中中找找出出哪哪些些变变量量的影响显著，哪些不显著的影响显著，哪些不显著3.利利用用所所求求的的关关系系式式，根根据据一一个个或或几几个个变变量量的的取取值值来来预预测测或或控控制制另另一一个个特特定定变变量量的的取取值值，并并给给出这种预测或控制

21、的精确程度出这种预测或控制的精确程度二、简单线性回归分析二、简单线性回归分析第30页，共97页，编辑于2022年，星期一30回归模型与回归方程回归模型与回归方程第31页，共97页，编辑于2022年，星期一31回归模型回归模型1.回答回答“变量之间是什么样的关系？变量之间是什么样的关系？”2.方程中运用方程中运用n1 个数字的因变量个数字的因变量(响应变量响应变量)n被预测的变量被预测的变量n1 个或多个数字的或分类的自变量个或多个数字的或分类的自变量(解释变量解释变量)n用于预测的变量用于预测的变量3.主要用于预测和估计主要用于预测和估计第32页，共97页，编辑于2022年，星期一32回归模型

22、的类型回归模型的类型一个自变量一个自变量一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归第33页，共97页，编辑于2022年，星期一33一元线性回归模型一元线性回归模型（概念要点）（概念要点）1.当当只只涉涉及及一一个个自自变变量量时时称称为为一一元元回回归归，若若因因变变量量 y 与与自自变变量量 x 之之间间为为线线性性关关系系时时称称为为一一元元线线性性回归。回归。2.对对于于具具有有线线性性关关系系的的两两个个变变量

23、量，可可以以用用一一条条线线性方程来表示它们之间的关系。性方程来表示它们之间的关系。3.描描述述因因变变量量 y 如如何何依依赖赖于于自自变变量量 x 和和误误差差项项的的方程称为方程称为回归模型。回归模型。第34页，共97页，编辑于2022年，星期一34标准的一元线性回归模型n(一一)总体回归函数总体回归函数 t01tut（7.5）u t是随机误差项，又称随机干扰项，它是是随机误差项，又称随机干扰项，它是一个特殊的随机变量，反映未列入方程式的一个特殊的随机变量，反映未列入方程式的其他各种因素对的影响。其他各种因素对的影响。n(二二)样本回归函数样本回归函数:（，.n).n)t称为残差，在概

24、念上，称为残差，在概念上，t与总体误差与总体误差项项ut相互对应；是样本的容量。相互对应；是样本的容量。第35页，共97页，编辑于2022年，星期一35一元线性回归模型一元线性回归模型（概念要点）（概念要点）对对于于只只涉涉及及一一个个自自变变量量的的简简单单线线性性回回归归模模型型可可表表示示为为 yt=0+1 x+et模型中，模型中，y 是是 x 的线性函数的线性函数(部分部分)加上误差项加上误差项n线性部分反映了由于线性部分反映了由于 x 的变化而引起的的变化而引起的 y 的变化的变化n误差项误差项 t 是随机变量是随机变量n反反映映了了除除 x 和和 y 之之间间的的线线性性关关系系之

25、之外外的的随随机机因因素对素对 y 的影响的影响n是是不不能能由由 x 和和 y 之之间间的的线线性性关关系系所所解解释释的的变变异异性性n 0 和和 1 称为模型的参数称为模型的参数第36页，共97页，编辑于2022年，星期一36样本回归函数与总体回归函数区别样本回归函数与总体回归函数区别1、总体回归线是未知的，只有一条。样本回归线是根据样本数据拟、总体回归线是未知的，只有一条。样本回归线是根据样本数据拟合的，每抽取一组样本，便可以拟合一条样本回归线。合的，每抽取一组样本，便可以拟合一条样本回归线。2、总体回归函数中的、总体回归函数中的1和和2是未知的参数，表现为常数。而样本回归是未知的参数

26、，表现为常数。而样本回归函数中的函数中的是随机变量，其具体数值随所抽取的样本观测是随机变量，其具体数值随所抽取的样本观测值不同而变动。值不同而变动。3、总体回归函数中的、总体回归函数中的ut是是t与未知的总体回归线之间的纵向距离，它与未知的总体回归线之间的纵向距离，它是不可直接观测的。而样本回归函数中的是不可直接观测的。而样本回归函数中的t是是t与样本回归线之与样本回归线之间的纵向距离，当根据样本观测值拟合出样本回归线之后，可间的纵向距离，当根据样本观测值拟合出样本回归线之后，可以计算出以计算出t的具体数值。的具体数值。第37页，共97页，编辑于2022年，星期一37（三）（三）误差项误差项

27、的的基本标准假定基本标准假定1.误误差差项项ut是是一一个个期期望望值值为为0的的随随机机变变量量，即即E(ut)=0。对对于于一一个个给给定定的的 x 值值，y 的的期期望望值值为为E(yt)=0+1 xt2.对于所有的对于所有的 x 值，值，ut的方差的方差2 都相同都相同3.误误差差项项ut是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相相互独立。即互独立。即uN(0,2)n独独立立性性意意味味着着对对于于一一个个特特定定的的 x值值，它它所所对应的对应的u与其他与其他 x 值所对应的值所对应的u不相关不相关n对对于于一一个个特特定定的的 x 值值，它它所所对对应应的的

28、yt值值与与其他其他 xt所对应的所对应的 y 值也不相关值也不相关第38页，共97页，编辑于2022年，星期一38总体回归线与随机误差项总体回归线与随机误差项P168（t）12tXYtY 。ut 第39页，共97页，编辑于2022年，星期一39（四）回归方程（四）回归方程（概念要点）（概念要点）1.描描述述 y 的的平平均均值值或或期期望望值值如如何何依依赖赖于于 x 的的方程称为方程称为回归方程。2.简单线性回归方程的形式如下简单线性回归方程的形式如下 E(y)=0+1 x方程的图示是一条直线，因此也称为直线回归方程方程的图示是一条直线，因此也称为直线回归方程 0是是回回归归直直线线在在

29、y 轴轴上上的的截截距距，是是当当 x=0 时时 y 的的期期望值望值 1是是直直线线的的斜斜率率，称称为为回回归归系系数数，表表示示当当 x 每每变变动动一个单位时，一个单位时，y 的平均变动值的平均变动值第40页，共97页，编辑于2022年，星期一40估计估计(经验经验)的回归的回归方程方程3.简单线性回归中估计的回归方程为简单线性回归中估计的回归方程为其其中中：是是估估计计的的回回归归直直线线在在 y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 x 的的值值，是是 y 的的估估计计值，也表示值，也表示 x 每变动一个单位时，每变动一个单位时，

30、y 的平均变动值。的平均变动值。2.用用样样本本统统计计量量和和代代替替回回归归方方程程中中的的未未知知参参数数和和，就得到了，就得到了估计的回归方程。估计的回归方程。1.总总体体回回归归参参数数和和是是未未知知的的，必必需需利利用用样样本数据去估计本数据去估计第41页，共97页，编辑于2022年，星期一41三、参数三、参数 0 和和 1 的最小二乘估的最小二乘估计计第42页，共97页，编辑于2022年，星期一42（一）最小二乘法（一）最小二乘法（概念要点）（概念要点）1.使因变量的观察值与估计值之间的离差平方和达到使因变量的观察值与估计值之间的离差平方和达到最小来求得最小来求得

31、和和的方法。即的方法。即2.用用最最小小二二乘乘法法拟拟合合的的直直线线来来代代表表x与与与与y之之之之间间间间的的的的关关关关系系系系与实际数据的误差比其他任何直线都小。与实际数据的误差比其他任何直线都小。与实际数据的误差比其他任何直线都小。与实际数据的误差比其他任何直线都小。第43页，共97页，编辑于2022年，星期一43最小二乘法最小二乘法（图示）（图示）xy(xn,yn)(x1,y1)(x2,y2)(xi,yi)ei=yi-yi第44页，共97页，编辑于2022年，星期一443、回归系数的估计的最小二乘法公式、回归系数的估计的最小二乘法公式设设将对求偏导数，并令其等于零，可得将对

32、求偏导数，并令其等于零，可得:n加以整理后有：加以整理后有：第45页，共97页，编辑于2022年，星期一45最小二乘法最小二乘法（和和的计算公式的计算公式）解方程组解方程组可得求解可得求解和和的标准方程如下：的标准方程如下：第46页，共97页，编辑于2022年，星期一46例：现以前例的资料配合回归直线，计算如下：例：现以前例的资料配合回归直线，计算如下：第47页，共97页，编辑于2022年，星期一47第48页，共97页，编辑于2022年，星期一48上式中上式中b表示人口增加量每增加（或减少）表示人口增加量每增加（或减少）1千人，千人，该种食品的年需求量平均来说增加（或减少）该种食品的年需

33、求量平均来说增加（或减少）0.5301十吨即十吨即5.301吨。吨。第49页，共97页，编辑于2022年，星期一49估计方程的求法估计方程的求法（Excel的输出结果）的输出结果）第50页，共97页，编辑于2022年，星期一50（二）估计标准误差（二）估计标准误差 Sy1.实际观察值与回归估计值离差平方和的均方根。实际观察值与回归估计值离差平方和的均方根。2.反映实际观察值在回归直线周围的分散状况。反映实际观察值在回归直线周围的分散状况。3.从另一个角度说明了回归直线的拟合程度。从另一个角度说明了回归直线的拟合程度。4.计算公式为计算公式为由样本资料计算由样本资料计算由总体资料计算或由总体资料

34、计算或在大样本情况下在大样本情况下第51页，共97页，编辑于2022年，星期一51计计算算例例子子第52页，共97页，编辑于2022年，星期一52可得简化式：（可得简化式：（P172）上式的推导证明（上式的推导证明（P172）第53页，共97页，编辑于2022年，星期一53了解了解（三）最小二乘估计量的性质（三）最小二乘估计量的性质（四）回归系数的区间估计（四）回归系数的区间估计第54页，共97页，编辑于2022年，星期一54四、一元线性回归模型的检验四、一元线性回归模型的检验第55页，共97页，编辑于2022年，星期一55（一）（一）回归模型检验的种类回归模型检验的种类回归模型的检验包括

35、理论意义检验、一级检回归模型的检验包括理论意义检验、一级检验和二级检验。验和二级检验。（二）拟合程度的评价（二）拟合程度的评价n 所谓拟合程度，是指样本观测值聚集在样本所谓拟合程度，是指样本观测值聚集在样本回归线周围的紧密程度。判断回归模型拟合回归线周围的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数程度优劣最常用的数量尺度是样本决定系数（又称决定系数）。它是建立在对总离差平（又称决定系数）。它是建立在对总离差平方和进行分解的基础之上的。方和进行分解的基础之上的。第56页，共97页，编辑于2022年，星期一56总离差平方和的分解总离差平方和的分解1.因因变变量量 y 的的取取

36、值值是是不不同同的的，y 取取值值的的这这种种波动称为波动称为变差变差。变差来源于两个方面：。变差来源于两个方面：n由于自变量由于自变量 x 的取值不同造成的；的取值不同造成的；n除除 x 以以外外的的其其他他因因素素(如如x对对y的的非非线线性性影影响响、测量误差等测量误差等)的影响。的影响。2.对对一一个个具具体体的的观观测测值值来来说说，变变差差的的大大小小可可以以通通过过该该实实际际观观测测值值与与其其均均值值之之差差来来表示。表示。第57页，共97页，编辑于2022年，星期一57离差平方和的分解离差平方和的分解（图示）（图示）xyy y 离差分解图离差分解图第58页，共97页，编辑

37、于2022年，星期一58离差平方和的分解离差平方和的分解（三个平方和的关系）（三个平方和的关系）2.两端平方后求和有两端平方后求和有1.从图上看有从图上看有SST=SSR+SSE总变差平方和总变差平方和（SST）回归平方和回归平方和（SSR）残差平方和残差平方和（SSE）第59页，共97页，编辑于2022年，星期一59离差平方和的分解离差平方和的分解（三个平方和的意义）（三个平方和的意义）1.总平方和总平方和(SST)n反映因变量的反映因变量的 n 个观察值与其均值的总离差个观察值与其均值的总离差2.回归平方和回归平方和(SSR)n反反映映自自变变量量 x 的的变变化化对对因因变变量量 y 取

38、取值值变变化化的的影影响响，或或者者说说，是是由由于于 x 与与 y 之之间间的的线线性性关关系系引引起起的的 y 的的取取值值变变化化，也也称称为为可可解解释释的的平平方和。方和。3.残差平方和残差平方和(SSE)n反反映映除除 x 以以外外的的其其他他因因素素对对 y 取取值值的的影影响响，也称为不可解释的平方和或剩余平方和。也称为不可解释的平方和或剩余平方和。第60页，共97页，编辑于2022年，星期一60样本决定系数样本决定系数（判定系数（判定系数 r2）1.回归平方和占总离差平方和的比例：回归平方和占总离差平方和的比例：2.反映回归直线的拟合程度反映回归直线的拟合程度3.取值范围在取

39、值范围在 0,1 之间之间4.r2 1，说明回归方程拟合的越好；，说明回归方程拟合的越好；r20，说，说明回归方程拟合的越差明回归方程拟合的越差5.判定系数等于相关系数的平方，即判定系数等于相关系数的平方，即r2(r)2第61页，共97页，编辑于2022年，星期一61（三）回归方程的显著性检验（三）回归方程的显著性检验（线性关系的检验线性关系的检验）1.检检验验自自变变量量和和因因变变量量之之间间的的线线性性关关系系是是否否显著显著2.具具体体方方法法是是将将回回归归离离差差平平方方和和(SSR)同同剩剩余余离离差差平平方方和和(SSE)加加以以比比较较，应应用用F检检验验来来分析二者之间的差

40、别是否显著分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系如果不显著，两个变量之间不存在线性关系第62页，共97页，编辑于2022年，星期一62回归方程的显著性检验回归方程的显著性检验（检验检验的步骤）的步骤）1.提出假设提出假设nH0：线性关系不显著：线性关系不显著2.计算检验统计量计算检验统计量F3.确定显著性水平确定显著性水平，并根据分子自由度，并根据分子自由度，并根据分子自由度，并根据分子自由度1 1和分母自和分母自由度由度n-2找出临界值找出临界值F F 4.作出决策：若作出决策：若F F

41、F ,拒绝拒绝HH0；若若Ft，拒绝，拒绝H0；t t=2.201，拒拒绝绝H0，表表明明人人均均收收入入与与人人均均消费之间有线性关系消费之间有线性关系对前例的回归系数进行显著性检验对前例的回归系数进行显著性检验(0.05)第69页，共97页，编辑于2022年，星期一69回归系数的显著性检验回归系数的显著性检验(Excel输出的结果）输出的结果）第70页，共97页，编辑于2022年，星期一70预测及应用预测及应用第71页，共97页，编辑于2022年，星期一71利用回归方程进行估计和预测利用回归方程进行估计和预测1.根据自变量根据自变量 x 的取值估计或预测因变量的取值估计或预测因变量 y的取

42、值的取值2.估计或预测的类型估计或预测的类型n点估计点估计ny 的平均值的点估计的平均值的点估计ny 的个别值的点估计的个别值的点估计n区间估计区间估计ny 的平均值的的平均值的置信区间置信区间估计估计ny 的个别值的的个别值的预测区间预测区间估计估计第72页，共97页，编辑于2022年，星期一72利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）2.点估计值点估计值3.在点估计条件下，平均值的点估计和个别值的的点在点估计条件下，平均值的点估计和个别值的的点估计是一样的，但在区间估计中则不同估计是一样的，但在区间估计中则不同1.对对于于自自变变量量 x 的的一一个个给给定

43、定值值x0，根根据据回回归归方方程程得到因变量得到因变量 y 的一个估计值的一个估计值第73页，共97页，编辑于2022年，星期一73利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）n y 的平均值的点估计的平均值的点估计1.利用估计的回归方程，对于自变量利用估计的回归方程，对于自变量 x 的的一个给定值一个给定值 x0，求出因变量，求出因变量 y 的平均值的平均值的一个估计值的一个估计值E(y0)，就是平均值的点估，就是平均值的点估计。计。第74页，共97页，编辑于2022年，星期一74 根据回归方程，可以给出自变量的某一数值来根据回归方程，可以给出自变量的某一数值来

44、估计或预测因变量平均可能值。例如，前例中当人估计或预测因变量平均可能值。例如，前例中当人口增长量为口增长量为400千人时，该食品的年需求量为千人时，该食品的年需求量为第75页，共97页，编辑于2022年，星期一75利用回归方程进行估计和预测利用回归方程进行估计和预测（区间估计）（区间估计）1.点点估估计计不不能能给给出出估估计计的的精精度度，点点估估计计值值与与实实际际值值之之间间是是有有误误差差的的，因因此此需需要要进进行行区区间估计间估计2.对对于于自自变变量量 x 的的一一个个给给定定值值 x0，根根据据回回归归方程得到因变量方程得到因变量 y 的一个估计区间的一个估计区间3.区间估计

45、有两种类型区间估计有两种类型n置信区间估计置信区间估计n预测区间估计预测区间估计第76页，共97页，编辑于2022年，星期一76利用回归方程进行估计和预测利用回归方程进行估计和预测（置信区间估计）（置信区间估计）n y 的平均值的置信区间估计的平均值的置信区间估计 1.利用估计的回归方程，对于自变量利用估计的回归方程，对于自变量 x 的一个给的一个给定值定值 x0，求出因变量，求出因变量 y 的平均值的平均值E(y0)的估计区的估计区间间，这一估计区间称为，这一估计区间称为置信区间2.E(y0)在在1-置信水平下的置信区间为置信水平下的置信区间为式式中中：Sy为为估估计计标标准准误误差差第77

46、页，共97页，编辑于2022年，星期一77影响区间宽度的因素影响区间宽度的因素n1.置信水平置信水平(1-)n区间宽度随置信水平的增大而增大区间宽度随置信水平的增大而增大n2.数据的离散程度数据的离散程度(s)n区间宽度随离散程度的增大而增大区间宽度随离散程度的增大而增大n3.样本容量样本容量n区间宽度随样本容量的增大而减小区间宽度随样本容量的增大而减小n4.用于预测的用于预测的 xp与与 x的差异程度的差异程度n区间宽度随区间宽度随 xp与与 x 的差异程度的增大而增大的差异程度的增大而增大第78页，共97页，编辑于2022年，星期一78置信区间置信区间、预测区间预测区间、回归方程回归方程x

47、p pyx x预测上限预测上限置信上限预测下限预测下限置信下限第79页，共97页，编辑于2022年，星期一79第三节第三节多元线性相关与回归分析多元线性相关与回归分析n一、多元线性回归模型一、多元线性回归模型n一个因变量与两个及两个以上自变量之间的回归一个因变量与两个及两个以上自变量之间的回归n描述因变量描述因变量 y 如何依赖于自变量如何依赖于自变量 x1，x2，xp 和误和误差项差项的方程称为多元线性回归模型的方程称为多元线性回归模型n涉及涉及 p 个自变量的多元线性回归模型可表示为个自变量的多元线性回归模型可表示为 0 ，1 1，p是参数是参数是被称为误差项的随机变量是被称为误差项

48、的随机变量 y 是是x1,，x2 ，xp 的线性函数加上误差项的线性函数加上误差项说说明明了了包包含含在在y里里面面但但不不能能被被p个个自自变变量量的的线线性性关关系系所解释的变异性所解释的变异性第80页，共97页，编辑于2022年，星期一80多元线性回归模型多元线性回归模型n 对对于于 n 组组实实际际观观察察数数据据(yi;xi1,，xi2 ，xip)，(i=1,2,n)，多多元元线线性性回回归归模模型可表示为型可表示为y1=1 1 x11 x12 px1p 1 1y2=1 1 x21 x22 px2p yn=1 1 xn1 xn2 pxnp n 第81页，共97页，编辑于2022年，

49、星期一81二、参数的最小二乘法二、参数的最小二乘法2.根根据据最最小小二二乘乘法法的的要要求求，可可得得求求解解各各回回归归参参数数的的标标准方程如下准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和达到最小来求得达到最小来求得。即。即第82页，共97页，编辑于2022年，星期一82三、回归方程的显著性检验三、回归方程的显著性检验（线性关系的检验线性关系的检验）1.检检验验因因变变量量与与所所有有的的自自变变量量和和之之间间的的是是否否存存在在一一个显著的线性关系，也被称为个显著的线性关系，也被称为总体的显著性总体的显著性检验检验2.检检验验方方

50、法法是是将将回回归归离离差差平平方方和和(SSR)同同剩剩余余离离差差平平方方和和(SSE)加加以以比比较较，应应用用 F F 检检验验来来分分析析二二者者之间的差别是否显著之间的差别是否显著n如如果果是是显显著著的的，因因变变量量与与自自变变量量之之间间存存在在线线性性关关系系n如果不显著，因变量与自变量之间不存在线性关系如果不显著，因变量与自变量之间不存在线性关系第83页，共97页，编辑于2022年，星期一83回归方程的显著性检验回归方程的显著性检验（步骤）（步骤）1.提出假设提出假设nH0：1 2 p=0 线性关系不显著线性关系不显著nH1：1，2，p至少有一个不等于至少有一个不等于02

展开阅读全文