一元线性回归精.ppt

《一元线性回归精.ppt》由会员分享，可在线阅读，更多相关《一元线性回归精.ppt（74页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、一元线性回归一元线性回归第1页，本讲稿共74页第第10章章 一元线性回归一元线性回归10.1 变量间关系的度量变量间关系的度量 10.2 一元线性回归一元线性回归10.3 残差分析残差分析第2页，本讲稿共74页10.1 变量间关系的度量10.1.1 变量间的关系变量间的关系10.1.2 相关关系的描述与测度相关关系的描述与测度10.1.3 相关系数的显著性检验相关系数的显著性检验第3页，本讲稿共74页变量间的关系变量间的关系第4页，本讲稿共74页函数关系函数关系1.1.是一一是一一对应的确定关系对应的确定关系2.2.设设有有两两个个变变量量 x x 和和 y y，变变量量 y y 随随变变量量

2、 x x 一一起起变变化化，并并完完全全依依赖赖于于 x x ，当当变变量量 x x 取取某某个个数数值值时时，y y 依依确确定定的的关关系系取取相相应应的的值值，则则称称 y y 是是 x x 的的函函数数，记记为为 y y =f f(x x)，其其中中 x x 称称为为自自变变量量，y y 称为因变量称为因变量3.3.各各观测点落在一条线上观测点落在一条线上 x xy y第5页，本讲稿共74页相关关系相关关系(correlation)1.变变量量间间关关系系不不能能用用函函数数关关系精确表达系精确表达2.一一个个变变量量的的取取值值不不能能由由另另一个变量唯一确定一个变量唯一确定3.3.

3、当当变变量量 x x 取取某某个个值值时时，变变量量 y y 的取值可能有几个4.4.各观测各观测点分布在直线周围点分布在直线周围 x xy y第6页，本讲稿共74页相关关系相关关系(几个例子几个例子)n n父亲身高父亲身高y与子女身高与子女身高x之间的关系n n收入水平y与受教育程度x x之间的关系之间的关系n n粮粮食食单单位位面面积积产产量量y与与施施肥肥量量x1 、降雨量x2、温度x3之间的关系n n商品的消费量y y与居民收入与居民收入x之间的关系n n商品销售额y y与广告费支出x之间的关系第7页，本讲稿共74页相关关系相关关系(类型类型)第8页，本讲稿共74页相关关系的描述与测度

4、相关关系的描述与测度(散点图散点图)第9页，本讲稿共74页相关分析及其假定相关分析及其假定1.1.相关分析要解决的问题相关分析要解决的问题n n变量之间是否存在关系？变量之间是否存在关系？n n如果存在关系，它们之间是什么样的关系？如果存在关系，它们之间是什么样的关系？n n变量之间的关系强度如何？变量之间的关系强度如何？n n样样本本所所反反映映的的变变量量之之间间的的关关系系能能否否代代表表总总体体变变量量之之间间的的关系？关系？2.2.为为解解决决这这些些问问题题，在在进进行行相相关关分分析析时时，对对总总体体有有以以下下两两个主要假定个主要假定n n两个变量之间是线性关系两个变量之间是

5、线性关系n n两个变量都是随机变量两个变量都是随机变量第10页，本讲稿共74页散点图散点图(scatter diagram)不相关不相关不相关不相关不相关不相关 负线性相关负线性相关负线性相关负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关非线性相关非线性相关非线性相关 完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关 第11页，本讲稿共74页相关关系的描述与测度相关关系的描述与测度(相关系数相关系数

6、)第12页，本讲稿共74页相关系数相关系数(correlation coefficient)1.1.度量变量之间关系强度的一个统计量度量变量之间关系强度的一个统计量2.2.对对两两个个变变量量之之间间线线性性相相关关强强度度的的度度量量称称为为简简单单相相关关系数系数3.3.若若相相关关系系数数是是根根据据总总体体全全部部数数据据计计算算的的，称称为为总总体体相关系数，记为相关系数，记为 4.4.若若相相关关系系数数是是根根据据样样本本数数据据计计算算的的，则则称称为为样样本本相相关系数，简称为相关系数，记为关系数，简称为相关系数，记为 r rn n也称为线性相关系数也称为线性相关系数(lin

7、ear correlation coefficient)(linear correlation coefficient)n n或或 称称 为为PearsonPearson相相 关关 系系 数数 (Pearsons(Pearsons correlation correlation coefficient)coefficient)第13页，本讲稿共74页相关系数相关系数 (计算公式计算公式)样本相关系数的计算公式或化简为或化简为第14页，本讲稿共74页相关系数的性质相关系数的性质性质性质1：r 的取值范围是-1,1n n|r r|=|=1 1，为完全相关为完全相关l lr r=1 1，为完全正相关

8、，为完全正相关l lr r=-1-1，为完全负正相关，为完全负正相关n n r r=0=0，不存在不存在线性线性线性线性相关相关关系关系n n -1-1 r r 0 0，为负相关为负相关n n0 0 r r 1 1，为正相关为正相关n n|r r|越越趋趋于于1 1表表示示关关系系越越强强；|r r|越越趋趋于于0 0表表示示关关系越弱系越弱第15页，本讲稿共74页相关系数的性质相关系数的性质(取值及其意义的图解取值及其意义的图解)-1.0+1.00-0.5+0.5完全负相关完全负相关完全负相关完全负相关无线性相关无线性相关无线性相关无线性相关完全正相关完全正相关完全正相关完全正相关负相关程度

9、增加负相关程度增加负相关程度增加负相关程度增加r正相关程度增加正相关程度增加正相关程度增加正相关程度增加第16页，本讲稿共74页相关系数的性质相关系数的性质性质性质性质性质2 2：r r具有对称性。即具有对称性。即x x与与y y之间的相关系数和之间的相关系数和y y与与x x之间之间 的相关系数相等，即的相关系数相等，即r rxyxy=r ryxyx性质性质性质性质3 3：r r数值大小与数值大小与x x和和y y原点及尺度无关，即改变原点及尺度无关，即改变x x和和y y的的 数据原点及计量尺度，并不改变数据原点及计量尺度，并不改变r r数值大小数值大小性质性质性质性质4 4：仅仅是仅仅是

10、x x与与y y之间线性关系的一个度量，它不能用之间线性关系的一个度量，它不能用 于描述非线性关系。这意味着，于描述非线性关系。这意味着，r r=0=0只表示两个变只表示两个变 量之间不存在线性相关关系，并不说明变量之间没量之间不存在线性相关关系，并不说明变量之间没 有任何关系有任何关系性质性质性质性质5 5：r r虽然是两个变量之间线性关系的一个度量，却不虽然是两个变量之间线性关系的一个度量，却不 一定意味着一定意味着x x与与y y一定有因果关系一定有因果关系第17页，本讲稿共74页相关系数的经验解释相关系数的经验解释1.|r|0.8时，可视为两个变量之间高度相关2.0.5|r|0.8时，

11、可视为中度相关3.0.3|r|0.5时，视为低度相关4.|r|t t，拒绝，拒绝H H0 0 若若 t t =7.5344t t(25-2)=2.069(25-2)=2.069，拒拒绝绝H H0 0，不不良良贷贷款款与与贷款余额之间存在着显著的正线性相关关系贷款余额之间存在着显著的正线性相关关系 第22页，本讲稿共74页相关系数的显著性检验相关系数的显著性检验(需要注意的问题需要注意的问题)1.即使统计检验表明相关系数在统计上是显著的，并不一定意味着两个变量之间就存在重要的相关性2.因为在大样本的情况下，几乎总是导致相关系数显著n n比如，比如，r r=0.1=0.1，在大样本的情况下，也可能

12、，在大样本的情况下，也可能使得使得r r通过检验，但实际上，一个变量取值通过检验，但实际上，一个变量取值的差异能由另一个变量的取值来解释的比例的差异能由另一个变量的取值来解释的比例只有只有10%10%，这实际上很难说明两个变量之间，这实际上很难说明两个变量之间就有实际意义上的显著关系就有实际意义上的显著关系第23页，本讲稿共74页10.2 一元线性回归10.2.1 一元线性回归模型一元线性回归模型10.2.2 参数的最小二乘估计参数的最小二乘估计10.2.3 回归直线的拟合优度回归直线的拟合优度10.2.4 显著性检验显著性检验第24页，本讲稿共74页什么是回归分析？什么是回归分析？(regr

13、ession)1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度第25页，本讲稿共74页回归分析与相关分析的区别回归分析与相关分析的区别1.1.相相关关分分析析中中，变变量量 x x 变变量量 y y 处处于于平平等等的的地地位位；回回归归分分析析中中，变变量量 y y 称称为为因因变变量量，处处在在被被解解释释的的地地位位，x x 称为自变量，用于预测因变量的变化称为自变量，用

14、于预测因变量的变化2.2.相相关关分分析析中中所所涉涉及及的的变变量量 x x 和和 y y 都都是是随随机机变变量量；回回归归分分析析中中，因因变变量量 y y 是是随随机机变变量量，自自变变量量 x x 是是非非随随机机的的确确定变量定变量3.3.相相关关分分析析主主要要是是描描述述两两个个变变量量之之间间线线性性关关系系的的密密切切程程度度；回回归归分分析析不不仅仅可可以以揭揭示示变变量量 x x 对对变变量量 y y 的的影响大小，还可以由回归方程进行预测和控制影响大小，还可以由回归方程进行预测和控制 第26页，本讲稿共74页回归模型的类型回归模型的类型第27页，本讲稿共74页一元线性

15、回归模型一元线性回归模型第28页，本讲稿共74页一元线性回归一元线性回归1.涉及一个自变量的回归2.因变量y与自变量x之间为线性关系n n被被 预预 测测 或或 被被 解解 释释 的的 变变 量量 称称 为为 因因 变变 量量(dependent variable)(dependent variable)，用，用y y表示表示n n用用来来预预测测或或用用来来解解释释因因变变量量的的一一个个或或多多个个变变量量称称为为自自变变量量(independent(independent variable)variable)，用用x x表表示示 3.因变量与自变量之间的关系用一个线性方程来表示第29页，

16、本讲稿共74页一元线性回归模型一元线性回归模型1.1.描描述述因因变变量量 y y 如如何何依依赖赖于于自自变变量量 x x 和和误误差差项项 的的方方程程称称为为回归模型回归模型回归模型回归模型2.2.一元线性一元线性回归模型可表示为回归模型可表示为 y y=0 0 0 0+1 1 1 1 x x +e e e en ny y 是是 x x 的线性函数的线性函数(部分部分)加上误差项加上误差项n n线性部分反映了由于线性部分反映了由于 x x 的变化而引起的的变化而引起的 y y 的变化的变化n n误差项误差项 是随机变量是随机变量l l反映了除反映了除 x x 和和 y y 之间的线性关系

17、之外的随机因素对之间的线性关系之外的随机因素对 y y 的影响的影响l l是不能由是不能由 x x 和和 y y 之间的线性关系所解释的变异性之间的线性关系所解释的变异性n n 0 0 和和 1 1 称为模型的参数称为模型的参数第30页，本讲稿共74页一元线性回归模型一元线性回归模型(基本假定基本假定)1.1.因变量因变量y y与自变量与自变量x x之间具有线性关系之间具有线性关系2.2.在重复抽样中，自变量在重复抽样中，自变量x x的取值是固定的，即假定的取值是固定的，即假定x x是非随是非随机的机的3.3.误差误差项项 是一个期望值为是一个期望值为0 0的随机变量，即的随机变量，即E E(

18、)=0)=0。对于一个。对于一个给定的给定的 x x 值，值，y y 的期望值为的期望值为E E(y y)=)=0 0+1 1 x x4.4.对对于所有的于所有的 x x 值，值，的方差的方差 2 2 都相同都相同5.5.误误差差项项 是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相相互互独独立立。即即 N N(0,(0,2 2)n n独独立立性性意意味味着着对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 与与其其他他 x x 值值所所对应的对应的 不相关不相关n n对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 y y 值值与与其其他他 x

19、 x 所所对对应应的的 y y 值值也也不不相关相关第31页，本讲稿共74页一元线性回归模型一元线性回归模型(基本假定基本假定)x x=x x3 3时的时的E E(y y)x x=x x2 2时时y y的分布的分布x x=x x1 1时时y y的分布的分布x x=x x2 2时的时的E E(y y)x x3 3x x2 2x x1 1x x=x x1 1时的时的E E(y y)0 0 x xyx x=x x3 3时时y y的分布的分布 0 0+1 1x x第32页，本讲稿共74页回归方程回归方程(regression equation)1.描描述述 y y 的的平平均均值值或或期期望望值值如如

20、何何依依赖赖于于 x x 的的方方程程称称为为回归方程回归方程回归方程回归方程2.一元线性回归方程的形式如下线性回归方程的形式如下3.E E(y)=0 0+1 1 x方程的图示是一条直线，也称为直线回归方程方程的图示是一条直线，也称为直线回归方程 0 0是是回回归归直直线线在在 y y 轴轴上上的的截截距距，是是当当 x x=0=0 时时 y y 的的期期望值望值 1 1是是直直线线的的斜斜率率，称称为为回回归归系系数数，表表示示当当 x x 每每变变动动一个单位时，一个单位时，y y 的平均变动值的平均变动值第33页，本讲稿共74页估计的回归方程估计的回归方程(estimated regre

21、ssion equation)3.3.一元线性回归中估计的回归方程为一元线性回归中估计的回归方程为2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ，就得到了，就得到了估计的回归方程估计的回归方程估计的回归方程估计的回归方程1.总总体体回回归归参参数数 和和 是是未未知知的的，必必须须利利用用样样本本数数据去估计据去估计其其中中：是是估估计计的的回回归归直直线线在在 y y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 x x 的的值值，是是 y y 的的估估计计值，也表示值，也表示 x x 每变动一个单位时

22、，每变动一个单位时，y y 的平均变动值的平均变动值 第34页，本讲稿共74页参数的最小二乘估计参数的最小二乘估计第35页，本讲稿共74页最小二乘估计最小二乘估计(method of least squares)1.德国科学家德国科学家Karl Gauss(17771855)Karl Gauss(17771855)提出用最小提出用最小化图中垂直方向的误差平方和来估计参数化图中垂直方向的误差平方和来估计参数 2.使因变量的观察值与估计值之间的误差平方和达到最小来求得 和 的方法。即3.3.用用最最小小二二乘乘法法拟拟合合的的直直线线来来代代表表x与与y之之间间的关系与实际数据的误差比其他任何直线

23、都小第36页，本讲稿共74页Karl Gauss的最小化图x xy y(x xn n,y yn n)(x x1 1,y y1 1)(x x2 2,y y2 2)(x xi i,y yi i)e ei i=y yi i-y yi i第37页，本讲稿共74页最小二乘法最小二乘法(和和 的计算公式的计算公式)根据最小二乘法，可得求解 和和 的公式如下的公式如下第38页，本讲稿共74页用用Excel进行回归分析进行回归分析第第第第1 1步：步：步：步：选择选择“工具工具工具工具”下拉菜单下拉菜单第第第第2 2步：步：步：步：选择选择【数据分析数据分析数据分析数据分析】选项选项第第第第3 3步：步：步：

24、步：在分析工具中选择在分析工具中选择【回归回归回归回归】，选择，选择【确定确定确定确定】第第第第4 4步：步：步：步：当对话框出现时当对话框出现时 在在【Y Y值输入区域值输入区域值输入区域值输入区域】设置框内键入设置框内键入Y Y的数据区域的数据区域 在在【X X值输入区域值输入区域值输入区域值输入区域】设置框内键入设置框内键入X X的数据区域的数据区域 在在【置信度置信度置信度置信度】选项中给出所需的数值选项中给出所需的数值 在在【输出选项输出选项输出选项输出选项】中选择输出区域中选择输出区域 在在【残差残差残差残差】分析选项中选择所需的选项分析选项中选择所需的选项 用用用用ExcelEx

25、cel进行回归分析进行回归分析进行回归分析进行回归分析第39页，本讲稿共74页回归直线的拟合优度回归直线的拟合优度第40页，本讲稿共74页变差变差1.因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面n n由于自变量由于自变量 x x 的取值不同造成的的取值不同造成的n n除除 x x 以以外外的的其其他他因因素素(如如x x对对y y的的非非线线性性影影响响、测量误差等测量误差等)的影响的影响2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示第41页，本讲稿共74页误差的分解误差的分解(图示图示)x xy yy y第42页，本讲稿共74页误

26、差平方和的分解误差平方和的分解(三个平方和的关系三个平方和的关系)SST=SSR+SSE总平方和总平方和总平方和总平方和(SSTSST)回归平方和回归平方和回归平方和回归平方和(SSRSSR)残差平方和残差平方和残差平方和残差平方和(SSESSE)第43页，本讲稿共74页误差平方和的分解误差平方和的分解(三个平方和的意义三个平方和的意义)1.1.总平方和总平方和总平方和总平方和(SSTSSTtotal sum of squares)total sum of squares)n n反映因变量的反映因变量的 n n 个观察值与其均值的总误差个观察值与其均值的总误差2.2.回归平方和回归平方和回归平

27、方和回归平方和(SSRSSRsum of squares of regression)sum of squares of regression)n n反反映映自自变变量量 x x 的的变变化化对对因因变变量量 y y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 x x 与与 y y 之之间间的的线线性性关关系系引引起起的的 y y 的的取取值值变变化化，也也称为可解释的平方和称为可解释的平方和3.3.残差平方和残差平方和残差平方和残差平方和(SSESSEsum of squares of error)sum of squares of error)n n反反映映除除 x x 以以

28、外外的的其其他他因因素素对对 y y 取取值值的的影影响响，也也称称为为不不可可解释的平方和或剩余平方和解释的平方和或剩余平方和第44页，本讲稿共74页判定系数判定系数R2 (coefficient of determination)1.回归平方和回归平方和占总误差平方和的比例占总误差平方和的比例2.2.反映回归直线的拟合程度反映回归直线的拟合程度3.取值范围在 0,1 0,1 之间4.R R2 2 1 1，说明回归方程拟合的越好；R R2 20 0，说，说明回归方程拟合的越差明回归方程拟合的越差5.判定判定系数等于相关系数的平方，即系数等于相关系数的平方，即R2r r2第45页，本讲稿共74

29、页估计标准误差估计标准误差(standard error of estimate)1.1.实际观察值与回归估计值误差平方和的均方根实际观察值与回归估计值误差平方和的均方根2.2.反映实际观察值在回归直线周围的分散状况反映实际观察值在回归直线周围的分散状况3.3.对对误误差差项项 的的标标准准差差 的的估估计计，是是在在排排除除了了x x对对y y的的线线性影响后，性影响后，y y随机波动大小的一个估计量随机波动大小的一个估计量4.4.反反映用估计的回归方程预测映用估计的回归方程预测y y时预测误差的大小时预测误差的大小 5.5.计算公式为计算公式为注：例题的计算结果为注：例题的计算结果为1.9

30、7991.9799第46页，本讲稿共74页估计标准误差的自由度估计标准误差的自由度1.估计标准误差的是残差平方和SSESSE除除以以它它的的自自由度后的平方根由度后的平方根2.残残差差平平方方和和SSE的的自自由由度度之之所所以以是是n n-2-2，原原因因是是在在计计算算SSE时，必须先求出 和 ，这两个估计值就是附加给SSESSE的的两两个个约约束束条条件件，因因此此在在计计算算SSE时，只有时，只有n n-2-2个独立的观测值，而不是个独立的观测值，而不是n n个个3.3.一一般般而而言言，在在有有k个个自自变变量量的的多多元元回回归归中中，自自由由度度则则为为n-k k4.一般的规律是

31、：自由度自由度自由度自由度=n n-待估参数的个数待估参数的个数第47页，本讲稿共74页显著性检验显著性检验第48页，本讲稿共74页线性关系的检验线性关系的检验1.检验自变量与因变量之间的线性关系是否显著2.将回归均方(MSR)同残差均方(MSE)加以比较，应用F检验来分析二者之间的差别是否显著回回归归均均方方：回回归归平平方方和和SSRSSR除除以以相相应应的的自自由由度度(自自变变量的个数量的个数k k)残残差差均均方方：残残差差平平方方和和SSESSE除除以以相相应应的的自自由由度度(n n-k k-1)-1)第49页，本讲稿共74页线性关系的检验线性关系的检验(检验的步骤检验的步骤)1

32、.1.提出提出假设假设n nH H0 0：1 1=0 =0 线性关系不显著线性关系不显著2.2.计算检验统计量检验统计量F F3.3.确定确定显著性水平，并根据分子自由度，并根据分子自由度1和分母和分母自由度自由度n-2找出临界值临界值F 4.4.作作出决策：若出决策：若F FF F ,拒绝拒绝H0 0；若若F F,拒绝拒绝H H0 0，线性关系显著第51页，本讲稿共74页回归系数的检验回归系数的检验3.3.在一元线性回归中，等价于线性关系的显著性检验在一元线性回归中，等价于线性关系的显著性检验4.4.采用采用t t检验检验1.检验 x x 与与 y y 之之间间是是否否具具有有线线性性关关系

33、系，或或者者说说，检检验验自变量自变量 x x 对因变量对因变量 y y 的影响是否显著的影响是否显著2.理论基础是回归系数 的抽样分布第52页，本讲稿共74页回归系数的检验回归系数的检验(样本统计量样本统计量 的分布的分布)1.1.1.是是是根根根据据据最最最小小小二二二乘乘乘法法法求求求出出出的的的样样样本本本统统统计计计量量量，它它它有有有自自自己己己的分布的分布的分布2.2.2.的的的分布具有如下性质分布具有如下性质分布具有如下性质 分布形式：正态分布分布形式：正态分布分布形式：正态分布 数学期望：数学期望：数学期望：标准差：标准差：标准差：由由由于于于 未未未知知知，需需需用用用其其

34、其估估估计计计量量量s sse ee来来来代代代替替替得得得到到到 的的的估估估计计计的的的标标标准准准差差差第53页，本讲稿共74页回归系数的检验回归系数的检验(检验步骤检验步骤)1.1.提出假设提出假设n nH H0 0:1 1=0(=0(没有线性关系没有线性关系)n nH H1 1:1 1 0(0(有线性关系有线性关系)2.2.计算检验的统计量计算检验的统计量3.3.确定显著性水平确定显著性水平，并进行决策，并进行决策 t t t t，拒绝，拒绝H H0 0；t t t t，不拒绝，不拒绝H H0 0第54页，本讲稿共74页10.3 残差分析10.3.1 用残差证实模型的假定用残差证实模

35、型的假定10.3.2 用残差检测异常值和有影响的观测值用残差检测异常值和有影响的观测值第55页，本讲稿共74页残差残差(residual)1.因变量的观测值与根据估计的回归方程求出的预测值之差，用e表示2.反映了用估计的回归方程去预测而引起的误差 3.可用于确定有关误差项的假定是否成立 4.用于检测有影响的观测值第56页，本讲稿共74页用残差证实模型的假定用残差证实模型的假定第57页，本讲稿共74页残差图残差图(residual plot)1.表示残差的图形n n关于关于x x的残差图的残差图n n关于关于y y的残差图的残差图n n标准化残差图标准化残差图2.用于判断误差的假定是否成立 3.

36、检测有影响的观测值第58页，本讲稿共74页残差与标准化残差图残差与标准化残差图(例题分析例题分析)第59页，本讲稿共74页残差图残差图(形态及判别形态及判别)(a)(a)满意模式满意模式残残差差x x0 0(b)(b)非常数方差非常数方差残残残差差差x x0 00(c)(c)模型不合适模型不合适残残残差差差x x0 00第60页，本讲稿共74页残差图残差图(例题分析例题分析)第61页，本讲稿共74页残差的正态性假定残差的正态性假定(残差的正态概率图残差的正态概率图)第62页，本讲稿共74页标准化残差标准化残差(standardized residual)1.1.残差除以它的标准差残差除以它的标

37、准差2.2.也也称称为为PearsonPearson残残差差或或半半学学生生化化残残差差(semi-studentized(semi-studentized residuals)residuals)3.3.计算公式为计算公式为注意：注意：注意：注意：ExcelExcel给出的标准残差的计算公式为给出的标准残差的计算公式为 这实际上是这实际上是学生化删除残差学生化删除残差(studentized deleted residuals)(studentized deleted residuals)第63页，本讲稿共74页标准化残差图标准化残差图 用以直观地判断误差项服从正态分布这一假定是否成立 n

38、n若若假假定定成成立立，标标准准化化残残差差的的分分布布也也应应服服从从正态分布正态分布n n在在标标准准化化残残差差图图中中，大大约约有有95%95%的的标标准准化化残差在残差在-2-2到到+2+2之间之间 第64页，本讲稿共74页标准化残差图标准化残差图(例题分析例题分析)第65页，本讲稿共74页残差的正态性假定残差的正态性假定(标准化残差的正态概率图标准化残差的正态概率图)第66页，本讲稿共74页用残差检测异常值和用残差检测异常值和有影响的观测值有影响的观测值第67页，本讲稿共74页异常值异常值(outlier)1.1.如如果果某某一一个个点点与与其其他他点点所所呈呈现现的的趋趋势势不不

39、相相吻吻合合，这个点就有可能是异常点，或称为野点这个点就有可能是异常点，或称为野点n n如如果果异异常常值值是是一一个个错错误误的的数数据据，比比如如记记录录错错误误造造成成的的，应该修正该数据，以便改善回归的效果应该修正该数据，以便改善回归的效果n n如如果果是是由由于于模模型型的的假假定定不不合合理理，使使得得标标准准化化残残差差偏偏大大，应应该该考考虑采用其他形式的模型，比如非线性模型虑采用其他形式的模型，比如非线性模型n n如如果果完完全全是是由由于于随随机机因因素素而而造造成成的的异异常常值值，则则应应该该保保留该数据留该数据2.2.在在处处理理异异常常值值时时，若若一一个个异异常常

40、值值是是一一个个有有效效的的观观测测值，不应轻易地将其从数据集中予以剔除值，不应轻易地将其从数据集中予以剔除 第68页，本讲稿共74页异常值异常值(识别识别)1.异常值也可以通过标准化残差来识别2.如果某一个观测值所对应的标准化残差较大，就可以识别为异常值3.一般情况下，当一个观测值所对应的标准化残差小于-2或大于+2时，就可以将其视为异常值第69页，本讲稿共74页有影响的观测值有影响的观测值1.如果某一个或某一些观测值对回归的结果有强烈的影响，那么该观测值或这些观测值就是有影响的观测值 2.一个有影响的观测值可能是n n一一个个异异常常值值，即即有有一一个个值值远远远远偏偏离离了了散散点点图

41、中的趋势线图中的趋势线n n对应一个远离自变量平均值的观测值对应一个远离自变量平均值的观测值n n或者是这二者组合而形成的观测值或者是这二者组合而形成的观测值第70页，本讲稿共74页有影响的观测值有影响的观测值(图示图示)不存在影响值的趋势有影响的观测值存在影响值的趋势第71页，本讲稿共74页杠杆率点杠杆率点(ieverage point)1.1.如如果果自自变变量量存存在在一一个个极极端端值值，该该观观测测值值则则称称为为高高杠杠杆杆率点率点(high ieverage pointhigh ieverage point)2.2.在在一一元元回回归归中中，第第i i个个观观测测值值的的杠杠杆杆率率用用h hi i表表示示，其其计计算公式为算公式为 3.3.如如果果一一个个观观测测值值的的杠杠杆杆率率 ，就就可可以以将将该该观观测测值值识识别为有高杠杆率的点别为有高杠杆率的点 4.4.一一个个有有高高杠杠杆杆率率的的观观测测值值未未必必是是一一个个有有影影响响的的观观测测值值，它它可可能对回归直线的斜率没有什么影响能对回归直线的斜率没有什么影响 第72页，本讲稿共74页高杠杆率点高杠杆率点(图示图示)高杠杆率点第73页，本讲稿共74页结结 束束第74页，本讲稿共74页