《第五章 相关与回归分析(完整版).ppt》由会员分享，可在线阅读，更多相关《第五章 相关与回归分析(完整版).ppt（162页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、5-1统计学统计学第第 5 章章 相关与回归分析相关与回归分析统计学5-2统计学统计学第第5章章 相关与回归分析相关与回归分析5.1 相关与回归分析的基本概念相关与回归分析的基本概念 5.2 一元线性回归分析一元线性回归分析5.3 多元线性回归分析多元线性回归分析5.4 非线性回归分析非线性回归分析5.5 相关分析相关分析5-3统计学统计学学习目标学习目标1.1.了解相关与回归分析的基本概念了解相关与回归分析的基本概念了解相关与回归分析的基本概念了解相关与回归分析的基本概念2.掌握一元线性回归的基本原理和参数的最小二掌握一元线性回归的基本原理和参数的最小二掌握一元线性回归的基本原理和参数的最小
2、二掌握一元线性回归的基本原理和参数的最小二乘估计乘估计乘估计乘估计3.掌握回归直线的拟合优度测定掌握回归直线的拟合优度测定掌握回归直线的拟合优度测定掌握回归直线的拟合优度测定4.掌握回归系数和回归方程的显著性检验掌握回归系数和回归方程的显著性检验掌握回归系数和回归方程的显著性检验掌握回归系数和回归方程的显著性检验5.利用回归方程进行估计和预测利用回归方程进行估计和预测利用回归方程进行估计和预测利用回归方程进行估计和预测6.用用用用 ExcelExcel ,SPSS,SPSS进行回归进行回归进行回归进行回归7.掌握各种相关系数的含义和应用场合掌握各种相关系数的含义和应用场合掌握各种相关系数的含义
3、和应用场合掌握各种相关系数的含义和应用场合5-4统计学统计学5.1 相关与回归分析的基本概念相关与回归分析的基本概念 一一.函数关系与相关关系函数关系与相关关系二二.相关关系的种类相关关系的种类三三.相关分析和回归分析相关分析和回归分析四四.相关表和相关图相关表和相关图5-5统计学统计学函数关系和相关关系函数关系和相关关系5-6统计学统计学函数关系函数关系1.是一一是一一对应的确定关系对应的确定关系2.设设有有两两个个变变量量 x x 和和 y y，变变量量 y y 随随变变量量 x x 一一起起变变化化，并并完完全全依依赖赖于于 x x ，当当变变量量 x x 取取某某个个数数值值时时，y
4、y 依依确确定定的的关关系系取取相相应应的的值值，则则称称 y y 是是 x x 的的函函数数，记记为为 y y =f f(x x)，其其中中 x x 称称为为自自变变量量，y y 称称为为因因变变量量3.各各观测点落在一条线上观测点落在一条线上 x xy y5-7统计学统计学函数关系函数关系(几个例子几个例子)函数关系的例子函数关系的例子某某种种商商品品的的销销售售额额(y y)与与销销售售量量(x x)之之间间的的关关系系可表示为可表示为 y y=pxpx (p p 为单价为单价)圆圆 的的 面面 积积(S)S)与与 半半 径径 之之 间间 的的 关关 系系 可可 表表 示示 为为S S=
5、R R2 2 企企业业的的原原材材料料消消耗耗额额(y y)与与产产量量(x x1 1)、单单位位产产量量消消耗耗(x x2 2)、原原材材料料价价格格(x x3 3)之之间间的的关关系系可可表表示为示为y y=x x1 1 x x2 2 x x3 3 5-8统计学统计学相关关系相关关系(correlation)1.变变量量间间关关系系不不能能用用函函数数关关系精确表达系精确表达2.一一个个变变量量的的取取值值不不能能由由另另一个变量唯一确定一个变量唯一确定3.当当变变量量 x x 取取某某个个值值时时，变变量量 y y 的取值可能有几个的取值可能有几个4.各观测各观测点分布在直线周围点分布在
6、直线周围 x xy y5-9统计学统计学相关关系相关关系(几个例子几个例子)相关关系的例子相关关系的例子父亲身高父亲身高(y y)与子女身高与子女身高(x x)之间的关系之间的关系收入水平收入水平(y y)与受教育程度与受教育程度(x x)之间的关系之间的关系粮粮食食亩亩产产量量(y y)与与施施肥肥量量(x x1 1)、降降雨雨量量(x x2 2)、温度温度(x x3 3)之间的关系之间的关系商商品品的的消消费费量量(y y)与与居居民民收收入入(x x)之之间间的的关关系系商商品品销销售售额额(y y)与与广广告告费费支支出出(x x)之之间间的的关关系系5-10统计学统计学相关关系相关关
7、系(类型类型)5-11统计学统计学相关关系相关关系(类型类型)1.按变量多少可分为n n简单相关简单相关n n多元相关多元相关 复相关复相关 偏相关偏相关2.按依存形式可分为n n线性相关线性相关n n非线性相关非线性相关5-12统计学统计学相关关系相关关系(类型类型)3.按相关的程度可分为n n完全相关完全相关n n不完全相关不完全相关n n完全无关完全无关4.按相关的方向可分为n n正相关正相关n n负相关负相关5-13统计学统计学相关分析与回归分析相关分析与回归分析5-14统计学统计学相关分析与回归分析相关分析与回归分析1.相关分析:分析现象之间相互依存关系的密切程度.2.回归分析:根据
8、相关关系的具体形态,选择一个合适的数学模型,来近似地表达变量间平均变化关系.5-15统计学统计学相关关系的描述与测度相关关系的描述与测度(相关表和散点图相关表和散点图)5-16统计学统计学散点图散点图(scatter diagram)不相关不相关不相关不相关不相关不相关 负线性相关负线性相关负线性相关负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关非线性相关非线性相关非线性相关 完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完
9、全正线性相关完全正线性相关 5-17统计学统计学散点图散点图(例题分析例题分析)【例例】一家大型商业银行在多个地区设有分行，其业务主要是进行基础设施建设、国家重点项目建设、固定资产投资等项目的贷款。近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的提高，这给银行业务的发展带来较大压力。为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法。下面是该银行所属的25家分行2002年的有关业务数据 5-18统计学统计学散点图散点图(例题分析例题分析)5-19统计学统计学散点图散点图(例题分析例题分析)5-20统计学统计学5.2 一元线性回归一元线性回归
10、一一.一元线性回归模型一元线性回归模型二二.参数的最小二乘估计参数的最小二乘估计三三.回归直线的拟合优度回归直线的拟合优度四四.显著性检验显著性检验5-21统计学统计学什么是回归分析？什么是回归分析？(Regression)1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度回归一词是回归一词是怎么来的怎么来的?？5-22统计学统计学回归分析与相关分析的区别回归分析与相关分析的区别
11、1.相关分析中，变量 x 变量 y 处于平等的地位；回归分析中，变量 y 称为因变量，处在被解释的地位，x 称为自变量，用于预测因变量的变化2.相关分析主要是描述两个变量之间依存关系的密切程度；回归分析不仅可以揭示变量 x 对变量 y 的影响大小，还可以由回归方程进行预测和控制 5-23统计学统计学回归模型的类型回归模型的类型5-24统计学统计学一元线性回归模型一元线性回归模型5-25统计学统计学一元线性回归一元线性回归1.涉及一个自变量的回归2.因变量y与自变量x之间为线性关系n n被被 预预 测测 或或 被被 解解 释释 的的 变变 量量 称称 为为 因因 变变 量量(dependent
12、variable)dependent variable)，用用y y表示表示n n用用来来预预测测或或用用来来解解释释因因变变量量的的一一个个或或多多个个变变量量称称为为自自变变量量(independent independent variable)variable)，用用x x表示表示 3.因变量与自变量之间的关系用一条线性方程来表示5-26统计学统计学回归模型回归模型(regression model)1.回答“变量之间是什么样的关系？”2.方程中运用n n1 1 个数字的因变量个数字的因变量(响应变量响应变量)l l被预测的变量被预测的变量n n1 1 个或多个数字的或分类的自变量个或多
13、个数字的或分类的自变量(解释变量解释变量)l l用于预测的变量用于预测的变量3.主要用于预测和估计5-27统计学统计学一元线性回归模型一元线性回归模型1.描描述述因因变变量量 y y 如如何何依依赖赖于于自自变变量量 x x 和和误误差差项项 的的方程称为方程称为回归模型回归模型回归模型回归模型2.一元线性一元线性回归模型可表示为回归模型可表示为 y y=0 0 0 0+1 1 1 1 x x+n ny y 是是 x x 的线性函数的线性函数(部分部分)加上误差项加上误差项n n线性部分反映了由于线性部分反映了由于 x x 的变化而引起的的变化而引起的 y y 的变化的变化n n误差项误差项
14、是随机变量是随机变量l l反反映映了了除除 x x 和和 y y 之之间间的的线线性性关关系系之之外外的的随随机机因因素素对对 y y 的的影响影响l l是不能由是不能由 x x 和和 y y 之间的线性关系所解释的变异性之间的线性关系所解释的变异性n n 0 0 和和 1 1 称为模型的参数（回归系数）称为模型的参数（回归系数）5-28统计学统计学一元线性回归模型一元线性回归模型(基本假定基本假定)1.误误差差项项 是是一一个个期期望望值值为为0 0的的随随机机变变量量，即即E E()=0)=0。对对于于一一个个给给定定的的 x x 值值，y y 的的期期望望值值为为E E (y y)=0
15、0+1 1 x x2.对对于所有的于所有的 x x 值，值，的方差的方差 2 2 都相同都相同3.误误差差项项 是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相相互独立。即互独立。即 N N(0,(0,2 2)n n独独立立性性意意味味着着对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 与与其他其他 x x 值所对应的值所对应的 不相关不相关n n对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 y y 值值与与其其他他 x x 所所对应的对应的 y y 值也不相关值也不相关5-29统计学统计学回归方程回归方程(regression equat
16、ion)1.描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程回归方程2.一元线性回归方程的形式如下3.E(y)=0+1 x（总总体体回回归归直直线）线）方程的图示是一条直线，也称为直线回归方程方程的图示是一条直线，也称为直线回归方程 0 0是是回回归归直直线线在在 y y 轴轴上上的的截截距距，是是当当 x x=0=0 时时 y y 的的期期望值望值 1 1是是直直线线的的斜斜率率，称称为为回回归归系系数数，表表示示当当 x x 每每变变动动一个单位时，一个单位时，y y 的平均变动值的平均变动值5-30统计学统计学估计的回归方程估计的回归方程(estimated regressi
17、on equation)3.一一元元线线性性回回归归中中估估计计的的回回归归方方程程(样样样样本本本本回回回回归归归归直直直直线线线线)为为2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ，就得到了，就得到了估计的回归方程估计的回归方程估计的回归方程估计的回归方程1.总总体体回回归归参参数数 和和 是是未未知知的的，必必需需利利用用样样本本数数据去估计据去估计其其中中：是是估估计计的的回回归归直直线线在在 y y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 x x 的的值值，是是 y y 的的估估计计值，
18、也表示值，也表示 x x 每变动一个单位时，每变动一个单位时，y y 的平均变动值的平均变动值 5-31统计学统计学参数的最小二乘估计参数的最小二乘估计5-32统计学统计学最小二乘估计最小二乘估计1.使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小5-33统计学统计学最小二乘估计最小二乘估计(图示图示)x xy y(x xn n ,y yn n)(x x1 1,y y1 1)(x x2 2,y y2 2)(x xi i,y yi i)e ei i =y yi i-y yi i5-34统计学统
19、计学最小二乘法最小二乘法(和和 的计算公式的计算公式)根据最小二乘法的要求，可得求解 和 的公式如下5-35统计学统计学估计方程的求法估计方程的求法(例题分析例题分析)【例】【例】求不良贷款对贷款余额的回归方程回归方程为：回归方程为：y=-0.8295+0.037895 x回回归归系系数数 =0.037895=0.037895 表表示示，贷贷款款余余额额每每增增加加1 1亿元，不良贷款平均增加亿元，不良贷款平均增加0.0378950.037895亿元亿元 5-36统计学统计学估计方程的求法估计方程的求法(例题分析例题分析)不良贷款对贷款余额回归方程的图示5-37统计学统计学用用Excel进行回
20、归分析进行回归分析第第第第1 1步：步：步：步：选择选择“工具工具工具工具”下拉菜单下拉菜单第第第第2 2步：步：步：步：选择选择“数据分析数据分析数据分析数据分析”选项选项第第第第3 3步步步步：在在分分析析工工具具中中选选择择“回回回回归归归归”，然然后后选选择择“确确确确定定定定”第第第第4 4步：步：步：步：当对话框出现时当对话框出现时 在在“Y Y值输入区域值输入区域值输入区域值输入区域”方框内键入方框内键入Y Y的数据区域的数据区域 在在“X X值输入区域值输入区域值输入区域值输入区域”方框内键入方框内键入X X的数据区域的数据区域 在在“置信度置信度置信度置信度”选项中给出所需的
21、数值选项中给出所需的数值 在在“输出选项输出选项输出选项输出选项”中选择输出区域中选择输出区域 在在“残差残差残差残差”分析选项中选择所需的选项分析选项中选择所需的选项用用用用ExcelExcel进行回归分析进行回归分析进行回归分析进行回归分析5-38统计学统计学回归直线的拟合优度回归直线的拟合优度5-39统计学统计学变差变差1.因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面n n由于自变量由于自变量 x x 的取值不同造成的的取值不同造成的n n除除 x x 以以外外的的其其他他因因素素(如如x x对对y y的的非非线线性性影影响响、测量误差等测量误差等)的影响的
22、影响2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示5-40统计学统计学变差的分解变差的分解(图示图示)x xy yy y 5-41统计学统计学离差平方和的分解离差平方和的分解(三个平方和的关系三个平方和的关系)SST=SSR+SSE总平方和总平方和总平方和总平方和(SSTSST)回归平方和回归平方和回归平方和回归平方和(SSRSSR)残差平方和残差平方和残差平方和残差平方和(SSESSE)5-42统计学统计学离差平方和的分解离差平方和的分解(三个平方和的意义三个平方和的意义)1.总平方和总平方和(SST)n n反映因变量的反映因变量的 n n 个观察值与其均值的
23、总离差个观察值与其均值的总离差2.回归平方和回归平方和(SSR)n n反反映映自自变变量量 x x 的的变变化化对对因因变变量量 y y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 x x 与与 y y 之之间间的的线线性性关关系系引引起的起的 y y 的取值变化，也称为可解释的平方和的取值变化，也称为可解释的平方和3.残差平方和残差平方和(SSE)n n反反映映除除 x x 以以外外的的其其他他因因素素对对 y y 取取值值的的影影响响，也也称为不可解释的平方和或剩余平方和称为不可解释的平方和或剩余平方和5-43统计学统计学判定系数判定系数r2 (coefficient of
24、determination)1.回归平方和占总离差平方和的比例2.反映回归直线的拟合程度3.取值范围在 0,1 之间4.R2 1，说明回归方程拟合的越好；R20，说明回归方程拟合的越差5.一元线性回归中，判定系数等于相关系数的平方，即R2(r)25-44统计学统计学判定系数判定系数r2 (例例题题分析分析)【例例例例】计计算算不不良良贷贷款款对对贷贷款款余余额额回回归归的的判判定定系系数数，并并解解释其意义释其意义 判判判判定定定定系系系系数数数数的的的的实实实实际际际际意意意意义义义义是是是是：在在不不良良贷贷款款取取值值的的变变差差中中，有有71.16%71.16%可可以以由由不不良良贷贷
25、款款与与贷贷款款余余额额之之间间的的线线性性关关系系来来解解释释，或或者者说说，在在不不良良贷贷款款取取值值的的变变动动中中，有有71.16%71.16%是是由由贷贷款款余余额额所所决决定定的的。也也就就是是说说，不不良良贷贷款款取取值值的的差差异异有有2/32/3以以上上是是由由贷贷款款余余额额决决定定的的。可可见见不良贷款与贷款余额之间有较强的线性关系不良贷款与贷款余额之间有较强的线性关系 5-45统计学统计学估计标准误差估计标准误差(standard error of estimate)1.实际观察值与回归估计值离差平方和的均方根实际观察值与回归估计值离差平方和的均方根2.反映实际观察值
26、在回归直线周围的分散状况反映实际观察值在回归直线周围的分散状况3.对对误误差差项项 的的标标准准差差 的的估估计计，是是在在排排除除了了x x对对y y的的线性影响后，线性影响后，y y随机波动大小的一个估计量随机波动大小的一个估计量4.反反映用估计的回归方程预测映用估计的回归方程预测y y时预测误差的大小时预测误差的大小 5.计算公式为计算公式为注：例题的计算结果为注：例题的计算结果为1.97991.97991.97991.97995-46统计学统计学显著性检验显著性检验5-47统计学统计学线性关系的检验线性关系的检验1.检验自变量与因变量之间的线性关系是否显著2.将回归均方(MSR)同残差
27、均方(MSE)加以比较，应用F检验来分析二者之间的差别是否显著回回归归均均方方：回回归归平平方方和和SSRSSR除除以以相相应应的的自自由由度度(自自变变量的个数量的个数p p)残残差差均均方方：残残差差平平方方和和SSESSE除除以以相相应应的的自自由由度度(n n-p p-1)-1)5-48统计学统计学线性关系的检验线性关系的检验(检验的步骤检验的步骤)1.提出假设n nH H0 0：1 1=0=0 线性关系不显著线性关系不显著2.计算检验统计量F3.确定显著性水平，并根据分子自由度1和分母自由度n-2找出临界值F 4.作出决策：若FF,拒绝H0；若FF,拒绝H0，线性关系显著5-50统计
28、学统计学线性关系的检验线性关系的检验(方差分析表方差分析表)Excel 输出的方差分析表输出的方差分析表5-51统计学统计学回归系数的检验回归系数的检验3.在一元线性回归中，等价于线性关系的显著性检验1.检验 x 与 y 之间是否具有线性关系，或者说，检验自变量 x 对因变量 y 的影响是否显著2.理论基础是回归系数 的抽样分布5-52统计学统计学回归系数的检验回归系数的检验(样本统计量样本统计量 的分布的分布)1.1.1.是是是根根根据据据最最最小小小二二二乘乘乘法法法求求求出出出的的的样样样本本本统统统计计计量量量，它它它有有有自自自己己己的分布的分布的分布2.2.2.的的的分布具有如下性
29、质分布具有如下性质分布具有如下性质 分布形式：正态分布分布形式：正态分布分布形式：正态分布 数学期望：数学期望：数学期望：标准差：标准差：标准差：由由由于于于 未未未知知知，需需需用用用其其其估估估计计计量量量s s sy yy来来来代代代替替替得得得到到到 的的的估估估计计计的的的标标标准差准差准差5-53统计学统计学回归系数的检验回归系数的检验(检验步骤检验步骤)1.提出假设提出假设n nH H0 0:1 1=0(=0(没有线性关系没有线性关系)n nH H1 1:1 1 0(0(有线性关系有线性关系)2.计算检验的统计量计算检验的统计量3.确定显著性水平确定显著性水平，并进行决策，并进行
30、决策 t t t t，拒绝拒绝H H0 0；t t =7.533515t t=2.201=2.201，拒拒绝绝H H0 0，表表明明不不良良贷贷款款与贷款余额之间有线性关系与贷款余额之间有线性关系5-55统计学统计学回归系数的检验回归系数的检验(例题分析例题分析)P 值的应用值的应用P P=0.000000=0.000000 F F ，拒绝拒绝H H0 0Excel Excel 输出输出输出输出结果的分析结果的分析结果的分析结果的分析5-105统计学统计学回归系数的检验回归系数的检验1.线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验2.究竟要对哪几个回归系数进行检验，通常需要在建
31、立模型之前作出决定3.对回归系数检验的个数进行限制，以避免犯过多的第一类错误(弃真错误)4.对每一个自变量都要单独进行检验5.应用 t 检验统计量5-106统计学统计学回归系数的检验回归系数的检验(步骤步骤)1.提出假设n nH H0 0：i i=0 (=0 (自变量自变量 x xi i 与与 因变量因变量 y y 没有线性关系没有线性关系)n nH H1 1：i i 0 (0 (自变量自变量 x xi i 与与 因变量因变量 y y有线性关系有线性关系)2.计算检验的统计量 t3.确定显著性水平，并进行决策 t t t t，拒绝拒绝H H0 0；t t tt t(25-(25-2)=2.06
32、872)=2.0687，所所以以均均拒拒绝绝原原假假设设，说说明明这这4 4个个自自变变量量两两之间都有显著的相关关系两两之间都有显著的相关关系2.2.由由表表ExcelExcel输输出出的的结结果果可可知知，回回归归模模型型的的线线性性关关系系显显著著(Significance-FSignificance-F1.03539E-061.03539E-060.067030=0.05=0.05)。这也暗示了模型中存在多重共线性这也暗示了模型中存在多重共线性3.3.固固定定资资产产投投资资额额的的回回归归系系数数为为负负号号(-0.029193)(-0.029193)，与预期的不一致与预期的不一致5
33、-114统计学统计学多重共线性多重共线性(问题的处理问题的处理)1.将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能不相关2.如果要在模型中保留所有的自变量，则应n n避免根据避免根据 t t 统计量对单个参数进行检验统计量对单个参数进行检验n n对对因因变变量量值值的的推推断断(估估计计或或预预测测)的的限限定定在在自自变量样本值的范围内变量样本值的范围内Excel Excel 输出结果的分析输出结果的分析输出结果的分析输出结果的分析5-115统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测(软软件应用件应用)5-116统计学统计学置信区间估计置信区间估计(例题分析
34、例题分析)STATISTICASTATISTICA输出的不良贷款的输出的不良贷款的输出的不良贷款的输出的不良贷款的置信区间置信区间置信区间置信区间5-117统计学统计学预测区间估计预测区间估计(例题分析例题分析)STATISTICASTATISTICA输出的不良贷款的输出的不良贷款的输出的不良贷款的输出的不良贷款的预测区间预测区间预测区间预测区间5-118统计学统计学含有一个虚拟自变量的回归含有一个虚拟自变量的回归5-119统计学统计学虚拟自变量虚拟自变量(dummy variable)1.用数字代码表示的定性自变量2.虚拟自变量可有不同的水平n n只有两个水平的虚拟自变量只有两个水平的虚拟自
35、变量l l比如，性别比如，性别(男，女男，女)n n有两个以上水平的虚拟自变量有两个以上水平的虚拟自变量l l贷款企业的类型贷款企业的类型(家电，医药，其他家电，医药，其他)3.虚拟变量的取值为0，15-120统计学统计学虚拟自变量的回归虚拟自变量的回归1.回回归归模模型型中中使使用用虚虚拟拟自自变变量量时时，称称为为虚虚拟拟自自变变量的回归量的回归2.当当虚虚拟拟自自变变量量只只有有两两个个水水平平时时，可可在在回回归归中中引引入一个虚拟变量入一个虚拟变量n n比如，性别比如，性别(男，女男，女)3.一一般般而而言言，如如果果定定性性自自变变量量有有k k个个水水平平，需需要要在在回归中模型
36、中引进回归中模型中引进k k-1-1个虚拟变量个虚拟变量5-121统计学统计学虚拟自变量的回归虚拟自变量的回归(例题分析例题分析)【例例例例】为为研研究究考考试试成成绩绩与与性性别别之之间间的的关关系系，从从某某大大学学商商学学院院随随机机抽抽取取男男女女学学生生各各8 8名名，得得到到他他们们的的市市场场营营销销学学课课程程的的考考试试成成绩绩如如下表下表 5-122统计学统计学虚拟自变量的回归虚拟自变量的回归(例题分析例题分析)散点图散点图散点图散点图y y与与与与x x的回归的回归的回归的回归男 女5-123统计学统计学虚拟自变量的回归虚拟自变量的回归(例题分析例题分析)引进虚拟变量时，
37、回归方程可写：引进虚拟变量时，回归方程可写：E E(y y)=)=0 0+1 1x x 男男(x x=0)=0)：E E(y y)=)=0 0男学生考试成绩的期望值男学生考试成绩的期望值 女女(x x=0=0)：E E(y y)=0 0+1 1 1 1女女学学生生考考试试成成绩绩的的期期望望值值注意：当指定虚拟变量注意：当指定虚拟变量0101时时 0 0总总是是代代表表与与虚虚拟拟变变量量值值0 0所所对对应应的的那那个个分分类类变变量量水水平的平均值平的平均值 1 1总总是是代代表表与与虚虚拟拟变变量量值值1 1所所对对应应的的那那个个分分类类变变量量水水平平的的平平均均响响应应与与虚虚拟拟
38、变变量量值值0 0所所对对应应的的那那个个分分类类变变量量水平的平均值的差值，即水平的平均值的差值，即 平均值的差值平均值的差值=(=(0 0+1 1)-)-0 0=1 15-124统计学统计学虚拟自变量的回归虚拟自变量的回归(例题分析例题分析)【例例】为研究工资水平与工作年限和性别之间的关系，在某行业中随机 抽 取 10名职工，所得数据如下表y y与与与与x x1 1的回归及分析的回归及分析的回归及分析的回归及分析y y与与与与x x1 1、x x2 2的回归及分析的回归及分析的回归及分析的回归及分析5-125统计学统计学虚拟自变量的回归虚拟自变量的回归(例题分析例题分析)引进虚拟变量时，回
39、归方程可写：引进虚拟变量时，回归方程可写：E E(y y)=)=0 0+1 1x x1 1+2 2x x2 2 女女(x x2 2=0)=0)：E E(y y|女性女性)=)=0 0+1 1x x1 1 男男(x x2 2=1)=1)：E E(y y|男性男性)=()=(0 0+2 2 )+)+1 1x x1 1 0 0的含义表示：女性职工的期望月工资收入的含义表示：女性职工的期望月工资收入 (0 0+2 2)的含义表示：男性职工的期望月工资收入的含义表示：男性职工的期望月工资收入 1 1含含义义表表示示：工工作作年年限限每每增增加加1 1年年，男男性性或或女女性性工工资资的平均增加值的平均增
40、加值 2 2含含义义表表示示：男男性性职职工工的的期期望望月月工工资资收收入入与与女女性性职职工的期望月工资收入之间的差值工的期望月工资收入之间的差值(0 0+2 2)-)-0 0=2 25-126统计学统计学5.4 非线性回归非线性回归一一.非线性回归分析简介非线性回归分析简介 二二.常见的可线性化的非线性函数常见的可线性化的非线性函数三三.非线性回归分析的注意事项非线性回归分析的注意事项5-127统计学统计学非线性回归分析简介非线性回归分析简介5-128统计学统计学非线性回归的意义非线性回归的意义在实际工作中，有时变量之间相关关系并非存在线性关系，而呈诸如抛物线、指数曲线、双曲线等各种各样
41、的非线性关系。需要应用适当形式的曲线回归方程来描述它们之间的关系。这种为观察数据拟合曲线回归方程所进行的分析，称为非线性回归分析。5-129统计学统计学非线性回归分析的一般步骤非线性回归分析的一般步骤先先对对所所研研究究的的现现象象进进行行理理论论分分析析，分分析析现现象象之间是否确实存在相关关系之间是否确实存在相关关系确确定定相相关关的的形形式式，可可结结合合观观察察散散点点图图的的分分布布，确定拟合哪种形式的曲线较为合适确定拟合哪种形式的曲线较为合适计计算算其其有有关关参参数数，从从而而确确定定所所拟拟合合的的回回归归方方程形式程形式比比较较可可决决系系数数（或或相相关关指指数数）及及估估
42、计计的的标标准准误误差差等等指指标标来来选选择择合合适适的的回回归归模模型型，并并根根据据所确定的回归方程进行预测。所确定的回归方程进行预测。5-130统计学统计学非线性函数形式的确定非线性函数形式的确定首先，方程形式应与所要研究现象相一致，例如生产函数多用幂函数的形式；而总成本与总产量之间的关系多呈多项式关系其次，选择有较高拟合程度的方程最后，方程的数学形式要尽可能的简单（准确性和可操作性更高）5-131统计学统计学非线性回归模型的参数估计非线性回归模型的参数估计非线性回归方程的参数估计方法有多种，比较简单常用的有：非线性最小二乘法化为线性模型（采用简单数学变换或泰勒级数展开等），再用线性最
43、小二乘法5-132统计学统计学常见的可线性化的非线性函数常见的可线性化的非线性函数5-133统计学统计学常见的可线性化的函数常见的可线性化的函数抛物线：特征：二阶差分为常数双曲线函数：5-134统计学统计学常见的可线性化的函数常见的可线性化的函数幂函数特征：Y对Xj的弹性为bj，常用于生产函数和需求函数5-135统计学统计学常见的可线性化的函数常见的可线性化的函数指数函数：常用于描述增长速度大致相等的时间序列曲线对数函数：常见初等函数曲线5-136统计学统计学常见的可线性化的函数常见的可线性化的函数S S型曲线：型曲线：特特征征：开开始始时时，Y Y随随X X的的增增加加而而递递增增的的增增加
44、加，当当Y Y达达到到一一定定水水平平时时，Y Y随随X X增增加加而而递递减减的的增增加加，并并以以X=LX=L为为渐渐近近线线常常用用于于描描述述生生长长曲曲线线或或用用来来表现耐用消费品普及率的变化表现耐用消费品普及率的变化5-137统计学统计学非线性回归分析的注意事项非线性回归分析的注意事项5-138统计学统计学非线性回归分析的注意事项非线性回归分析的注意事项当当模模型型中中只只有有变变量量是是非非线线性性，而而参参数数估估计计量量及及Y Y的的估估计计量量是是关关于于误误差差项项的的线线性性函函数数时时 ，我们称该模型具有内在线型性我们称该模型具有内在线型性当模型不具有内在线型性时当
45、模型不具有内在线型性时 不能从回归残差中得到随机项方差的无偏估计量不能从回归残差中得到随机项方差的无偏估计量 由由于于回回归归系系数数的的估估计计量量不不再再是是随随机机项项的的线线性性函函数数，t t检验和检验和F F检验都失效检验都失效 由由于于Y Y的的估估计计量量不不再再是是随随机机项项的的线线性性函函数数，因因此此，Y Y的的估估计计量量不不再再具具有有最最佳佳、线线性性、无无偏偏的的性性质质，置置信区间也无法构造信区间也无法构造5-139统计学统计学5.5 相关分析相关分析一一.线性单相关分析线性单相关分析 二.二.等级相关系数及其检验等级相关系数及其检验三.三.复相关系数与偏相关
46、系数复相关系数与偏相关系数四.四.相关指数相关指数 5-140统计学统计学线性单相关分析线性单相关分析(Pearson Pearson 相关系相关系数）数）5-141统计学统计学简单线性相关系数简单线性相关系数(Pearson correlation coefficient)1.对变量之间关系密切程度的度量2.对两个变量之间线性相关程度的度量称为简单线性相关系数，简称相关系数3.若相关系数是根据总体全部数据计算的，称为总体相关系数，记为 4.若是根据样本数据计算的，则称为样本相关系数，记为 r5-142统计学统计学简单线性相关系数简单线性相关系数(总体总体)总体相关系数的计算公式5-143统计
47、学统计学简单线性相关系数简单线性相关系数(计算公式计算公式)样本相关系数的计算公式或化简为5-144统计学统计学相关系数相关系数(取值及其意义取值及其意义)1.r r 的取值范围的取值范围是是-1,1-1,12.|r r|=|=1 1，为完全相关为完全相关n nr r=1 1，为为完全正相关完全正相关n nr r=-1-1，为完全负正相关为完全负正相关3.r r=0=0，不存在不存在线性线性线性线性相关相关关系相关关系相关4.-1 1 r r 0 0，为为负相关负相关5.0 0 t t，拒绝拒绝H H0 0 若若 t t =7.5344t t(25-2)=2.0687(25-2)=2.0687
48、，拒拒绝绝H H0 0，不不良良贷贷款款与与贷贷款款余余额额之之间间存存在在着着显显著著的的正正线线性性相相关关关关系系 5-151统计学统计学相关系数的显著性检验相关系数的显著性检验(例题分析例题分析)各相关系数检验的统计量各相关系数检验的统计量5-152统计学统计学等级相关分析等级相关分析（Spearman等级相关系数）等级相关系数）5-153统计学统计学Spearman等级相关系数等级相关系数(Spearman correlation coefficient)1.两个变量中有一个变量或两个变量都为定序变量时，不可以用Pearson相关系数，而 应 该 用 Spearman 等 级 相 关
49、 系 数 或Kendall和谐系数2.即使两个变量都为定距或定比变量，当两个变量的相关形式不表现为线性关系时，有时可以表现为等级相关5-154统计学统计学Spearman等级相关系数等级相关系数(计算公式计算公式)Spearman等级相关系数其中，di（xi-yj),xi和yj分别是两个变量按大小排列的等级，n为样本容量 Spearman等级相关系数与Pearson相关系数具有类似的性质和相关检验方法 等级相关例题5-155统计学统计学复相关系数与偏相关系数复相关系数与偏相关系数5-156统计学统计学复相关系数复相关系数 复复复复相相相相关关关关系系系系数数数数：反反反反映映映映一一一一个个个
50、个变变变变量量量量y y y y与与与与其其其其它它它它多多多多个个个个变变变变量量量量之间线性相关程度的指标之间线性相关程度的指标之间线性相关程度的指标之间线性相关程度的指标式中用 代替x x xk,应用时多用多元线性回归方程的可决系数的根号直接求得，其值介于到之间，无正负之分5-157统计学统计学偏相关系数偏相关系数1.偏偏相相关关系系数数：在在对对其其他他变变量量的的影影响响进进行行控控制制的的条条件件下下，衡衡量量多多个个变变量量中中某某两两个个变变量之间的量之间的线性线性相关程度。相关程度。2.2.例例如如收收集集南南京京市市8080年年至至20062006年年的的牛牛奶奶消消费费量