《第7章相关与回归分析ppt课件教学内容.PPT》由会员分享，可在线阅读，更多相关《第7章相关与回归分析ppt课件教学内容.PPT（97页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、10-1经济、管理类基础课程统计学统计学第7章相关与回归分析ppt课件 Still waters run deep.流静水深流静水深,人静心深人静心深 Where there is life,there is hope。有生命必有希望。有生命必有希望10-2经济、管理类基础课程统计学统计学学习目标学习目标1.掌握相关系数的含义、计算方法和应用掌握相关系数的含义、计算方法和应用2.掌握一元线性回归的基本原理和参数的最掌握一元线性回归的基本原理和参数的最小二乘估计方法小二乘估计方法3.掌握回归方程的显著性检验掌握回归方程的显著性检验4.利用回归方程进行预测利用回归方程进行预测4.掌握多元线性回归分
2、析的基本方法掌握多元线性回归分析的基本方法5.了解可化为线性回归的曲线回归了解可化为线性回归的曲线回归6.用用 Excel 进行回归分析进行回归分析10-3经济、管理类基础课程统计学统计学第一节第一节 变量间的相关关系变量间的相关关系一一.变量相关的概念变量相关的概念二二.相关系数及其计算相关系数及其计算10-4经济、管理类基础课程统计学统计学变量相关的概念变量相关的概念10-5经济、管理类基础课程统计学统计学变量间的关系变量间的关系（函数关系）（函数关系）1.是一一对应的确定关系是一一对应的确定关系2.设设有有两两个个变变量量 x x 和和 y y，变变量量 y y 随随变变量量 x x 一
3、一起起变变化化，并并完完全全依依赖赖于于 x x ，当当变变量量 x x 取取某某个个数数值值时时，y y 依依确确定定的的关关系系取取相相应应的的值值，则则称称 y y 是是 x x 的的函函数数，记记为为 y y =f f(x x)，其其中中 x x 称称为为自自变变量量，y y 称称为为因因变变量量3.各观测点落在一条线上各观测点落在一条线上 x xy y10-6经济、管理类基础课程统计学统计学变量间的关系变量间的关系（函数关系）（函数关系）函数关系的例子某某种种商商品品的的销销售售额额(y y)与与销销售售量量(x x)之之间间的的关系可表示为关系可表示为 y y=p p x x(p
4、p 为单价为单价)圆圆的的面面积积(S)(S)与与半半径径之之间间的的关关系系可可表表示示为为S S=R R2 2 企企业业的的原原材材料料消消耗耗额额(y y)与与产产量量(x x1 1)、单单位位产产量量消消耗耗(x x2 2)、原原材材料料价价格格(x x3 3)之之间间的的关关系系可表示为可表示为y y=x x1 1 x x2 2 x x3 3 10-7经济、管理类基础课程统计学统计学变量间的关系变量间的关系（相关关系）（相关关系）1.变变量量间间关关系系不不能能用用函函数数关关系精确表达系精确表达2.一一个个变变量量的的取取值值不不能能由由另另一个变量唯一确定一个变量唯一确定3.当当
5、变变量量 x x 取取某某个个值值时时，变变量量 y y 的取值可能有几个的取值可能有几个4.各观测点分布在直线周围各观测点分布在直线周围 x xy y10-8经济、管理类基础课程统计学统计学变量间的关系变量间的关系（相关关系）（相关关系）相关关系的例子商商品品的的消消费费量量(y y)与与居居民民收收入入(x x)之之间间的的关关系系商商品品销销售售额额(y y)与与广广告告费费支支出出(x x)之之间间的的关关系系粮粮食食亩亩产产量量(y y)与与施施肥肥量量(x x1 1)、降降雨雨量量(x x2 2)、温度、温度(x x3 3)之间的关系之间的关系收入水平收入水平(y y)与受教育程度
6、与受教育程度(x x)之间的关系之间的关系父亲身高父亲身高(y y)与子女身高与子女身高(x x)之间的关系之间的关系10-9经济、管理类基础课程统计学统计学相关关系的类型相关关系的类型相关关系相关关系非线性相关非线性相关线性相关线性相关正正相相关关正正相相关关负负相相关关负负相相关关完全相关完全相关不相关不相关10-10经济、管理类基础课程统计学统计学相关关系的图示相关关系的图示 不相关不相关不相关不相关不相关不相关 负线性相关负线性相关负线性相关负线性相关负线性相关负线性相关 正线性相关正线性相关正线性相关正线性相关正线性相关正线性相关 非线性相关非线性相关非线性相关非线性相关非线性相关非
7、线性相关 完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全负线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关完全正线性相关 10-11经济、管理类基础课程统计学统计学相关系数及其计算相关系数及其计算10-12经济、管理类基础课程统计学统计学相关关系的测度相关关系的测度（相关系数）（相关系数）1.对变量之间关系密切程度的度量2.对两个变量之间线性相关程度的度量称为简单相关系数3.若相关系数是根据总体全部数据计算的，称为总体相关系数，记为 4.若是根据样本数据计算的，则称为样本相关系数，记为 r10-13经济、管理类基础课程统计学统计学相关关
8、系的测度相关关系的测度（相关系数）（相关系数）样本相关系数的计算公式或化简为10-14经济、管理类基础课程统计学统计学相关关系的测度相关关系的测度（相关系数取值及其意义）（相关系数取值及其意义）1.r r 的取值范围是的取值范围是-1,1-1,12.|r r|=1|=1，为完全相关为完全相关n nr r=1=1，为完全正相关，为完全正相关n nr r=-1=-1，为完全负正相关，为完全负正相关3.r r=0=0，不存在不存在线性线性相关相关关系相关关系相关4.-1-1 r r00，为负相关为负相关5.0 0 t t，拒绝，拒绝H H0 0 若若 t t =64.9809t t(13-2)=2.
9、201(13-2)=2.201，拒绝，拒绝H H0 0，人均，人均消费金额与人均国民收入之间的相关关系显著消费金额与人均国民收入之间的相关关系显著10-20经济、管理类基础课程统计学统计学相关系数的显著性检验相关系数的显著性检验（相关系数检验表的使用）（相关系数检验表的使用）1.若若I Ir rI I大大于于表表上上的的=5%=5%相相应应的的值值，小小于于表表上上 1%1%相应的值，称变量相应的值，称变量x x与与y y之间有之间有显著显著显著显著的线性关系的线性关系2.若若I Ir rI I大大于于表表上上=1%=1%相相应应的的值值，称称变变量量x x与与y y之之间间有有十分显著十分显
10、著十分显著十分显著的线性关系的线性关系3.若若I Ir rI I小小于于表表上上=5%=5%相相应应的的值值，称称变变量量x x与与y y之之间间没没有有明显明显明显明显的线性关系的线性关系4.根根据据前前例例的的r r0.99870.9987=5%(=5%(n n-2)=0.553-2)=0.553，表表明明人人均均消消费费金金额额与与人人均均国国民民收收入入之之间间有有十十分分显显著著的的线性相关关系线性相关关系10-21经济、管理类基础课程统计学统计学第二节第二节 一元线性回归一元线性回归一一.一元线性回归模型一元线性回归模型二二.参数的最小二乘估计参数的最小二乘估计三三.回归方程的显著
11、性检验回归方程的显著性检验四四.预测及应用预测及应用10-22经济、管理类基础课程统计学统计学什么是回归分析？什么是回归分析？（内容）（内容）1.从一组样本数据出发，确定变量之间的数学关系式2.对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著3.利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度回归方程一词是怎么来的10-23经济、管理类基础课程统计学统计学回归分析与相关分析的区别回归分析与相关分析的区别1.相相关关分分析析中中，变变量量 x x 变变量量 y y 处处于于平平等等
12、的的地地位位；回回归归分分析析中中，变变量量 y y 称称为为因因变变量量，处处在在被被解解释释的的地地位，位，x x 称为自变量，用于预测因变量的变化称为自变量，用于预测因变量的变化2.相相关关分分析析中中所所涉涉及及的的变变量量 x x 和和 y y 都都是是随随机机变变量量；回回归归分分析析中中，因因变变量量 y y 是是随随机机变变量量，自自变变量量 x x 可可以是随机变量，也可以是非随机的确定变量以是随机变量，也可以是非随机的确定变量3.相相关关分分析析主主要要是是描描述述两两个个变变量量之之间间线线性性关关系系的的密密切切程程度度；回回归归分分析析不不仅仅可可以以揭揭示示变变量量
13、 x x 对对变变量量 y y 的影响大小，还可以由回归方程进行预测和控制的影响大小，还可以由回归方程进行预测和控制 10-24经济、管理类基础课程统计学统计学回归模型的类型回归模型的类型一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归10-25经济、管理类基础课程统计学统计学回归模型与回归方程回归模型与回归方程10-26经济、管理类基础课程统计学统计学回归模型回归模型1.回答“变量之间是什么样的关系？”2.方程中运用n n1 1 个数字的因变量个数字的因变量(响
14、应变量响应变量)l l被预测的变量被预测的变量n n1 1 个或多个数字的或分类的自变量个或多个数字的或分类的自变量(解释变量解释变量)l l用于预测的变量用于预测的变量3.主要用于预测和估计10-27经济、管理类基础课程统计学统计学一元线性回归模型一元线性回归模型（概念要点）（概念要点）1.当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为一元线性回归2.对于具有线性关系的两个变量，可以用一条线性方程来表示它们之间的关系3.描述因变量 y 如何依赖于自变量 x 和误差项 的方程称为回归模型10-28经济、管理类基础课程统计学统计学一元线性回归模型一元线性回归模
15、型（概念要点）（概念要点）对于只涉及一个自变量的简单线性回归模型可表示为 y=0 0+1 1 x+n n模型中，模型中，y y 是是 x x 的线性函数的线性函数(部分部分)加上误差项加上误差项n n线性部分反映了由于线性部分反映了由于 x x 的变化而引起的的变化而引起的 y y 的变化的变化n n误差项误差项 是随机变量是随机变量l l反反映映了了除除 x x 和和 y y 之之间间的的线线性性关关系系之之外外的的随随机机因因素素对对 y y 的影响的影响l l是不能由是不能由 x x 和和 y y 之间的线性关系所解释的变异性之间的线性关系所解释的变异性n n 0 0 和和 1 1 称为
16、模型的参数称为模型的参数10-29经济、管理类基础课程统计学统计学一元线性回归模型一元线性回归模型（基本假定）（基本假定）1.误误差差项项 是是一一个个期期望望值值为为0 0的的随随机机变变量量，即即E E()=0)=0。对对于于一一个个给给定定的的 x x 值值，y y 的的期期望望值值为为E E (y y)=0 0+1 1 x x2.对于所有的对于所有的 x x 值，值，的方差的方差 2 2 都相同都相同3.误误差差项项 是是一一个个服服从从正正态态分分布布的的随随机机变变量量，且且相相互独立。即互独立。即 N N(0,(0,2 2)n n独独立立性性意意味味着着对对于于一一个个特特定定的
17、的 x x 值值，它它所所对对应应的的 与与其他其他 x x 值所对应的值所对应的 不相关不相关n n对对于于一一个个特特定定的的 x x 值值，它它所所对对应应的的 y y 值值与与其其他他 x x 所所对应的对应的 y y 值也不相关值也不相关10-30经济、管理类基础课程统计学统计学回归方程回归方程（概念要点）（概念要点）1.描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程回归方程2.简单线性回归方程的形式如下3.E(y)=0+1 x方程的图示是一条直线，因此也称为直线回归方程方程的图示是一条直线，因此也称为直线回归方程 0 0是是回回归归直直线线在在 y y 轴轴上上的的截
18、截距距，是是当当 x x=0=0 时时 y y 的的期期望值望值 1 1是是直直线线的的斜斜率率，称称为为回回归归系系数数，表表示示当当 x x 每每变变动动一个单位时，一个单位时，y y 的平均变动值的平均变动值10-31经济、管理类基础课程统计学统计学估计估计(经验经验)的回归的回归方程方程3.简单线性回归中估计的回归方程为简单线性回归中估计的回归方程为其其中中：是是估估计计的的回回归归直直线线在在 y y 轴轴上上的的截截距距，是是直直线线的的斜斜率率，它它表表示示对对于于一一个个给给定定的的 x x 的的值值，是是 y y 的的估估计计值，也表示值，也表示 x x 每变动一个单位时，每
19、变动一个单位时，y y 的平均变动值的平均变动值 2.用用样样本本统统计计量量 和和 代代替替回回归归方方程程中中的的未未知知参参数数 和和 ，就得到了，就得到了估计的回归方程估计的回归方程1.总总体体回回归归参参数数 和和 是是未未知知的的，必必需需利利用用样样本本数数据去估计据去估计10-32经济、管理类基础课程统计学统计学参数参数 0 和和 1 的最小二乘估计的最小二乘估计10-33经济、管理类基础课程统计学统计学最小二乘法最小二乘法（概念要点）（概念要点）1.使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即2.用最小二乘法拟合的直线来代表x与y之间的关系与实际数据
20、的误差比其他任何直线都小10-34经济、管理类基础课程统计学统计学最小二乘法最小二乘法（图示）（图示）x xy y(x xn n,y yn n)(x x1 1,y y1 1)(x x2 2,y y2 2)(x xi i,y yi i)e ei i=y yi i-y yi i10-35经济、管理类基础课程统计学统计学最小二乘法最小二乘法（和和 的计算公式的计算公式）根据最小二乘法的要求，可得求解 和 的标准方程如下10-36经济、管理类基础课程统计学统计学估计方程的求法估计方程的求法（实例）（实例）【例例】根据例10.1中的数据，配合人均消费金额对人均国民收入的回归方程 根据 和 的求解公式得1
21、0-37经济、管理类基础课程统计学统计学估计估计(经验经验)方程方程 人均消费金额对人均国民收入的回归方程为y=54.22286+0.52638 x 10-38经济、管理类基础课程统计学统计学估计方程的求法估计方程的求法（Excel的输出结果）的输出结果）10-39经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验10-40经济、管理类基础课程统计学统计学离差平方和的分解离差平方和的分解1.因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面n n由于自变量由于自变量 x x 的取值不同造成的的取值不同造成的n n除除 x x 以以外外的的其其他他因
22、因素素(如如x x对对y y的的非非线线性性影影响响、测量误差等测量误差等)的影响的影响2.对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示10-41经济、管理类基础课程统计学统计学离差平方和的分解离差平方和的分解（图示）（图示）x xy yy y 离差分解图离差分解图10-42经济、管理类基础课程统计学统计学离差平方和的分解离差平方和的分解（三个平方和的关系）（三个平方和的关系）2.两端平方后求和有1.从图上看有SST=SSR+SSE总变差平方和总变差平方和（SSTSST）回归平方和回归平方和（SSRSSR）残差平方和残差平方和（SSESSE）10-43经济、管理类
23、基础课程统计学统计学离差平方和的分解离差平方和的分解（三个平方和的意义）（三个平方和的意义）1.总平方和总平方和(SST)n n反映因变量的反映因变量的 n n 个观察值与其均值的总离差个观察值与其均值的总离差2.回归平方和回归平方和(SSR)n n反反映映自自变变量量 x x 的的变变化化对对因因变变量量 y y 取取值值变变化化的的影影响响，或或者者说说，是是由由于于 x x 与与 y y 之之间间的的线线性性关关系系引引起的起的 y y 的取值变化，也称为可解释的平方和的取值变化，也称为可解释的平方和3.残差平方和残差平方和(SSE)n n反反映映除除 x x 以以外外的的其其他他因因素
24、素对对 y y 取取值值的的影影响响，也也称为不可解释的平方和或剩余平方和称为不可解释的平方和或剩余平方和10-44经济、管理类基础课程统计学统计学样本决定系数样本决定系数（判定系数（判定系数 r2）1.回归平方和占总离差平方和的比例2.反映回归直线的拟合程度3.取值范围在 0,1 之间4.r2 1，说明回归方程拟合的越好；r20，说明回归方程拟合的越差5.判定系数等于相关系数的平方，即r2(r)210-45经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验（线性关系的检验线性关系的检验）1.检验自变量和因变量之间的线性关系是否显著2.具体方法是将回归离差平方和(SSR)
25、同剩余离差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著如果是显著的，两个变量之间存在线性关系如果是显著的，两个变量之间存在线性关系如果不显著，两个变量之间不存在线性关系如果不显著，两个变量之间不存在线性关系10-46经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验（检验检验的步骤）的步骤）1.提出假设n nH H0 0：线性关系不显著：线性关系不显著2.计算检验统计量F3.确定显著性水平，并根据分子自由度1和分母自由度n-2找出临界值F 4.作出决策：若FF,拒绝H0；若F t t，拒绝，拒绝H H0 0；t t =65.0758t t=2.201=
26、2.201，拒拒绝绝H H0 0，表表明明人人均均收收入入与人均消费之间有线性关系与人均消费之间有线性关系对前例的回归系数进行显著性检验(0.05)10-54经济、管理类基础课程统计学统计学回归系数的显著性检验回归系数的显著性检验(Excel输出的结果）输出的结果）10-55经济、管理类基础课程统计学统计学预测及应用预测及应用10-56经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测1.根据自变量 x 的取值估计或预测因变量 y的取值2.估计或预测的类型n n点估计点估计l ly y 的平均值的点估计的平均值的点估计l ly y 的个别值的点估计的个别值的点
27、估计n n区间估计区间估计l ly y 的平均值的的平均值的置信区间置信区间估计估计l ly y 的个别值的的个别值的预测区间预测区间估计估计10-57经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）2.点估计值有n ny y 的平均值的点估计的平均值的点估计n ny y 的个别值的点估计的个别值的点估计3.在点估计条件下，平均值的点估计和个别值的的点估计是一样的，但在区间估计中则不同1.对于自变量 x 的一个给定值x0，根据回归方程得到因变量 y 的一个估计值10-58经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方
28、程进行估计和预测（点估计）（点估计）y 的平均值的点估计的平均值的点估计1.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的平均值的一个估计值E(y0)，就是平均值的点估计2.在前面的例子中，假如我们要估计人均国民收入为2000元时，所有年份人均消费金额的的平均值，就是平均值的点估计。根据估计的回归方程得10-59经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）y 的个别值的点估计的个别值的点估计1.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的一个个别值的估计值 ，就是个别值的点估计
29、2.比如，如果我们只是想知道1990年人均国民收入为1250.7元时的人均消费金额是多少，则属于个别值的点估计。根据估计的回归方程得10-60经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（区间估计）（区间估计）1.点估计不能给出估计的精度，点估计值与实际值之间是有误差的，因此需要进行区间估计2.对于自变量 x 的一个给定值 x0，根据回归方程得到因变量 y 的一个估计区间3.区间估计有两种类型n n置信区间估计置信区间估计n n预测区间估计预测区间估计10-61经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（置信区间
30、估计）（置信区间估计）y 的平均值的的平均值的置信区间置信区间估计估计 1.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的平均值E(y0)的估计区间，这一估计区间称为置信区间置信区间2.E(y0)在1-置信水平下的置信区间为式式中中：S Sy y为为估估计标准误差计标准误差10-62经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（置信区间估计（置信区间估计:算例）算例）【例】【例】【例】【例】根据前例，求出人均国民收入为根据前例，求出人均国民收入为1250.71250.7元时，元时，人均消费金额人均消费金额95%95%的置信区间
31、的置信区间 解：解：根据前面的计算结果根据前面的计算结果 712.57712.57，S Sy y=14.95=14.95，t t(13-2)(13-2)2.2012.201，n n=13=13 置信区间为置信区间为712.57712.57 10.26510.265人人 均均 消消 费费 金金 额额 95%95%的的 置置 信信 区区 间间 为为 702.305702.305元元 722.835722.835元之间元之间10-63经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（预测区间估计）（预测区间估计）y 的个别值的的个别值的预测区间预测区间估计估计 1
32、.利用估计的回归方程，对于自变量 x 的一个给定值 x0，求出因变量 y 的一个个别值的估计区间，这一区间称为预测区间预测区间 2.y0在1-置信水平下的预测区间为注意！注意！10-64经济、管理类基础课程统计学统计学利用回归方程进行估计和预测利用回归方程进行估计和预测（置预测区间估计（置预测区间估计:算例）算例）【例例例例】根根据据前前例例，求求出出19901990年年人人均均国国民民收收入入为为1250.71250.7元时，人均消费金额的元时，人均消费金额的95%95%的预测区间的预测区间 解：解：根据前面的计算结果有根据前面的计算结果有 712.57712.57，S Sy y=14.95
33、=14.95，t t(13-2)(13-2)2.2012.201，n n=13=13 置信区间为置信区间为712.57712.57 34.46934.469人人均均消消费费金金额额95%95%的的预预测测区区间间为为678.101678.101元元 747.039747.039元之间元之间10-65经济、管理类基础课程统计学统计学影响区间宽度的因素影响区间宽度的因素1.置信水平(1-)n n区间宽度随置信水平的增大而增大区间宽度随置信水平的增大而增大2.数据的离散程度(s)n n区间宽度随离散程度的增大而增大区间宽度随离散程度的增大而增大3.样本容量n n区间宽度随样本容量的增大而减小区间宽度
34、随样本容量的增大而减小4.用于预测的 xp与x的差异程度n n区间宽度随区间宽度随 x xp p与与 x x 的差异程度的增大而增大的差异程度的增大而增大10-66经济、管理类基础课程统计学统计学置信区间置信区间、预测区间预测区间、回归方程回归方程xp pyx x预测上限置信上限预测下限置信下限10-67经济、管理类基础课程统计学统计学第三节第三节 多元线性回归多元线性回归一一.多元线性回归模型多元线性回归模型二二.回归参数的估计回归参数的估计三三.回归方程的显著性检验回归方程的显著性检验四四.回归系数的显著性检验回归系数的显著性检验五五.多元线性回归的预测多元线性回归的预测10-68经济、管
35、理类基础课程统计学统计学多元线性回归模型多元线性回归模型10-69经济、管理类基础课程统计学统计学多元线性回归模型多元线性回归模型（概念要点）（概念要点）1.一个因变量与两个及两个以上自变量之间的回归一个因变量与两个及两个以上自变量之间的回归2.描描述述因因变变量量 y y 如如何何依依赖赖于于自自变变量量 x x1 1 ，x x2 2 ，x xp p 和误差项和误差项 的方程称为的方程称为多元线性回归模型多元线性回归模型多元线性回归模型多元线性回归模型3.涉及涉及 p p 个自变量的多元线性回归模型可表示为个自变量的多元线性回归模型可表示为 0 0 ，p p是参数是参数 是被称为误差项的随机
36、变量是被称为误差项的随机变量 y y 是是x x1,1,，x x2 2 ，x xp p 的线性函数加上误差项的线性函数加上误差项 说说明明了了包包含含在在y y里里面面但但不不能能被被p p个个自自变变量量的的线线性关系所解释的变异性性关系所解释的变异性10-70经济、管理类基础课程统计学统计学多元线性回归模型多元线性回归模型（概念要点）（概念要点）对于 n 组实际观察数据(yi;xi1,，xi2，xip)，(i=1,2,n)，多元线性回归模型可表示为y1=0 0+1 1 x11+2 2 x12+px1p+1 1y2=0 0+1 1 x21+2 2 x22+px2p+2 2 yn=0 0+1
37、1 xn1+2 2 xn2+pxnp+n 10-71经济、管理类基础课程统计学统计学多元线性回归模型多元线性回归模型（基本假定）（基本假定）1.自变量 x1，x2，xp是确定性变量，不是随机变量2.随机误差项的期望值为0，且方差2 都相同3.误差项是一个服从正态分布的随机变量，即N(0,2)，且相互独立10-72经济、管理类基础课程统计学统计学多元线性回归方程多元线性回归方程（概念要点）（概念要点）1.描述 y 的平均值或期望值如何依赖于 x1，x1，xp的方程称为多元线性回归方程多元线性回归方程2.多元线性回归方程的形式为3.E(y)=0+1 x1+2 x2+p xp ，p p称为偏回归系数
38、称为偏回归系数 i i 表表示示假假定定其其他他变变量量不不变变，当当 x xi i 每每变变动一个单位时，动一个单位时，y y 的平均平均变动值的平均平均变动值10-73经济、管理类基础课程统计学统计学多元线性回归方方程的直观解释多元线性回归方方程的直观解释二元线性回归模型二元线性回归模型二元线性回归模型二元线性回归模型(观察到的观察到的y y)回归面回归面 0 0 i ix x1 1y yx x2 2(x x1 1,x x2 2)10-74经济、管理类基础课程统计学统计学多元线性回归的估计多元线性回归的估计(经验经验)方程方程1.总总体体回回归归参参数数 是是未未知知的的，利利用用样样本数
39、据去估计本数据去估计2.用用样样本本统统计计量量 代代替替回回归归方方程程中中的的 未知参数未知参数 即得到估计的回归方程即得到估计的回归方程 是是 估计值估计值 是是 y y 的估计值的估计值10-75经济、管理类基础课程统计学统计学参数的最小二乘估计参数的最小二乘估计10-76经济、管理类基础课程统计学统计学参数的最小二乘法参数的最小二乘法（要点）（要点）2.根根据据最最小小二二乘乘法法的的要要求求，可可得得求求解解各各回回归归参参数数 的标准方程如下的标准方程如下1.使使因因变变量量的的观观察察值值与与估估计计值值之之间间的的离离差差平平方方和和达到最小来求得达到最小来求得 。即。即10
40、-77经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验10-78经济、管理类基础课程统计学统计学多重样本决定系数多重样本决定系数（多重判定系数（多重判定系数 R2）1.回归平方和占总离差平方和的比例回归平方和占总离差平方和的比例2.反映回归直线的拟合程度反映回归直线的拟合程度3.取值范围在取值范围在 0,1 0,1 之间之间4.R R2 2 1 1，说明回归方程拟合的越好；，说明回归方程拟合的越好；R R2 20 0，说明，说明回归方程拟合的越差回归方程拟合的越差5.等于多重相关系数的平方，即等于多重相关系数的平方，即R R2 2=(=(R R)2 210-79经济、管
41、理类基础课程统计学统计学修正的多重样本决定系数修正的多重样本决定系数（修正的多重判定系数（修正的多重判定系数 R2）1.由于增加自变量将影响到因变量中被估计的回归方程所解释的变异性的数量，为避免高估这一影响，需要用自变量的数目去修正R2的值2.用n表示观察值的数目，p表示自变量的数目，修正的多元判定系数的计算公式可表示为10-80经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验（线性关系的检验线性关系的检验）1.检验因变量与所有的自变量和之间的是否存在一个显著的线性关系，也被称为总总体体的的显显著性著性检验2.检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE
42、)加以比较，应应用用 F 检检验验来分析二者之间的差别是否显著n n如如果果是是显显著著的的，因因变变量量与与自自变变量量之之间间存存在在线线性性关系关系n n如如果果不不显显著著，因因变变量量与与自自变变量量之之间间不不存存在在线线性性关系关系10-81经济、管理类基础课程统计学统计学回归方程的显著性检验回归方程的显著性检验（步骤）（步骤）1.提出假设提出假设n nH H0 0：1 1 2 2 p p=0 =0 线性关系不显著线性关系不显著n nH H1 1：1 1，2 2，p p至少有一个不等于至少有一个不等于0 02.2.计算检验统计量计算检验统计量F F3.3.确定显著性水平确定显著性
43、水平 和分子自由度和分子自由度p p、分母自由度、分母自由度n-n-p p-1-1找出临界值找出临界值F F 4.4.作出决策：若作出决策：若F F F F ，拒绝，拒绝H H0 0；若若F F F F，接受，接受H H0 010-82经济、管理类基础课程统计学统计学回归系数的显著性检验回归系数的显著性检验（要点）（要点）1.如果F检验已经表明了回归模型总体上是显著的，那么回归系数的检验就是用来确定每一个单个的自变量 xi 对因变量 y 的影响是否显著2.对每一个自变量都要单独进行检验3.应用 t 检验4.在多元线性回归中，回归方程的显著性检验不再等价于回归系数的显著性检验10-83经济、管理
44、类基础课程统计学统计学回归系数的显著性检验回归系数的显著性检验（步骤）（步骤）1.提出假设n nH H0 0：i i=0 (=0 (自变量自变量 x xi i 与与 因变量因变量 y y 没有线性关系没有线性关系)n nH H1 1：i i 0 (0 (自变量自变量 x xi i 与与 因变量因变量 y y有线性关系有线性关系)2.计算检验的统计量 t3.确定显著性水平，并进行决策 t tt t，拒绝，拒绝H H0 0；t t F F0.050.05(2,7)=4.74(2,7)=4.74，回归方程显著，回归方程显著4.4.回归系数的显著性检验回归系数的显著性检验 t t=9.35489.35
45、48t t=0.3646=0.3646，；t t 2 2=4.7962 4.7962 t t=2.3646=2.3646；两个回归系数均显著两个回归系数均显著一个含有四个变量的回归10-87经济、管理类基础课程统计学统计学第三节第三节 可化为线性回归的可化为线性回归的 曲线回归曲线回归一一.基本概念基本概念二二.非线性模型及其线性化方法非线性模型及其线性化方法10-88经济、管理类基础课程统计学统计学非线性回归非线性回归1.因变量 y 与 x 之间不是线性关系2.可通过变量代换转换成线性关系3.用最小二乘法求出参数的估计值4.并非所有的非线性模型都可以化为线性模型10-89经济、管理类基础课程
46、统计学统计学几种常见的非线性模型几种常见的非线性模型 指数函数2.线性化方法两端取对数得：两端取对数得：lnlny y =ln=ln +x x令：令：y y =ln=lny y，则有，则有y y =lnln +x x1.基本形式：3.图像 10-90经济、管理类基础课程统计学统计学几种常见的非线性模型几种常见的非线性模型 幂函数2.线性化方法两端取对数得：两端取对数得：lg lg y y=lg=lg +lglg x x令：令：y y =lg=lgy y，x x=lg=lg x x，则则y y =lglg +x x 1.基本形式：3.图像00 1 1 1 1 =1=1-1-1 0 0 -1-1
47、=-1=-1 10-91经济、管理类基础课程统计学统计学几种常见的非线性模型几种常见的非线性模型 双曲线函数2.线性化方法令：令：y y =1/=1/y y，x x=1/=1/x x,则有则有y y =+x x 1.基本形式：3.图像 0 0 010-92经济、管理类基础课程统计学统计学几种常见的非线性模型几种常见的非线性模型 对数函数2.线性化方法x x=lg=lgx x,则有则有y y =+x x 1.基本形式：3.图像 0 0 0 0 10-93经济、管理类基础课程统计学统计学几种常见的非线性模型几种常见的非线性模型 S 型曲线2.线性化方法令：令：y y =1/=1/y y，x x=e
48、=e-x x,则有则有y y =+x x 1.基本形式：3.图像10-94经济、管理类基础课程统计学统计学非线性回归非线性回归（实例）（实例）【例例】为研究生产率与废品率之间的关系，记录数据如下表。试拟合适当的模型。废品率与生产率的关系废品率与生产率的关系废品率与生产率的关系废品率与生产率的关系生产率（周生产率（周/单位单位)x1000200030003500 4000 4500 5000废品率（废品率（%）y5.26.56.88.110.210.313.010-95经济、管理类基础课程统计学统计学非线性回归非线性回归（实例）（实例）生产率与废品率的散点图10-96经济、管理类基础课程统计学统
49、计学非线性回归非线性回归（实例）（实例）1.用线性模型：y=01x+，有2.y=2.671+0.0018x2.用指数模型：y=x ，有3.y=4.05(1.0002)x3.比较4.直线的残差平方和5.3371指数模型的残差平方和6.11。直线模型略好于指数模型10-97经济、管理类基础课程统计学统计学本章小结本章小结1.相关系数与相关分析相关系数与相关分析2.一一元元线线性性回回归归模模型型、回回归归方方程程与与估估计计的的回回归方程归方程3.多多元元线线性性回回归归模模型型、回回归归方方程程与与估估计计的的回回归方程归方程4.回归方程与回归系数的显著性检验回归方程与回归系数的显著性检验5.非线性回归的线性化非线性回归的线性化5.用用Excel 进行回归分析进行回归分析