《元线性回归分析.PPT》由会员分享，可在线阅读，更多相关《元线性回归分析.PPT（45页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第一节第一节 一元线性回归分析一元线性回归分析第二节第二节 多元线性回归分析多元线性回归分析第三节第三节 几类一元非线性回归几类一元非线性回归第六章回归分析第六章回归分析一、一元线性回归模型一、一元线性回归模型二、未知参数的估计二、未知参数的估计三、参数估计量的分布三、参数估计量的分布第第6.1节一元线性回归分析节一元线性回归分析四、参数四、参数的显著性检验的显著性检验五、预测五、预测变量之间的关系变量之间的关系确定性关系确定性关系相关关系相关关系确定性关系确定性关系身高和体重身高和体重相关关系相关关系相关关系的特征是相关关系的特征是:变量之间的关系很难用一变量之间的关系很难用一种精确的方法表
2、示出来种精确的方法表示出来.0、回归分析的基本思想、回归分析的基本思想确定性关系确定性关系和和相关关系相关关系的联系的联系由于存在测量误差等原因由于存在测量误差等原因,确定性关系在实际确定性关系在实际问题中往往通过相关关系表示出来问题中往往通过相关关系表示出来;另一方面另一方面,当对当对事物内部规律了解得更加深刻时事物内部规律了解得更加深刻时,相关关系也有可相关关系也有可能转化为确定性关系能转化为确定性关系.回归分析回归分析处理变量之间的相关关系的一处理变量之间的相关关系的一种数学方法种数学方法,它是最常用的数理统计方法它是最常用的数理统计方法.线线 性回归分析性回归分析非线性回归分析非线性回
3、归分析回回归归分分析析一元线性回归分析一元线性回归分析多元线性回归分析多元线性回归分析问题的分析问题的分析一、一元线性回归的数学模型一、一元线性回归的数学模型回归分析的任务回归分析的任务根据试验数据估计回归根据试验数据估计回归函数函数;讨论回归函数中参数的点估计讨论回归函数中参数的点估计、区间估计区间估计;对回归函数中的参数或者回归函数本身进行假设对回归函数中的参数或者回归函数本身进行假设检验检验;利用回归函数进行预测与控制等等利用回归函数进行预测与控制等等.回归问题的一般提法回归问题的一般提法求解步骤求解步骤1.推测回归函数的形式推测回归函数的形式方法一根据专业知识或者经验公式确定方法一根据
4、专业知识或者经验公式确定;方法二作散点图观察方法二作散点图观察.例例1为研究某一化学反应过程中为研究某一化学反应过程中,温度温度x(oC)对产对产品得率品得率Y(%)的影响的影响,测得数据如下测得数据如下.温度温度x(oC)得率得率Y(%)10011012013014015016017018019045 51 54 61 66 70 74 78 85 89用用MATLAB画出散点图画出散点图x=100:10:190;y=45,51,54,61,66,70,74,78,85,89;plot(x,y,.r)一元线性回归问题一元线性回归问题2.建立回归模型建立回归模型一元线性回归模型一元线性回归模型
5、二、未知参数的估计二、未知参数的估计1.(,)的最小二乘估计的最小二乘估计使得下式成立的使得下式成立的(,)的估计的估计 称为其最小二乘称为其最小二乘估计估计.求求Q的最小值可以利用微分法的最小值可以利用微分法正规方程组正规方程组由于由于则方程组的解为则方程组的解为2.(,)的最大似然估的最大似然估计计注注 参数的最小二乘估计和最大似然估计等价参数的最小二乘估计和最大似然估计等价.得到参数的估计后，我们就可以得到得到参数的估计后，我们就可以得到 回归方程回归方程它称为残差平方和它称为残差平方和因而因而例例2(p1932(p193例例6.2)6.2)65 63 67 64 68 62 70 66
6、 68 67 69 7168 66 68 65 69 66 68 65 71 67 68 70解解将观测值代入正规方程将观测值代入正规方程求解得求解得这个例子表明：高个子的先代会有高个子的后代，但这个例子表明：高个子的先代会有高个子的后代，但后代的增高并不与先代的增高等量。例如父亲身高超后代的增高并不与先代的增高等量。例如父亲身高超过祖父身高过祖父身高6in,则儿子的身高超过父亲的身高大约为则儿子的身高超过父亲的身高大约为3in称这种现象为向平常高度的回归，回归一词即来源于此称这种现象为向平常高度的回归，回归一词即来源于此.这种提法最早是由高登提出的，一直沿用至今这种提法最早是由高登提出的，一
7、直沿用至今.当时高当时高登、皮尔逊、登、皮尔逊、LEE研究了研究了1078个家庭，得到的回归方程个家庭，得到的回归方程为：为：三、参数估计的分布三、参数估计的分布为了对参数估计量进行检验，需要讨论它们的分布为了对参数估计量进行检验，需要讨论它们的分布 定理定理 6.1 6.1证明证明 参见下一节多元回归理论参见下一节多元回归理论四、参数四、参数的显著性检验的显著性检验根据前三小节的理论，给定一组观测值，就可以得根据前三小节的理论，给定一组观测值，就可以得其相应的回归方程。但是二者是否具有此种相关关系，其相应的回归方程。但是二者是否具有此种相关关系，需要进行必要的检验需要进行必要的检验.通常检验
8、一元线性回归模型是否成立，需要检验：通常检验一元线性回归模型是否成立，需要检验：(1)给定给定x时，时，Y服从正态分布且方差相等；服从正态分布且方差相等；(2)对于给定的范围，对于给定的范围，Y是是 x 的线性函数；的线性函数；(3)回归效果不显著的原因分析回归效果不显著的原因分析 检验例检验例2中的回归效果是否显著中的回归效果是否显著,取显著性水平为取显著性水平为0.05.解解例例3(p197例例6.3)又因为又因为五、预测五、预测例例4(p198例例6.4)(续例续例6.2)解解(1)(2)同理可得同理可得 也就是说，有大约也就是说，有大约95%的把握断言：的把握断言：(1)儿子们的身高界于儿子们的身高界于63.476in到到70.52in；(2)儿子们的身高界于儿子们的身高界于63.832in到到74.924in之间。之间。四、小结四、小结1.回归分析的任务回归分析的任务2.一元线性回归的步骤一元线性回归的步骤研究变量之间的相关关系研究变量之间的相关关系(1)推测回归函数推测回归函数;(2)建立回归模型建立回归模型;(3)估计未知参数估计未知参数;(4)进行假设检验进行假设检验;(5)预测与控制预测与控制.再再 见见