《《1.1回归分析的基本思想及其初步应用》2.ppt》由会员分享，可在线阅读，更多相关《《1.1回归分析的基本思想及其初步应用》2.ppt（32页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、问题问题1 1：正方形的面积正方形的面积y y与正方形的边长与正方形的边长x x之间之间 的的函数关系函数关系是是y = xy = x2 2确定性关系确定性关系问题问题2 2：某水田水稻产量某水田水稻产量y y与施肥量与施肥量x x之间是否之间是否 -有一个确定性的关系？有一个确定性的关系？复习、变量之间的两种关系复习、变量之间的两种关系自变量取值一定时，因变量的取值带有一定随自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做机性的两个变量之间的关系叫做相关关系相关关系。1 1、定义：、定义： 1 1）：相关关系是一种不确定性关系；）：相关关系是一种不确定性关系；注注对具有相
2、关关系的两个变量进行对具有相关关系的两个变量进行统计分析的方法叫统计分析的方法叫回归分析回归分析。2 2）：）：2 2、现实生活中存在着大量的相关关系。现实生活中存在着大量的相关关系。3 3、对两个变量进行的线性分析叫做、对两个变量进行的线性分析叫做线性线性回归分析回归分析。3 3、回归直线方程：、回归直线方程：n nn ni ii ii ii ii i= =1 1i i= =1 1n nn n2 22 22 2i ii ii i= =1 1i i= =1 1( (x x - -x x) )( (y y - -y y) )x x- -n nx xy yb b = = =, ,( (x x -
3、-x x) )x x - -n nx xa a = = y y- -b bx xy y2.2.相应的直线叫做相应的直线叫做回归直线回归直线。1 1、所求直线方程、所求直线方程 叫做叫做回归直回归直 -线方程线方程；其中；其中 y = bx+ay = bx+a相关系数相关系数v 1.1.计算公式计算公式v2 2相关系数的性质相关系数的性质v(1)|r|1(1)|r|1v(2)|r|(2)|r|越接近于越接近于1 1，相关程度越大；，相关程度越大；|r|r|越接越接近于近于0 0，相关程度越小，相关程度越小v问题：达到怎样程度，问题：达到怎样程度，x x、y y线性相关呢？它线性相关呢？它们的相关
4、程度怎样呢？们的相关程度怎样呢？n niiiii=1i=1nnnn2222iiiii=1i=1i=1i=1(x - x)(y - y)(x - x)(y - y)r =r =(x - x)(y - y)(x - x)(y - y)负相关负相关正相关正相关n n(x -x)(y -y)(x -x)(y -y)iiiii=1i=1r=r=nnnn2222(x -x) (y -y)(x -x) (y -y)iiiii=1i=1i=1i=1相关系数相关系数正相关；负相关正相关；负相关例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示
5、。所示。编号12345678身高/cm165 165 157 170 175 165 155 170体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。案例案例1：女大学生的身高与体重：女大学生的身高与体重172.85849. 0 xy分析：由于问题中分析：由于问题中要求根据身高预报要求根据身高预报体重，因此选取身体重，因此选取身高为自变量，体重高为自变量，体重为因变量为因变量学学身身高高1 17 72 2c cm m女女大大生生体
6、体重重y y = = 0 0. .8 84 49 91 17 72 2- -8 85 5. .7 71 12 2 = = 6 60 0. .3 31 16 6( (k kg g) )2.2.回归方程：回归方程：1. 散点图；散点图；解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：2、由散点图知道身高和体重有比较、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。回归方程刻画它们之间的关系。3、从散点图还看到，样本点散布在、从散点图还看到，样本点散布在某一条直线的附近，而不
7、是在一条某一条直线的附近，而不是在一条直线上，所以不能用一次函数直线上，所以不能用一次函数y=bx+a描述它们关系。描述它们关系。探究：探究：身高为身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？吗？如果不是，你能解析一下原因吗？我们可以用下面的我们可以用下面的线性回归模型线性回归模型来表示：来表示：y=bx+a+e，其中其中a和和b为模型的未知参数，为模型的未知参数，e称为随称为随机误差。机误差。思考思考:产生随机误差项产生随机误差项e的原因是什么？的原因是什么？随机误差随机误差e e的来源的来源( (可以推广到一般）：可以推广到
8、一般）：1、忽略了其它因素的影响：影响身高、忽略了其它因素的影响：影响身高 y 的因素不只的因素不只是体重是体重 x，可能还包括遗传基因、饮食习惯、生，可能还包括遗传基因、饮食习惯、生长环境等因素；长环境等因素；2、用线性回归模型近似真实模型所引起的误差；、用线性回归模型近似真实模型所引起的误差；3、身高、身高 y 的观测误差。的观测误差。 以上三项误差越小，说明我们的回归模型的拟合以上三项误差越小，说明我们的回归模型的拟合效果越好。效果越好。函数模型与回归模型之间的差别函数模型与回归模型之间的差别函数模型：abxy回归模型：eabxy可以提供选择模型的准则函数模型与回归模型之间的差别函数模型
9、与回归模型之间的差别函数模型：abxy回归模型：eabxy 线性回归模型线性回归模型y=bx+a+e增加了随机误差项增加了随机误差项e，因变量，因变量y的值由自变量的值由自变量x和和随机误差项随机误差项e共同确定，即共同确定，即自变量自变量x只能解析部分只能解析部分y的变化的变化。 在统计中，我们也把自变量在统计中，我们也把自变量x称为解析变量，因变量称为解析变量，因变量y称为预报变量。称为预报变量。所以，对于身高为所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为的女大学生，由回归方程可以预报其体重为 0.849 7285.71260.316()ykg5943616454505
10、748体重/kg170155165175170157165165身高/cm87654321编号 那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？有多少来自于随机误差？有多少来自于随机误差？ 假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。直线上。这些点散布在回归直线附近，
11、所以一定是随机误差把这些点从回归直线上这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上“推推”开了开了。在例在例1中，残差平方和约为中，残差平方和约为128.361。 因此，数据点和它在回归直线上相应位置的差异因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，是随机误差的效应，称称 为为残差残差。)iiyy(iiieyy=例如，编号为例如，编号为6的女大学生，计算随机误差的效应（残差）为：的女大学生，计算随机误差的效应（残差）为：61 (0.849 16585.712)6.627对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号对每名女大学生计算
12、这个差异，然后分别将所得的值平方后加起来，用数学符号21()niiiyy称为称为残差平方和残差平方和，它代表了随机误差的效应。它代表了随机误差的效应。表示为：表示为：即，即，( , )Q a b 由于解析变量和随机误差的总效应（总偏差平方和）为由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为，而随机误差的效应为128.361，所以解析变量的效应为，所以解析变量的效应为解析变量和随机误差的总效应（总偏差平方和）解析变量和随机误差的总效应（总偏差平方和） =解析变量的效应（回归平方和）解析变量的效应（回归平方和）+随机误差的效应（残差平方和）随机误差的效应（残差平方和）3
13、54-128.361=225.639 这个值称为这个值称为回归平方和。回归平方和。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和2221121()()()nniiiiiniiyyyyRyy总偏差平方和残差平方和回归平方和总偏差平方和总偏差平方和样本决定系数样本决定系数 （判定系数 ）1.回归平方和占总偏差平方和的比例回归平方和占总偏差平方和的比例2221122111nniiiinniiiiyyyyRyyyy 显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效
14、果越好。的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。表示解析变量对预报变量变化的贡献率。 R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越接近越接近1，表示解析变量和预报变量的，表示解析变量和预报变量的线性相关性越强）线性相关性越强）。 如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值的值来做出选择，即选取来做出选择，即选取R2较大的模型作为这组数据的模型。较大的模型作为这组数据的模型。总的来
15、说：总的来说：相关指数相关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型中，它在线性模型中，它代表自变量刻画预报变量的能力代表自变量刻画预报变量的能力。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和1354总计0.36128.361残差变量0.64225.639随机误差比例平方和来源表表1-3 从表从表3-1中可以看出，解析变量对总效应约贡献了中可以看出，解析变量对总效应约贡献了64%，即，即R2 0.64，可以叙述为，可以叙述为“身高解析
16、了身高解析了64%的体重变化的体重变化”，而随机误差贡献了剩余的，而随机误差贡献了剩余的36%。 所以，身高对体重的效应比随机误差的效应大得多。所以，身高对体重的效应比随机误差的效应大得多。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy残差平方和。总偏差平方和表表3-2列出了女大学生身高和体重的原始数据以及相应的残差数据。列出了女大学生身高和体重的原始数据以及相应的残差数据。 在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，在研究两个变量间的关系时，首先要根据散点图来粗略判
17、断它们是否线性相关，是否可以用回归模型来拟合数据。是否可以用回归模型来拟合数据。残差分析与残差图的定义：残差分析与残差图的定义： 然后，我们可以通过残差然后，我们可以通过残差 来判断模型拟合的效果，判断原始来判断模型拟合的效果，判断原始数据中是否存在可疑数据，数据中是否存在可疑数据，这方面的分析工作称为残差分析这方面的分析工作称为残差分析。12,ne ee 编号编号12345678身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我们可以利用
18、图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为编号，或身高数据，或体重估计值等，这样作出的图形称为残差图残差图。2022-8-15残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域横轴为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据
19、 模型问题 几点说明：几点说明： 第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。据；如果数据采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，
20、回归方程的预报精度越高。样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。例例2、在一段时间内，某中商品的价格、在一段时间内，某中商品的价格x元和需求量元和需求量Y件之间件之间的一组数据为：的一组数据为：求出求出Y对的回归直线方程，并说明拟合效果的好坏。对的回归直线方程，并说明拟合效果的好坏。价格价格x1416182022需求量需求量Y1210753解：解：18,7.4,xy555221111660,327,620,iiiiiiixyx y7.4 1.15 1828.1.a1.1528.1.yx 回归直线方程为：51522155iiiiix yxybxx26205 18 7
21、.41.15.16605 18 练习、在一段时间内，某中商品的价格练习、在一段时间内，某中商品的价格x元和需求量元和需求量Y件之件之间的一组数据为：间的一组数据为：求出求出Y对的回归直线方程，并说明拟合效果的好坏。对的回归直线方程，并说明拟合效果的好坏。价格价格x1416182022需求量需求量Y1210753列出残差表为列出残差表为521()iiiyy0.3,521()iiyy53.2,5221521()1()iiiiiyyRyy 0.994因而，拟合效果较好。因而，拟合效果较好。iiyyiyy00.3-0.4-0.10.24.62.6-0.4-2.4-4.4例例2：一只红铃虫的产卵数一只红
22、铃虫的产卵数y与温度与温度x有关有关,现收集现收集了了7组观测数据组观测数据,试建立试建立y与与x之间的回归方程之间的回归方程 解解:1):1)作散点图作散点图; ;从散点图中可以看出产卵数和温度之间的关系并不能从散点图中可以看出产卵数和温度之间的关系并不能用线性回归模型来很好地近似。这些散点更像是集中用线性回归模型来很好地近似。这些散点更像是集中在一条指数曲线或二次曲线的附近。在一条指数曲线或二次曲线的附近。解解: : 令令 则则z=bx+a,(a=lncz=bx+a,(a=lnc1 1,b=c,b=c2 2),),列出变换后数据表并画列出变换后数据表并画 出出x x与与z z 的散点图的散
23、点图 z =lnyz =lnyx和z之间的关系可以用线性回归模型来拟合z = ax+b+ez = ax+b+e2 2c xc x1 1用用y = c e模y = c e模型型; ;1)x x2121232325252727292932323535z z1.9461.946 2.3982.398 3.0453.045 3.1783.1784.194.194.7454.745 5.7845.7842) 2) 用用 y=cy=c3 3x x2 2+c+c4 4 模型模型, ,令令 , ,则则y=cy=c3 3t+ct+c4 4 , ,列出列出变换后数据表并画出变换后数据表并画出t t与与y y 的散
24、点图的散点图 2 2t t = = x x散点并不集中在一条直线的附近，因此用线散点并不集中在一条直线的附近，因此用线性回归模型拟合他们的效果不是最好的。性回归模型拟合他们的效果不是最好的。t t44144152952962562572972984184110241024 12251225y y7 71111212124246666115115325325( (1 1) )0 0. .2 27 72 2x x- -3 3. .8 84 43 3( (2 2) )2 2y y= = e e, ,y y= = 0 0. .3 36 67 7x x - -2 20 02 2. .5 54 4( (1
25、 1) )( (1 1) )0 0. .2 27 72 2x x- -3 3. .8 84 43 3i ii ii i( (2 2) )( (2 2) )2 2i ii ii ie e= = y y - -y y= = y y - -e e, , ( (i i = =1 1, ,2 2. . . .7 7) )e e= = y y - -y y= = y y - -0 0. .3 36 67 7x x + +2 20 02 2. .5 54 4, ,残残差差表表编号编号1 12 23 34 45 56 67 7x x2121232325252727292932323535y y7 711112
26、12124246666115115325325e(1)e(1) 0.520.52 -0.167-0.1671.761.76-9.149-9.1498.8898.889-14.153-14.15332.92832.928e(2)e(2) 47.747.7 19.39719.397-5.835-5.835-41.003-41.003-40.107-40.107-58.268-58.26877.96577.965非线性回归方程非线性回归方程二次回归方程二次回归方程残差公式残差公式 在此处可以引导学生体会应用统计方法解决实际在此处可以引导学生体会应用统计方法解决实际问题需要注意的问题：问题需要注意的问
27、题：对于同样的数据，有不对于同样的数据，有不同的统计方法进行分析，我们要用最有效的方同的统计方法进行分析，我们要用最有效的方法分析数据。法分析数据。现在有三个不同的回归模型可供选择来拟合红铃虫的产卵数与温度数据，他们分别是：.,212exyecyebaxyexc可以利用直观（散点图和残差图）、相关指数来确定哪一个模型的拟合效果更好。ebxcz2ety 用身高预报体重时，需要注意下列问题：用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们所研究的样本的总体；、回归方程只适用于我们所研究的样本的总体；2、我们所建立的回归方程一般都有时间性；、我们所建立的回归方程一般都有时间性；3、样本采
28、集的范围会影响回归方程的适用范围；、样本采集的范围会影响回归方程的适用范围；4、不能期望回归方程得到的预报值就是预报变量的精确值。、不能期望回归方程得到的预报值就是预报变量的精确值。 事实上，它是预报变量的可能取值的平均值。事实上，它是预报变量的可能取值的平均值。这些问题也使用于其他问题。这些问题也使用于其他问题。涉及到统计的一些思想：涉及到统计的一些思想：模型适用的总体；模型适用的总体；模型的时间性；模型的时间性；样本的取值范围对模型的影响；样本的取值范围对模型的影响；模型预报结果的正确理解。模型预报结果的正确理解。小结小结一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：
29、（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。（2）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系 （如是否存在线性关系等）。（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。模型是否合适等。32 结束语结束语