《统计学--第九章直线回归与相关.ppt》由会员分享，可在线阅读，更多相关《统计学--第九章直线回归与相关.ppt（36页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第九章 直线回归与相关Linear Regression and correlation第一节 直线回归一、概述1、函数关系与回归关系函数关系：自变量取某一数值时，应变量有一函数关系：自变量取某一数值时，应变量有一个完全确定的数值与之对应。（多见于物理、个完全确定的数值与之对应。（多见于物理、化学等学科，生物医学界不少变量间有一定的化学等学科，生物医学界不少变量间有一定的关系，但不是十分明确）关系，但不是十分明确）回归关系：应变量随自变量的变化而变化，且回归关系：应变量随自变量的变化而变化，且呈直线趋势，但并非所有的点子都在一直线上。呈直线趋势，但并非所有的点子都在一直线上。直线回归分析的任务
2、：找出一条最能代表这些直线回归分析的任务：找出一条最能代表这些数据关系的一条直线。数据关系的一条直线。方法：一般采用最小二乘法方法：一般采用最小二乘法least square least square methodmethod找出一条各实测点与它的纵向距离的平找出一条各实测点与它的纵向距离的平方和为最小的直线回归方程。又称作最小二乘方和为最小的直线回归方程。又称作最小二乘回归回归变量变量y y随变量随变量x x而变化，称而变化，称x x为自变量为自变量independent variableindependent variable，y y为应变量为应变量dependent dependent
3、variable.variable.2、直线回归方程直线方程：直线方程：y=y=a+bxa+bx直线回归方程：直线回归方程：a a：为回归直线在为回归直线在Y Y轴上的截距轴上的截距interceptintercept，a0a0表示直线与纵轴的交点在原点的上方，表示直线与纵轴的交点在原点的上方，a0aobo直线从左下走向右上直线从左下走向右上,b0b0从从左上走向右下左上走向右下,b=0b=0直线与横轴平行。意义：直线与横轴平行。意义：x x每增每增(减减)一单位，一单位，Y Y平均改变平均改变b b个单位个单位3、最小二乘法样本含量为样本含量为n n的的样本资料标在的的样本资料标在(x,y)
4、x,y)平面上，平面上，可得可得n n个点，故可确定很多直线，直线回归的个点，故可确定很多直线，直线回归的主要目标之一是用实测的主要目标之一是用实测的x x估计估计y y，所以希望估所以希望估计的计的y y与实测的与实测的y y间的误差愈小愈好。即从所有间的误差愈小愈好。即从所有直线中找到一条直线使估计误差平方和达最小。直线中找到一条直线使估计误差平方和达最小。即即 最小最小二、求直线回归方程的基本方法P110例91：1)由原始数据绘散点图，各点分布呈直线趋势，故作下列计算2)求x,y,x2,y2,xy3)计算x,y的均数，lxx、lyy和lxy4)求回归系数b和截距a5)列出回归方程6)直线
5、回归方程图示：在自变量x的实测全距范围内任取相距较远且易读的两x值，代入回归方程求y的估计值，在图绘出两点连成直线。注意：所绘直线必然通过 ，若纵坐标、横坐标无折断号时，将此直线左端延长与纵轴相交，交点的纵坐标必然等于截距a，这两点可用来核对回归线绘制是否正确。第二节 直线回归分析中误差及可信区间一、标准估计误差估计误差估计误差error of estimateerror of estimate：在直线回归中，各在直线回归中，各实际值实际值y y与由回归方程计算出的估计值之间有一与由回归方程计算出的估计值之间有一定的误差，称。这种离差可以用类似标准差定的误差，称。这种离差可以用类似标准差的式子
6、进行计算，称为标准估计误差的式子进行计算，称为标准估计误差standard standard error of estimateerror of estimate。由于由于 决定于均数和回归系决定于均数和回归系数，所以自由度为数，所以自由度为n-2n-2lyy的分析:p点的纵坐标被回归线、均数y 截成三段SS总SS回SS剩YXP y-y y-y -y-yy各实测点离回归直线越近，剩余平方和愈小，说明直线回归的估计误差愈小总回剩总n1，回1，剩n2二、实测值围绕回归线的离散度回归分析时假设：X取某一值时，Y围绕回归线x呈正态分布，Sy.x是其标准差的估计值。故可估计出约有95观测值y在总体回归线
7、y=x上下1.96个标准估计误差范围内，见P112图93三、回归系数的标准误表示：样本回归系数b对总体回归系数进行估计时误差的大小求的95可信区间bt0.05()Sb，自由度=n-2四、的标准误y的标准误本应由Sy/n求得，但因在直线回归当中x的影响被扣除后，y方面的变异减小，故y的标准误，即x=x时y的标准误为五、的可信区间 是总体均数 的估计值95可信区间：六、的标准误当xix时，的变异不仅决定于y的误差，也与回归系数b的误差有关七、(个体y值)的可信区间理论上，每个xi对应的y估计值都有一个区间估计，把这些可信区间的上限和下限连起来，为两条曲线。把这两条曲线间的空间称为回归直线的可信区间
8、。八、截距的误差及总体参数的可信区间由于截距是x=0时y的估计值，九、单一个体yi值的范围预测第三节 回归系数和截距的统计意义检验一、回归系数的一、回归系数的t t检验检验二、回归系数的方差分析所得结论与t检验相同三、两个回归系数差别的统计意义检验P119,例9-3四、截距的统计意义检验四、截距的统计意义检验检验检验a a是否是从总体截距为是否是从总体截距为0 0的总体中抽样得到的总体中抽样得到t=a/St=a/Sa a 自由度为自由度为n-2n-2五、两条回归线高度差别的统计意义检验五、两条回归线高度差别的统计意义检验当两条回归线的回归系数的差别无统计意义时，当两条回归线的回归系数的差别无统
9、计意义时，可以用一公共的斜率来拟合此两条回归线。可以用一公共的斜率来拟合此两条回归线。(见见P121P121，一般了解一般了解)第四节 直线回归方程的应用一、描述两变量的依存关系二、利用回归方程进行预测三、利用回归方程进行统计控制统计控制：是利用回归方程进行逆估计，如要求应变量在一定范围波动，可以通过自变量的取值来实现。四、应用直线回归方程应注意的问题1、作回归分析要有实际意义，不能把毫无关联的两种现象勉强作回归分析，即便有回归关系，也不一定有因果关系，还必须对两种现象间的内在联系有所认识，即能从专业理论上作出合理解释或有所依据2、在进行直线回归分析时，应绘散点图，当观察点的分布有直线趋势，才
10、适宜作直线回归分析。散点图还能提示资料有无异常点，异常点对方程估计影响较大3、直线回归方程的适用范围一般以自变量的取值范围为限，在此范围求出y的估计值，称为内插，超出自变量取值范围称外延。若无充分理由证明超过自变量取值范围还是直线，应该避免外延第五节 相关一、相关系数的意义说明两变量(x,y)间关系密切程度的统计指标叫相关系数coefficient of correlation,用r表示r是说明具有直线关系的两个变量间，相关关系的密切程度与相关方向的指标。r没有单位，其值为1r1，值为正时表示正相关，为负时表示负相关；绝对值为1时表示完全相关。(生物界少见)r是总体相关系数(rho)的估计值二
11、、相关系数的计算方法用上述公式直接计算(小样本未分组资料)三、相关系数的统计意义检验t检验样本相关系数r是总体相关系数的估计值。即使从0的总体中随机抽样，由于抽样误差的影响，所得的r值也常不等于0。只有在相关系数有统计意义时，才能根据绝对值的大小来说明x,y相互关系的密切程度。Sr为相关系数的标准误相关系数的统计意义也可直接查相关系数统计意义界限表(附表91，P566)，若不能直接查得，可用内插法估计四、两个相关系数差别的统计意义检验只有当从0的总体中随机抽样，各样本相关系数r的分布才接近正态分布。若从0的总体中随机抽样，样本相关系数并不呈正态分布。数理统计证明：把r按下式转换成Z值时，则不论
12、为何值，Z值的分布均近似正态分布P125,例94五、总体相关系数的区间估计将r进行Z转换，对Z用正态法估计95可信区间，最后将Z作反变换，得相关系数95可信区间六、相关和回归的关系(一)区别：1、资料要求不同：回归要求应变量回归要求应变量Y Y服从正态分布，服从正态分布，X X是可以精确是可以精确测量和严格控制的变量，一般称为测量和严格控制的变量，一般称为I I型回归。型回归。相关要求两个变量服从双变量正态分布，这种相关要求两个变量服从双变量正态分布，这种资料若进行回归分析，称资料若进行回归分析，称II II型回归。可得到由型回归。可得到由X X推推Y Y和由和由Y Y推推X X两个回归方程两
13、个回归方程2、应用情况不同说明两变量间依存变化的数量关系用回归，说说明两变量间依存变化的数量关系用回归，说明变量间的相关关系用相关明变量间的相关关系用相关(二)、联系1、方向一致：对一组数据若同时计算对一组数据若同时计算r r和和b b，它们的正负号是，它们的正负号是一致的。一致的。r r为正号说明两变量间的相互关系是同为正号说明两变量间的相互关系是同向变化的，向变化的，b b为正，说明为正，说明x x增增(减减)一个单位，一个单位，y y平均增平均增(减减)b)b个单位。个单位。2、假设检验等价对同一样本，对同一样本，r r和和b b的假设检验得到的的假设检验得到的t t值相等。值相等。由于
14、由于r r检验可以直接查表，而检验可以直接查表，而b b的假设检验计算的假设检验计算较繁，故实际中常用前法代替后法较繁，故实际中常用前法代替后法3、用回归解释相关(1)r的平方称为决定系数coefficient of determination说明SS总固定不变时，回归平方和的大小决定了r的大小。回归平方和越接近总平方和，则r越接近1。r2表示回归平方和在总平方和中所占的比例，即总变异中可以用回归解释的部分，说明两变量间的相关关系的实际意义(2)剩余平方和相等，但相关系数可相差很大，相关系数随着直线斜率的增加而增大。可见相关系数的大小与剩余平方和及回归系数有关，故相关系数不能作为回归估计精度的指标。