《一元回归分析精.ppt》由会员分享，可在线阅读，更多相关《一元回归分析精.ppt（37页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、一元回归分析第1页，本讲稿共37页 在研究实际问题时，往往归结到讨论若干变量之在研究实际问题时，往往归结到讨论若干变量之间的关系。变量之间的关系大致上可分作两类，一类间的关系。变量之间的关系大致上可分作两类，一类是具有确定性关系的是具有确定性关系的函数关系函数关系，它的特点是由某些变，它的特点是由某些变量的值能确定另外一些变量的值，如两物体之间的引量的值能确定另外一些变量的值，如两物体之间的引力与两物体之间的距离及两物体的质量的关系就是一力与两物体之间的距离及两物体的质量的关系就是一种函数关系。人与人之间的吸引力也与很多因素有关：种函数关系。人与人之间的吸引力也与很多因素有关：外表，世界观，性
2、格等等。这些因素只能说是对外表，世界观，性格等等。这些因素只能说是对吸引吸引力力很有影响，而不能确定很有影响，而不能确定吸引力有多大。这类变量之吸引力有多大。这类变量之间有非确定性的密切关系称为间有非确定性的密切关系称为相关关系。相关关系。它的特点是它的特点是由某些变量的值能确定另外一些变量的分布。由某些变量的值能确定另外一些变量的分布。回归分回归分析析是研究相关关系的一种统计方法。是研究相关关系的一种统计方法。第2页，本讲稿共37页一元线性回归数学模型一元线性回归数学模型例如：例如：今有某品种大豆脂肪含量今有某品种大豆脂肪含量 X(%)与蛋白质含量与蛋白质含量Y(%)的测定结果如下表，试分析
3、这些数据蕴含的关系。的测定结果如下表，试分析这些数据蕴含的关系。将每一对观察值在同一将每一对观察值在同一直角坐标系中描出，得直角坐标系中描出，得散点图如右：散点图如右：从散点图看出，从散点图看出，与与具有具有线性相关关系线性相关关系。第3页，本讲稿共37页 一般地，设随机变量一般地，设随机变量 Y 与变量与变量 X 有相关关系，作有相关关系，作 次次独立试验，得独立试验，得 n 对观测值：对观测值：用试验数据对作出散点图，用试验数据对作出散点图，若如下图，若如下图，则显示则显示 Y 与与 X 有线性有线性关系的趋势。关系的趋势。这里，这里，若每一确定的若每一确定的 ，有数学模型：，有数学模型：
4、则称之为则称之为一元线性回归模型一元线性回归模型可知可知其中其中 是与是与 无关的常数，无关的常数，在回归分析中，我们假定在回归分析中，我们假定X非随机变量，没有测量误差非随机变量，没有测量误差第4页，本讲稿共37页对每一确定的对每一确定的 ，建立数学模型：，建立数学模型：（回归模型）（回归模型）即有即有（回归方程、经验公式）（回归方程、经验公式）回归分析的任务是，找出回归方程，并检验方程有效与否，回归分析的任务是，找出回归方程，并检验方程有效与否，当方程有效时对当方程有效时对 Y 的值作预测与对的值作预测与对 X 作控制。作控制。可知可知严格说是条件数学期望严格说是条件数学期望（回归函数）（
5、回归函数）由此得出变量由此得出变量 Y 与与 X 的近似表达式：的近似表达式：第5页，本讲稿共37页最小二乘法最小二乘法考察考察我们希望求出的我们希望求出的 能使能使 最小最小最小二乘估计最小二乘估计 最小二乘法最小二乘法分别求分别求 对对 的偏导，的偏导，并令各偏导为零，得方程组并令各偏导为零，得方程组可解得：可解得：设设 Y 与与 X 的一元线性回归方程是的一元线性回归方程是第6页，本讲稿共37页设设 Y 与与 X 的一元线性回归方程是的一元线性回归方程是可得：可得：如：如：两个变量两个变量 ，其观测值为，其观测值为若回归方程为若回归方程为 ，则下列表述正确的是（，则下列表述正确的是（）（
6、B）回归直线必经过某个点）回归直线必经过某个点（A）回归直线必不经过点）回归直线必不经过点（C）回归直线必不经过点）回归直线必不经过点（D）回归直线必经过点）回归直线必经过点第7页，本讲稿共37页设设 Y 与与 X 的一元线性回归方程是的一元线性回归方程是可得：可得：将将记作记作记作记作同理把同理把记作记作因此因此第8页，本讲稿共37页例例1、为研究一种过敏新药的施药剂量为研究一种过敏新药的施药剂量 X 与过敏症状消除与过敏症状消除 时间时间 Y 的相关关系，对的相关关系，对 10 个个体的临床试验数据如下个个体的临床试验数据如下 表，试确定其一元线性回归方程。表，试确定其一元线性回归方程。解
7、：解：所求线性回归方程所求线性回归方程第9页，本讲稿共37页一般地，对测定出来的数据一般地，对测定出来的数据但变量但变量 X 与与 Y 是否真有线性相关的关系？是否真有线性相关的关系？用最小二乘法总是可以求出一条回归直线：用最小二乘法总是可以求出一条回归直线：也就是说回归直线方程有没有意义？有没有效？也就是说回归直线方程有没有意义？有没有效？第10页，本讲稿共37页一元线性回归方程的方差分析（一元线性回归方程的方差分析（F 检验）检验）把把 Y 的观测值的的观测值的总离差平方和总离差平方和分解成两部分：分解成两部分：即：即：回归平方和回归平方和剩余平方和剩余平方和反映了自变量反映了自变量 X
8、对随机变量对随机变量 Y 的影响，的影响，反映了试验误差和其它因素对反映了试验误差和其它因素对 Y 的影响。的影响。第11页，本讲稿共37页中中，我们就来检验这个假设。，我们就来检验这个假设。若假设若假设 H0：成立：则成立：则若变量若变量 X 与与 Y 没有没有线性关系，即回归方程线性关系，即回归方程 中中记为记为将将 的自由度分别记作的自由度分别记作显然有：显然有：第12页，本讲稿共37页若假设若假设 H0：成立：则成立：则从而统计量从而统计量对给定的检验水平对给定的检验水平 ，H0 的的拒绝拒绝域为：域为：F 右边检验右边检验 “拒绝拒绝”就是认为就是认为回归方程在回归方程在很大程度上很
9、大程度上是成立的，是成立的，是有效的，是有效的，或说或说 X 与与Y 的线性相关关系的线性相关关系是有统计意义的。是有统计意义的。注意到：回归方程越有效的，注意到：回归方程越有效的，SSE 就越小，从而就越小，从而 F 就越大。就越大。第13页，本讲稿共37页总计总计回归回归残差残差F 比比均方和均方和自由度自由度偏差平方和偏差平方和方差来源方差来源B、D、F 一元线性回归的方差分析表一元线性回归的方差分析表设有设有 n 组数据，则下列结论下确的是（组数据，则下列结论下确的是（）。）。第14页，本讲稿共37页例例1（续）（续）为研究一种过敏新药的施药剂量为研究一种过敏新药的施药剂量 X 与过敏
10、症状消除与过敏症状消除 时间时间 Y 的相关关系，对的相关关系，对 10 个个体的临床试验数据如下表，个个体的临床试验数据如下表，试确定其一元线性回归方程。设对于给定的试确定其一元线性回归方程。设对于给定的 X，Y 为正态为正态 变量，其方差与变量，其方差与 X 无关。无关。解：解：所求线性回归方程所求线性回归方程第15页，本讲稿共37页选用统计量选用统计量对回归方程作方差分析：对回归方程作方差分析：检验假设检验假设：列出方差分析表：列出方差分析表：所求线性回归方程所求线性回归方程解：解：.第16页，本讲稿共37页方差分析表方差分析表方差来源方差来源回归回归剩余剩余总和总和平方和平方和 自由度
11、自由度均方和均方和F 值值F 值临介值值临介值由此得：回归方程在检验水平由此得：回归方程在检验水平 下有效的。下有效的。第17页，本讲稿共37页例例2、某部门所属某部门所属10个企业全员劳动生产率个企业全员劳动生产率 与销售利润与销售利润 的调查资料如下：的调查资料如下：（1）建立销售利润建立销售利润 与全员劳动生产率与全员劳动生产率 变化的回归直线方程；变化的回归直线方程；（2）在显著性水平在显著性水平 下，检验回归直线方程是否有意义。下，检验回归直线方程是否有意义。第18页，本讲稿共37页解：解：因此回归直线方程为因此回归直线方程为 第19页，本讲稿共37页解：解：.回归平方和回归平方和剩
12、余平方和剩余平方和说明在说明在 0.05 的检验水平下，此回归方程是有意义的。的检验水平下，此回归方程是有意义的。因此回归直线方程为因此回归直线方程为 第20页，本讲稿共37页一元线性回归方程的相关系数一元线性回归方程的相关系数 R 检验检验令令样本相关系数样本相关系数则则显然有显然有|R|越接近越接近 1，则，则 Q 越小，越小，X 与与Y 的线性关系越密切。的线性关系越密切。设设 H0 为为 X 与与 Y 没有线性相关关系的假设，没有线性相关关系的假设，H0 的的拒绝拒绝域为：域为：，（非双边检验），（非双边检验）这时认为这时认为回归方程回归方程很大程度上很大程度上是成立的，是有效的，是成
13、立的，是有效的，或者说或者说 X 与与Y 的线性相关关系的线性相关关系是有统计意义的。是有统计意义的。对给定的检验水平对给定的检验水平 ，第21页，本讲稿共37页又因为又因为 与与 同号，当同号，当 R 0 时称时称 X 与与 Y 正相关，正相关，当当 R 0 时称时称 X 与与 Y 负相关。负相关。F 检验与相关系数检验的联系：检验与相关系数检验的联系：F 越大，则越大，则|R|越接近越接近 1。一元线性回归方程的相关系数一元线性回归方程的相关系数 R 检验检验 另外，另外，有时有时 X 与与 Y 未必呈现线性相关的关系，但可作适未必呈现线性相关的关系，但可作适当的变换化为线性回归问题。当的
14、变换化为线性回归问题。对对 X 与与 Y 关系的不同看法也许关系的不同看法也许会得到多个不同的回归方程，这时可通过计算线性相关系数的会得到多个不同的回归方程，这时可通过计算线性相关系数的办法求得最优者，系数越大者越优。办法求得最优者，系数越大者越优。第22页，本讲稿共37页 如果实测数据的散点图大致围绕下列某一曲线分布，可如果实测数据的散点图大致围绕下列某一曲线分布，可采取下列与之相应的变换化为线性回归问题。采取下列与之相应的变换化为线性回归问题。1.双曲线双曲线令令 则得则得2.幂函数幂函数令令 则得则得可线性化的一元非线性回归分析可线性化的一元非线性回归分析第23页，本讲稿共37页3.指数
15、函数指数函数令令 则得则得4.负指数函数负指数函数令令 则得则得可线性化的一元非线性回归分析可线性化的一元非线性回归分析第24页，本讲稿共37页5.对数函数对数函数令令 则得则得6.S 型（型（Logistic）曲线）曲线令令已知已知则得则得已知已知 令令 则有则有第25页，本讲稿共37页设设 Y 与与 X 的一元线性回归方程是的一元线性回归方程是由由 的取值状态估计的取值状态估计 的取值范围谓之的取值范围谓之预测，预测，由对由对 的取值限制来确定的取值限制来确定 的取值范围谓之的取值范围谓之控制。控制。1.点预测点预测对给定的对给定的 由由 算出的算出的 值为值为 的点预测值。的点预测值。2
16、.区间预测区间预测对给定的对给定的 由由 求出求出 以置信度以置信度 的取值区间（置信区间）称作的取值区间（置信区间）称作 的预测区间。的预测区间。一元线性回归分析之预测与控制一元线性回归分析之预测与控制第26页，本讲稿共37页考察统计量：考察统计量：2.区间预测区间预测对给定的对给定的 由由 求出求出 以置信度以置信度 的取值区间（置信区间）称作的取值区间（置信区间）称作 的预测区间。的预测区间。第27页，本讲稿共37页对给定的置信度对给定的置信度 ，得，得 的预测区间的预测区间：即：即：其中其中的均值的置信区间的均值的置信区间：其中其中实用中，当实用中，当 n 较大且较大且 时，预测区间近
17、似地表为：时，预测区间近似地表为：或利用软件找出预测区间。或利用软件找出预测区间。其中其中第28页，本讲稿共37页例例3、对例对例1，当，当 时，找出随机变量时，找出随机变量 Y 的置信度为的置信度为 95%的预测区间。的预测区间。解：解：Y 的置信度为的置信度为 95%的近似预测区间为：的近似预测区间为：由线性回归方程得由线性回归方程得 Y 的点预测为的点预测为（所求线性回归方程（所求线性回归方程 ）第29页，本讲稿共37页3.的控制的控制对给定的置信度对给定的置信度 ，若要使，若要使令令 ，解得，解得则则 正是正是 所应被控制的范围。所应被控制的范围。一元线性回归分析之预测与控制一元线性回
18、归分析之预测与控制由由 的近似预测区间：的近似预测区间：令令 ，解得，解得一般地，要求一般地，要求 的控制区间长度的控制区间长度第30页，本讲稿共37页例例4、对例对例1，对给定的置信度为，对给定的置信度为 95%，要求控制，要求控制试找出试找出 的控制范围。的控制范围。解：解：令令 ，解得，解得令令 ，解得，解得所以所以 的控制范围是的控制范围是令令 ，解得，解得由由 的近似预测区间：的近似预测区间：令令 ，解得，解得第31页，本讲稿共37页P222 1、2第32页，本讲稿共37页P2221、所求线性回归方程所求线性回归方程对线性回归方程作方差分析，检验假设：对线性回归方程作方差分析，检验假
19、设：第33页，本讲稿共37页方差分析表方差分析表总计总计回归回归残差残差F 值值均方和均方和自由度自由度偏差平方和偏差平方和来源来源F 值临介值值临介值由此得：回归方程在检验水平由此得：回归方程在检验水平 下有效的。下有效的。第34页，本讲稿共37页P2222、所求线性回归方程所求线性回归方程对线性回归方程作方差分析，检验假设：对线性回归方程作方差分析，检验假设：第35页，本讲稿共37页方差分析表方差分析表总计总计回归回归残差残差F 值值均方和均方和自由度自由度偏差平方和偏差平方和来源来源F 值临介值值临介值由此得：回归方程在检验水平由此得：回归方程在检验水平 下有效的。下有效的。第36页，本讲稿共37页P2222、线性回归方程线性回归方程Y 的置信度为的置信度为 95%的近似预测区间为：的近似预测区间为：第37页，本讲稿共37页