《一元线性回归模型的参数检验精选PPT.ppt》由会员分享,可在线阅读,更多相关《一元线性回归模型的参数检验精选PPT.ppt(17页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、一元线性回归模型的参数检验第1页,此课件共17页哦模型模型性质性质总体回归模型总体回归模型样本回归模型样本回归模型回归对象回归对象总体回归函数回归对象是总体回归函数回归对象是 总体数据总体数据样本回归函数回归对象是样本回归函数回归对象是样本数据样本数据参数估计的内涵参数估计的内涵总体回归函数的内涵是总体中总体回归函数的内涵是总体中解释与被解释变量之间的结构解释与被解释变量之间的结构关系关系样本回归函数的内涵是样本中解样本回归函数的内涵是样本中解释与被解释变量之间的结构关系释与被解释变量之间的结构关系计算方法与估计特点计算方法与估计特点总体回归模型是用求条件期望总体回归模型是用求条件期望E(Y|
2、X)方法求出参数估计值,方法求出参数估计值,参数估计值是不变的。参数估计值是不变的。样本回归模型是用最小二乘方法样本回归模型是用最小二乘方法求出参数估计值,参数估计值是求出参数估计值,参数估计值是随样本变化而变化的。随样本变化而变化的。两者之间的内在联系两者之间的内在联系样本回归模型是总体回归样本回归模型是总体回归函数的估计。有确定形式函数的估计。有确定形式和随机形式。和随机形式。总体回归模型是反映社会经济现总体回归模型是反映社会经济现象的内在规律,通常是未知的,象的内在规律,通常是未知的,样本回归函数反映的正是总体回样本回归函数反映的正是总体回归函数。有确定形式和随机形式归函数。有确定形式和
3、随机形式两者形式。两者形式。第2页,此课件共17页哦红线表示总体回归函数,黑线表示样本回归函数红线表示总体回归函数,黑线表示样本回归函数第3页,此课件共17页哦一元线性回归模型的估计:最小二乘一元线性回归模型的估计:最小二乘估计估计1、最小二乘估计的思想:样本回归线上的点最小二乘估计的思想:样本回归线上的点 与真与真实观测值实观测值 的总体误差为最小,即样本点到回归的总体误差为最小,即样本点到回归直线的距离平方和为最小。直线的距离平方和为最小。2、记住正规方程组、记住正规方程组 3、一元线性回归模型最小二乘估计的性质:、一元线性回归模型最小二乘估计的性质:线性性、无偏性和有效性线性性、无偏性和
4、有效性第4页,此课件共17页哦一元线性回归模型的检验一元线性回归模型的检验一、假设检验的回顾一、假设检验的回顾 假设检验是根据研究的需要,对社会经济现象提出假设检验是根据研究的需要,对社会经济现象提出一个参数假设,然后利用样本数据构造统计量,判一个参数假设,然后利用样本数据构造统计量,判断这个假设是否成立的统计过程。断这个假设是否成立的统计过程。例如:某企业的人力资源部门估计该企业例如:某企业的人力资源部门估计该企业 80%的员的员工是有潜力可挖的,为了检验这一说法是否可靠,工是有潜力可挖的,为了检验这一说法是否可靠,随机抽取随机抽取150名员工,经过严格的考评,结果显示名员工,经过严格的考评
5、,结果显示70%的员工存在不同程度的潜力,问当的员工存在不同程度的潜力,问当 时,时,“80%的员工尚存在潜力的员工尚存在潜力”是否成立。是否成立。第5页,此课件共17页哦问题的分析问题的分析该企业人力资源部门根据自身管理的需要提出了一个该企业人力资源部门根据自身管理的需要提出了一个假设假设“80%的员工存在可挖的潜力的员工存在可挖的潜力”,我们把这个假,我们把这个假设称为原假设,计为设称为原假设,计为 ,它的对立面,它的对立面“没有没有80%的员工存在可挖的潜力的员工存在可挖的潜力”称为原假设的备择假设,称为原假设的备择假设,计为计为 ,称为显著水平。现在我们来,称为显著水平。现在我们来检验
6、原假设对不对。检验原假设对不对。解:解:构造并计算检验统计量,得:构造并计算检验统计量,得:第6页,此课件共17页哦问题分析问题分析上式中上式中z是服从标准正态分布的,其分布密度函数图是服从标准正态分布的,其分布密度函数图像是像是 第7页,此课件共17页哦Z=-3.0581,在原假设成立下,在原假设成立下,z服从标准服从标准 正态分布,正态分布,或或 的概率是的概率是0.05是小概率事件,根据小概率事件在一次试验不发生的原理,是小概率事件,根据小概率事件在一次试验不发生的原理,事件事件 不应该发生,现在发生了,故认为原假设不成不应该发生,现在发生了,故认为原假设不成立,因此我们拒绝原假设立,因
7、此我们拒绝原假设 故认为故认为“80%的员工尚存在潜力的员工尚存在潜力”的说法不成立。的说法不成立。在上述检验中,在上述检验中,称为拒绝域,由于拒绝域在密度函数的两称为拒绝域,由于拒绝域在密度函数的两侧,故称上述检验为双侧检验。同样,若拒绝域在一边,这样的检验称为单侧检侧,故称上述检验为双侧检验。同样,若拒绝域在一边,这样的检验称为单侧检验。验。第8页,此课件共17页哦二、拟合优度检验二、拟合优度检验在上一节课中,讲了例在上一节课中,讲了例2.1.1,得到样本回归函数是,得到样本回归函数是,表示居住这个社区的人,收入每增加一元钱,其消费将平均增加表示居住这个社区的人,收入每增加一元钱,其消费将
8、平均增加0.777元。元。但是现在这个模型还不能用,需要进行检验。对回归模型的检验主要有两但是现在这个模型还不能用,需要进行检验。对回归模型的检验主要有两个方面的检验:拟合优度检验和回归系数检验。个方面的检验:拟合优度检验和回归系数检验。拟合优度检验是检验模型总体上拟合的好坏。拟合优度检验是检验模型总体上拟合的好坏。检验方法检验方法:(:(1)可决系数法)可决系数法 (2)F 检验检验首先定义首先定义 总平方和总平方和 SST (1)第9页,此课件共17页哦总平方和表示样本数据离它的重心的距离平方和,代表着样本全总平方和表示样本数据离它的重心的距离平方和,代表着样本全体信息,(体信息,(1)表
9、示样本信息可以分解为两个部分:回归平方和)表示样本信息可以分解为两个部分:回归平方和 与与 残差平方和。残差平方和。称为残差平方和,计作称为残差平方和,计作SSE而而 称为回归平方和,计作称为回归平方和,计作SSR。回归平方和表示用回归函数值代替样本值后,距离样本重心的距离平方回归平方和表示用回归函数值代替样本值后,距离样本重心的距离平方和,该值愈大表明回归效果愈好,反之,有相反的结论。残差平方和表和,该值愈大表明回归效果愈好,反之,有相反的结论。残差平方和表示回归值与样本真实值之间差的平方和,该值愈小,表明回归效果愈好,示回归值与样本真实值之间差的平方和,该值愈小,表明回归效果愈好,反之,有
10、相反的结论成立。反之,有相反的结论成立。根据上述,定义可决系数如下:根据上述,定义可决系数如下:通常通常 大于大于0且小于且小于1,可决系数越大,表明回归方程总体上拟合的,可决系数越大,表明回归方程总体上拟合的越好,反之,有相反的结论。通常越好,反之,有相反的结论。通常 ,认为模型总体上拟,认为模型总体上拟合得较好。合得较好。第10页,此课件共17页哦F检验检验对于回归方程拟合优度检验,除了用判决系数外,还对于回归方程拟合优度检验,除了用判决系数外,还可以用可以用F检验方法来检验模型拟合得好不好,检验检验方法来检验模型拟合得好不好,检验的方法和步骤是:的方法和步骤是:Y与与X没有线性关系没有线
11、性关系 Y与与X有线性关系有线性关系 构造检验统计量构造检验统计量 第11页,此课件共17页哦在原假设成立时,在原假设成立时,F统计量服从第一自由度是统计量服从第一自由度是1,第二自由度是,第二自由度是n-2的的F分布,这时分布,这时,的概率是的概率是 (通常是(通常是0.05)是小概率事件,是小概率事件,根据假设检验原理,应该拒绝原假设,接受备择假设,即认为根据假设检验原理,应该拒绝原假设,接受备择假设,即认为Y与与X之之间存在线性关系。也就是回归方程成立。(如图所示)间存在线性关系。也就是回归方程成立。(如图所示)第12页,此课件共17页哦例例2.1.1讲解讲解从例从例2.1.1知,知,F
12、=28559.235 大于显著性水平大于显著性水平为为0.05时的时的F统计量的值统计量的值3.94。故我们拒绝故我们拒绝原假设,认为原假设,认为Y与与X之间有线性关系成立。之间有线性关系成立。即回归方程显著。即回归方程显著。第13页,此课件共17页哦三、变量显著性检验三、变量显著性检验在回归分析中,我们不但要对模型总体显著性检验(拟合优度检验在回归分析中,我们不但要对模型总体显著性检验(拟合优度检验),还要对模型的回归系数进行检验,对于一元线性回归分析模型),还要对模型的回归系数进行检验,对于一元线性回归分析模型来说,其检验的原假设和备择假设分别是来说,其检验的原假设和备择假设分别是 构造的
13、检验统计量是构造的检验统计量是 第14页,此课件共17页哦 在原假设成立的条件下,在原假设成立的条件下,t 统计量服从自由度为统计量服从自由度为n-2的的t分布,分布,当当 时,时,拒绝原假设,认为备择假设成立,拒绝原假设,认为备择假设成立,即即 检验情况如下图所示。检验情况如下图所示。第15页,此课件共17页哦例例2.1.1讲解讲解在例在例2.1.1中中,的的t统计量值是统计量值是53.471大于临界值大于临界值1.98。故拒绝原假设,接受备择假设,认为回。故拒绝原假设,接受备择假设,认为回归系数显著,即归系数显著,即 注:在一元线性回归分析中,回归系数检验与回注:在一元线性回归分析中,回归
14、系数检验与回归方程检验是等价的,即回归方程显著,在同归方程检验是等价的,即回归方程显著,在同一显著性水平下,回归系数也显著,反之,有一显著性水平下,回归系数也显著,反之,有相同的结论成立。相同的结论成立。第16页,此课件共17页哦Dependent Variable:YMethod:Least SquaresDate:09/28/10 Time:11:08Sample:1 31Included observations:31Variable Coefficient Std.Error t-Statistic Prob.C-47.03933525.7858-0.0894650.9293X1.34
15、73200.05984122.515000.0000R-squared0.945888 Mean dependent var11363.69Adjusted R-squared 0.944022 S.D.dependent var 3294.469S.E.of regression 779.4603 Akaike info criterion 16.21742Sum squared resid17619190 Schwarz criterion16.30994Log likelihood -249.3700 F-statistic 506.9253Durbin-Watson stat1.502424 Prob(F-statistic)0.000000第17页,此课件共17页哦