《第二篇多元统计分析精选文档.ppt》由会员分享，可在线阅读，更多相关《第二篇多元统计分析精选文档.ppt（34页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第二篇多元统计分析本讲稿第一页，共三十四页第一章 回归分析出发点：出发点：自然界中的事物是有联系的。了解其联系程度，对于联系强的，研究其量的关系式（函数）。事物量之间的关系有两种：事物量之间的关系有两种：（1）确定的函数关系：如（2）无法用数学表达式精确表示的相关关系，如煤的灰分和比重的关系。相关相关：当一个随机变量的值发生变化时，另一随机变量的值也发生相应变化，则称这两个量之间有相关关系。本讲稿第二页，共三十四页相关分析相关分析：主要研究随机变量间有无相关关系及相关的程度；回归分析回归分析：注重研究两个随机变量之间相关关系的表达形式；一般不加区分，统称为回归回归。回归分析是数理统计的一个重要
2、分支，在生产和科研中有广泛应用，如求经验公式、确定最佳生产条件、进行预测等。本讲稿第三页，共三十四页回归分析的主要内容有以下五点：（1）从一组数据出发，确定变量间的定量关系式；（2）对定量关系式的可信程度进行统计检验。（3）要从影响某一个量变量中，判断哪些变量的影响是显著的，哪些是不显著的；（4）利用所求得的关系式进行预测和控制。（5）近代又出现试验设计等内容。本讲稿第四页，共三十四页 第一节 一元线性回归一、一元线性回归的数学模型 一元线性回归主要是处理两个变量；如x,y之间的关系。两个量的关系有线性和非线性两种，有一些非线性的关系可以转化为线性的关系来处理。线性关系模型：y=a+bx本讲稿
3、第五页，共三十四页非线性情况有一些可转化为线性：如：y=axb y=aebxy=aeb/xy=a+blogx等本讲稿第六页，共三十四页某煤矿个煤样的灰分和容重。样品号，容重，灰分1,1.5,252,1.2,43,1.7,304,1.4,205,1.8,366,1.3,77,1.3,58,1.5,249,1.7,3310,1.3,411,1.5,1712,1.5,2413,1.6,2514,1.4,615,1.6,2616,1.5,2417,1.4,2018,1.5,9本讲稿第七页，共三十四页本讲稿第八页，共三十四页设其线性关系模型是：y=a+bx其中 y为灰分 x为容重。本讲稿第九页，共三十四
4、页二、参数a,b 的最小二乘法估计直线的形态处决于两个参数a,b要使得直线参最好地拟合这组数据，就要求出最佳的a,b 值。使用最小二乘法来求取最佳a,b值本讲稿第十页，共三十四页原理设线性一元回归方程为 对于每一个xi,都有二个值与之对应，一个是实际观测值yi,一个是回归值 yi 这个回归值 yi与实际预测值yi之差yi-yi,刻画了yi与回归直线yi=a+bx的偏离程度。对于所有的xi,若yi与yi的偏差越小，则认为直线和所有的试验点拟合得越好。本讲稿第十一页，共三十四页刻画了全部观测值与回归直线的偏差程度。最小二乘法，就是使Q(a,b)=min 的一种方法。本讲稿第十二页，共三十四页 由于
5、Q(a,b)o为 a,b的二元二次方程，是非负的，所以其最小值总存在，根据微积分学中求极值原理，当下列式子成立时，得最小值。这是一个关于a,b的二元一次方程组。解之，得a,b 值。本讲稿第十三页，共三十四页本讲稿第十四页，共三十四页三、回归方程的具体计算步骤求取lxx,lyy,lxy值，再求得b,a值。得回归方程 y=a+bx本讲稿第十五页，共三十四页四、回归方程的显著性检验 一、为何要检验：回归时，假设了两个变量x,y之间是线性关系，从而求出了线相关关系式。所以要检验其线性关系是否成立。本讲稿第十六页，共三十四页二、如何检验1.几个量：本讲稿第十七页，共三十四页F检验由于S总 可分解为S回和
6、剩，且回、总、剩都是分布，其自由度f总n-1f回1f剩=n-2假设H0:b=0统计量服从自由度为 和n-2的分布。本讲稿第十八页，共三十四页本讲稿第十九页，共三十四页如上例中：S总=lyy=1866.5,S回=1488.288,S剩=378.212,F=1488.288/(378.212/16)=62.961,若取显著性水平为0.05，查得F0.05(1,16)4.49，故在在显著性水平0.05下，拒绝假设H0，即认为线性回归效果是显著的。或可认为在95的置信度下，认为线性回归效果是显著的。本讲稿第二十页，共三十四页 对给定的观察值而言，对给定的观察值而言，S ST T是不变的，是不变的，S
7、SR R大则大则S SDD小；小；S SD D越小，越小，S SR R/S/ST T越接近越接近1 1。所以可引入无量纲指标。所以可引入无量纲指标r r2 2=S=SR R/S/ST T来检验来检验y y与与x x之间的线性关系是否密切。称之间的线性关系是否密切。称为y与x的线性相关系数，简称相关系数。本讲稿第二十一页，共三十四页 r也为一统计量，r检验与F检验是等价的。事实上，SD=ST(1-r2)SR=STr2 F=(n-2)r2/(1-r2)F较大等价于|r|较大，r的自由度为n-2。与F检验一样，r也有临界值r。知道了r与自由度fr，可查r检验表，来检验y与x之间是否存在线性相关关系。
8、因为r比F更直观，所以r也是较常用的一种检验法。本讲稿第二十二页，共三十四页上例中，ST=lyy=1866.5,SR=1488.288,SD=378.212,r2=0.7974本讲稿第二十三页，共三十四页五、利用回归方程进行预测因为yi属于正态分布，所以y0,y0也属于正态分布。正态分布的三原则本讲稿第二十四页，共三十四页本讲稿第二十五页，共三十四页六、可分为一元线性回归的非线性情况本讲稿第二十六页，共三十四页本讲稿第二十七页，共三十四页本讲稿第二十八页，共三十四页六、本章小节一元线性回归方法数学模型：y=a+bx最小二乘法估计a,b值本讲稿第二十九页，共三十四页3、回归方程及观测直线（95的置信区间）本讲稿第三十页，共三十四页4、显著检验本讲稿第三十一页，共三十四页F检验步骤假设：H0:b=0本讲稿第三十二页，共三十四页本讲稿第三十三页，共三十四页5、非线性回归可分为线性回归的一些例子。本讲稿第三十四页，共三十四页