《多元统计方法讲稿.ppt》由会员分享，可在线阅读，更多相关《多元统计方法讲稿.ppt（80页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、多元统计方法多元统计方法第一页，讲稿共八十页哦多元统计方法多元统计方法zz线性回归zzLogistic 回归zz注：完全可以用于单因素分析，从这一点也可以看出统计学的方法是注：完全可以用于单因素分析，从这一点也可以看出统计学的方法是相通的。相通的。zzSPSSSPSS无法进行无法进行条件条件条件条件LogisticLogistic回归回归回归回归 ，就像，就像sassas没有专门针对配对资料的语没有专门针对配对资料的语句一样，任何统计软件均有局限性。句一样，任何统计软件均有局限性。建立方程的计算量很大，一般需软件完成。前人手工计算这两种回归（借助科学计算器），精神可嘉80 年代，一个Logis
2、tic回归即使用计算机，计算的时间也以天计。第二页，讲稿共八十页哦调整或控制调整或控制zz多变量的控制或调整法就是同时记录可能有影响的因素，把他们与可能的危险因素一起作分析zz单因素分析有统计学意义，多因素分析没有意义的解释,举例第三页，讲稿共八十页哦zzIn univariate analysis,the family histories of SAH and ICH were positively associated with each of the subtypes of stroke.whereas after adjustment for potential risk factor
3、s,family history of ICH no longer showed a significant association with haematoma.单因素分析有意义，多因素没有意义的解释单因素分析有意义，多因素没有意义的解释第四页，讲稿共八十页哦zzFamily history of intracerebral haematoma was not an independent risk factor for haematoma,but it might be a good predictor,which indirectly influences the pathogenesi
4、s of intracerebral haematoma via certain hereditary components such as hypertension,and even lifestyle factors such as alcohol consumption.第五页，讲稿共八十页哦zzIs family history an independent risk factor for stroke?zzJ Neurol Neurosurg Psychiatry.1997 Jan;62(1):66-70.第六页，讲稿共八十页哦多元线性回归（简单步骤）指标多，难以理解。在计算自动化时
5、代，这是回归的难点，我们不懂如何判断我们的模型的好坏第七页，讲稿共八十页哦回归的实际应用回归的实际应用zz在影响因素分析中在影响因素分析中 一种是探索模式一种是探索模式，在回归模型中探索所有可，在回归模型中探索所有可能的自变量与应变量的关系能的自变量与应变量的关系 一种是控制模式一种是控制模式，即控制混杂因素的影响，即控制混杂因素的影响zz后者对回归模型的要求要小的多，不出现异常情况，后者对回归模型的要求要小的多，不出现异常情况，可仅对模型拟合稍作考虑。可仅对模型拟合稍作考虑。第八页，讲稿共八十页哦SPSS菜单菜单zzanalyze-regression-linear第九页，讲稿共八十页哦变量
6、的数量化（1）自变量为连续型变量：必要时作变换（2）自变量为有序变量：依次赋值，如疗效好中差，可分别赋值3、2、1（3）自变量为二分类：如令男1，女0（4）自变量为名义分类：需要采用哑变量（dummy variables）进行编码 第十页，讲稿共八十页哦名义分类变量的哑变量化 假如职业分类为工、农、商、学、兵5类，则可定义比分类数少1个，即4个哑变量。编码方法如下：第十一页，讲稿共八十页哦数据格式数据格式第十二页，讲稿共八十页哦回归的一些定义回归的一些定义应变量（应变量（应变量（应变量（dependent variable)dependent variable)自变量（自变量（自变量（自变量（
7、independent variableindependent variable）偏回归系数偏回归系数偏回归系数偏回归系数 pertial regression coefficientpertial regression coefficient常数项常数项常数项常数项b b0 0决定系数决定系数决定系数决定系数 determination coefficientdetermination coefficient，R squareR square共线性共线性共线性共线性 collinearity：自变量间存在着线性关系自变量间存在着线性关系yi=b0+b1x1i+b2x2i+bnxni第十三页，
8、讲稿共八十页哦回归方程的建立回归方程的建立zz就是求解b0和bi的过程zz矩阵的各种计算（求解线性方程）zzSPSS的实现：analyze-regression-linear将回归方程中的所有自变量作为一个整体来检验他们于应变量之间是否具有线性关系，P0.05,说明所拟合的方程具有统计学意义，但并不说明模型拟合的好坏各自变量的假设检验与评价，检验各自变量和应变量是否有线性关系，P(可放宽)说明有线性关系，同样t值不说明线性关系的强弱，这样，一个回归方程就建立了，回归方程的建立就是如此easy。第十四页，讲稿共八十页哦线性与拟合优度线性与拟合优度zz有线性关系拟合优度不一定很好有线性关系拟合优度
9、不一定很好zz上述上述F F和和t t检验有统计学意义，只是说明检验有统计学意义，只是说明 自变量与自变量与y y有有线性关系，但未能表示线性关系，但未能表示“关系有多大关系有多大”zz举例：上述方程的举例：上述方程的R R2 2很小，但因为样本量大，很小，但因为样本量大，F F值值很大很大zzR R2 2的意义：可以由的意义：可以由BMIBMI，ageage和膳食口味解释和膳食口味解释SBPSBP的的4.34.3变化变化zz我认为，因素分析可以只考虑线性关系的有无。特我认为，因素分析可以只考虑线性关系的有无。特别是在控制模式中。别是在控制模式中。第十五页，讲稿共八十页哦自变量的选择zz全局择
10、优法：全局择优法：求出求出求出求出所有可能所有可能所有可能所有可能的回归模型（共有的回归模型（共有的回归模型（共有的回归模型（共有2 2mm1 1个）对应的准则值；按个）对应的准则值；按个）对应的准则值；按个）对应的准则值；按R R2 2，CpCp准则，准则，准则，准则，AICAIC准则等统计量选择最优模型。准则等统计量选择最优模型。准则等统计量选择最优模型。准则等统计量选择最优模型。求出所有可能的求出所有可能的回归模型（共有回归模型（共有2m1个）对应的准则值；个）对应的准则值；按上述准则选择最优模型按上述准则选择最优模型缺点：缺点：zz如果自变量个数为如果自变量个数为4 4，则所有的回归有
11、，则所有的回归有2 24 41 1 15 15个；当个；当自变量数个数为自变量数个数为1010时，所有可能的回归为时，所有可能的回归为 2 210101 1 1023 1023个；个；当自变量数个数为；当自变量数个数为5050时，所有可能的回归为时，所有可能的回归为2 250501101101515个。个。第十六页，讲稿共八十页哦全局择优法zz决定系数(R2)和校正决定系数校正决定系数(R2c)，可以用来评价回归方程的优劣。【R R2 2随着自变量个随着自变量个随着自变量个随着自变量个数的增加而增加，所以需要校正数的增加而增加，所以需要校正数的增加而增加，所以需要校正数的增加而增加，所以需要校
12、正】校正决定系数校正决定系数(R2c)越大，方程越优。zzCp选择法：选择Cp最接近p或p1的方程（不同学者解释不同）。Cp无法用Spss直接计算，可能需要手工。其中p为方程中自变量的个数，m为自变量总个数第十七页，讲稿共八十页哦Cp准则的计算公式准则的计算公式第十八页，讲稿共八十页哦AIC准则的计算公式第十九页，讲稿共八十页哦自变量的选择逐步选择法zz逐步选择法：逐步选择法：逐步选择法：逐步选择法：（一）前进法（一）前进法（一）前进法（一）前进法（forwardforward）（二）后退法（二）后退法（二）后退法（二）后退法（backwardbackward）（三）（三）（三）（三）逐步回归
13、法（逐步回归法（逐步回归法（逐步回归法（stepwisestepwise）小样本检验水准定为0.10或0.15，大样本把值定为0.05。值越小表示选取自变量的标准越严。注意，引入变量的检验水准要小于或等于剔除变量的检验水准。第二十页，讲稿共八十页哦自变量到底如何选择自变量到底如何选择z两种方法结合手工选择，逐步选择法选两种方法结合手工选择，逐步选择法选择后手工增减变量看校正决定系数择后手工增减变量看校正决定系数(R2c)等方程拟合优劣指标的好坏z放宽或限制进入方程的标准，特别是在逐步回归的时候z硬性进入方程最感兴趣的研究变量第二十一页，讲稿共八十页哦统计“最优”与专业的“最优”z不同准则、方法
14、得出的“最优”方程不同；z不同的引入、剔除标准获得的“最优”方程不同；z方程还受数据的正确性、共线性影响第二十二页，讲稿共八十页哦强影响点，记录的选择强影响点，记录的选择变量记录第二十三页，讲稿共八十页哦强影响点，记录的选择强影响点，记录的选择zz从理论上讲，每一个样本点对回归模型的影响应该是同等的，实际并非如此。有些样本点（记录）对回归模型影响很大。对由过失或错误造成的点应删去zz没有错误的强影响点可能和自变量与应变量的相关有关，不可轻易删除。第二十四页，讲稿共八十页哦判断强影响点的指标判断强影响点的指标zzSPSS软件中的指标zzanalyze-regression-linear-save
15、zzSave中的选项均进入数据库，而不出现在output中zz各种残差越大，单一记录对方程的影响越大第二十五页，讲稿共八十页哦判断强影响点的指标（判断强影响点的指标（2）距1越远，越是强影响点其余指标绝对值越大越是强影响点第二十六页，讲稿共八十页哦多重共线性 自变量间存在着线性关系，使一个或几个自变量可以由另外的自变量线性表示时，称为该变量与另外的自变量间存在有共线性(collinearity)。容易出现：z回归系数的符号与由专业知识不符z变量的重要性与专业不符z整个方程决定系数R2高，但各自变量对应的回归系数均不显著。第二十七页，讲稿共八十页哦多重共线性的诊断多重共线性的诊断zSPSS中的指
16、标zz容许度：越近似于0，共线性越强zz特征根：越近似于0，共线性越强zz条件指数：越大，共线性越强第二十八页，讲稿共八十页哦Spss的实现与结果的实现与结果zzanalyze-regression-linear-statistics第二十九页，讲稿共八十页哦实例实例zz以BMI为应变量，SBP，DBP和年龄为自变量进行回归。结果如图zz极端例子：以SBP为应变量，BMI和复制BMI为自变量，结果为其中之一无法进入方程从第四个特征根看，特征根小，条件指数大，从变量的方差比例来看，SBP和DBP在其中贡献最大，可以说两者有近似共线性不过两者的共线性对方程的影响并不大第三十页，讲稿共八十页哦容许度
17、越近于0共线性越大，等于0，完全共线复制的BMI根本无法进入方程后面讨论交互作用的时候我们还要提到共线性第三十一页，讲稿共八十页哦一、应用z影响因素分析，控制混杂因素z预测：由自变量值推出应变量Y的值z控制：指定应变量Y的值查看自变量的改变量影响因素分析，控制混杂因素影响因素分析，控制混杂因素在医学研究中最为长用，个人认为在医学研究中最为长用，个人认为对模型拟合要求较低，特别在对模型拟合要求较低，特别在控制混杂的控制模式中控制混杂的控制模式中后两种用途对模型要求严格第三十二页，讲稿共八十页哦二、应用条件第三十三页，讲稿共八十页哦回归系数符号反常与主要变量选不进方程的回归系数符号反常与主要变量选
18、不进方程的原因分析原因分析zz有重要影响的因素未包括在内zz某些变量个体间的差异很大zz样本内突出点上数据误差大zz变量的变化范围较小zz样本数太少上述各项在用最小二乘法求解方程过程中对残差等重要中间指标的影响大，造成最小二乘法的失效。第三十四页，讲稿共八十页哦线性回归的注意事项线性回归的注意事项应变量为连续变量，自变量可以为连续变量、分类变量应变量为连续变量，自变量可以为连续变量、分类变量或有序变量或有序变量样本含量：一般要求样本量样本含量：一般要求样本量n n至少是方程中自变量个数至少是方程中自变量个数mm的的5-5-1010倍倍逐步回归不是万能的，一个逐步回归不是万能的，一个good o
19、f fitgood of fit好的模型建立需要多方好的模型建立需要多方面考证。面考证。多重共线性：多重共线性：自变量存在较强的线性关系自变量存在较强的线性关系检验两变量间有无交互作用，普遍的做法是在方程中加检验两变量间有无交互作用，普遍的做法是在方程中加入它们的乘积项再做检验。但共线性的问题会因此而突入它们的乘积项再做检验。但共线性的问题会因此而突出，举例出，举例共线性很大SPSS菜单在处理回归中选项较少，菜单在处理回归中选项较少，但完全可以满足一般模型的拟合。但完全可以满足一般模型的拟合。其其syntax模式应该有更多选项，但鉴模式应该有更多选项，但鉴于介绍这方面内容的书籍文献较少。于介绍
20、这方面内容的书籍文献较少。如确实需要严格的模型拟合，如确实需要严格的模型拟合，SAS可能是更好的选择可能是更好的选择第三十五页，讲稿共八十页哦回归的发展回归的发展zz加权回归zz有重复测量的回归分析：对每一个回归变量x的y有多次重复的测量值。zz岭回归分析：改进的最小二乘方，用于自变量相关性大，或某些变量变化范围太小。可用sas实现。第三十六页，讲稿共八十页哦Logistic回归回归zz实际上属于判别分析，因拥有很差的判别效率而不常用。zz适用于流行病学资料的因素分析zz实验室中药物的剂量-反应关系zz临床试验评价zz疾病的预后因素分析第三十七页，讲稿共八十页哦二、Logistic回归模型zz
21、Logistic回归的分类回归的分类 二分类二分类二分类二分类 多分类多分类多分类多分类 其中二分较为常用其中二分较为常用其中二分较为常用其中二分较为常用 条件条件条件条件LogisticLogistic回归回归回归回归 非条件非条件非条件非条件LogisticLogistic回归回归回归回归 两者针对的资料类型不一样，后者者针两者针对的资料类型不一样，后者者针两者针对的资料类型不一样，后者者针两者针对的资料类型不一样，后者者针对对对对 成组研究，前者针对配对或配伍研究。成组研究，前者针对配对或配伍研究。成组研究，前者针对配对或配伍研究。成组研究，前者针对配对或配伍研究。第三十八页，讲稿共八十
22、页哦26例冠心病病人和例冠心病病人和28例对照者进行病例对照者进行病例例 对照研究（变量赋值表）对照研究（变量赋值表）自变量为连续变自变量为连续变自变量为连续变自变量为连续变量，最好变为等量，最好变为等量，最好变为等量，最好变为等级或计数资料级或计数资料级或计数资料级或计数资料有统计学家持反对意见认为损失信息第三十九页，讲稿共八十页哦26例冠心病病人和例冠心病病人和28例对照者进行例对照者进行病例病例 对照研究（数据格式）对照研究（数据格式）第四十页，讲稿共八十页哦Logistic回归方程的建立回归方程的建立建立方程就是求解b0，b1bp第四十一页，讲稿共八十页哦zzLogisticLogis
23、tic回归中的常数项（回归中的常数项（回归中的常数项（回归中的常数项（b b0）表示，在不接触任何表示，在不接触任何潜在危险保护因素条件下，效应指标发生与不潜在危险保护因素条件下，效应指标发生与不发生事件的概率之比的对数值。发生事件的概率之比的对数值。zzLogisticLogistic回归中的回归系数（回归中的回归系数（bi i）表示，某一因素表示，某一因素表示，某一因素表示，某一因素改变一个单位时，效应指标发生与不发生事件的概率改变一个单位时，效应指标发生与不发生事件的概率改变一个单位时，效应指标发生与不发生事件的概率改变一个单位时，效应指标发生与不发生事件的概率之比的对数变化值，即之比的
24、对数变化值，即之比的对数变化值，即之比的对数变化值，即OR或或RR的对数值。的对数值。的对数值。的对数值。参数意义参数意义第四十二页，讲稿共八十页哦回归系数的意义单纯从数学上讲，与多元线性回单纯从数学上讲，与多元线性回归分析中回归系数的解释并无不归分析中回归系数的解释并无不同，亦即同，亦即bi表示表示xi改变一个单位时，改变一个单位时，logit P的平均变化量。的平均变化量。第四十三页，讲稿共八十页哦多因素多因素Logistic回归分析时，对回归系数的回归分析时，对回归系数的解释都是指在解释都是指在其它所有自变量固定其它所有自变量固定的情况下的情况下的优势比。的优势比。存在因素间交互作用时，
25、存在因素间交互作用时，Logistic回归系数回归系数的解释变得更为复杂，应特别小心。的解释变得更为复杂，应特别小心。zz调整与控制第四十四页，讲稿共八十页哦流行病学中的一些基本概念：流行病学中的一些基本概念：相对危险度相对危险度（relative risk）:RR=P1/P2比数比数Odds=P/(1-P)比数比比数比OR=P/(1-P)/P/(1-P)在患病率较小情况下，在患病率较小情况下，ORRR第四十五页，讲稿共八十页哦根据根据Wald检验可知，检验可知，Logistic回归系数回归系数bi服从服从u u分布。因此其可信区间为分布。因此其可信区间为进而，优势比进而，优势比e(bi)的可
26、信区间为的可信区间为第四十六页，讲稿共八十页哦参数估计参数估计似然函数计算方法最大似然法迭代法1.初始值2.迭代次数3.人为精度4.可能不收敛总体来说，解比较稳定。第四十七页，讲稿共八十页哦SPSS的实现的实现zzanalyze-regression-binary logistic第四十八页，讲稿共八十页哦analyze-regression-binary logistic-option模型拟合优度指标，2值越小，P值越大表明模型越好迭代过程，可以监察方程计算的过程参数估计的相关矩阵，每步各协变量的零级相关系数（简单相关系数）均小（,说明 Logistic方程总体有意义，借用线性的 解释来说将
27、回归方程中的所有自变量作为一个整体来检验他们于应变量之间是否具有线性线性线性线性关系，P0.05,说明所拟合的方程具有统计学意义，但并不说明模型拟合的好坏：真正的模型拟合一般要把其提高到0.20或0.10而非0.05。第五十一页，讲稿共八十页哦结果结果3模型拟合优度指标，模型拟合优度指标，模型拟合优度指标，模型拟合优度指标，2 2 2 2值越小，值越小，值越小，值越小，P P P P值越大表明模型越好值越大表明模型越好值越大表明模型越好值越大表明模型越好两种两种两种两种R2R2R2R2的解释与线性的解释与线性的解释与线性的解释与线性方程同，方程同，方程同，方程同，14.914.914.914.
28、9在流行病学在流行病学在流行病学在流行病学研究中算一个比较好的了研究中算一个比较好的了研究中算一个比较好的了研究中算一个比较好的了判别分析用表判别分析用表判别分析用表判别分析用表第五十二页，讲稿共八十页哦结果结果4zzWald检验检验（wald test）即广义的即广义的t检验，统计量为检验，统计量为u,u,下面详细讨论之下面详细讨论之参数估计的相关矩阵，每步各协变量的零级相关系数（简单相关系数）均小（,!第七十八页，讲稿共八十页哦参考书目参考书目zz孙振球，医学统计学（供研究生用）.人民卫生出版社，2002，第一版。zz孙尚拱，医学多变量统计与统计软件.北京医科大学出版社.2000，第一版.zz刘润幸，医学统计学方法与应用(上、下册).2001.第一版.zz倪宗瓒，卫生统计学.2001.第四版第七十九页，讲稿共八十页哦网上资源网上资源zzhttp:/