《第五章 统计方法优秀课件.ppt》由会员分享，可在线阅读，更多相关《第五章 统计方法优秀课件.ppt（20页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第五章 统计方法第1页，本讲稿共20页式中分子是残差和，分母是残差的自由度。分析步骤：首先，计算模型所有输入的2，然后一一删除这些输入，若删除一个有用的输入,2第2页，本讲稿共20页的估计值将会大幅度上升，若删除一个多余的输入，估计值不会有太大的变化。在上述步骤的迭代过程中，引入比率和统计检验，形式如下：若一个输入被删除后，接近于，新模型合适；若值明显大于，说明新模型不合适。应用迭代的方差分析方法，能识别哪一个输入和输出的相关的，哪些是不相关的。第3页，本讲稿共20页下表是有个输入的数据集的方差分析情况情况输入集输入集SiSi2 2x1,x2,x3x1,x2,x33.563.56x1,x2x1
2、,x23.983.98F21=1.12F21=1.12x1,x3x1,x36.226.22F31=1.75F31=1.75x2,x3x2,x38.348.34F41=2.34F41=2.34X1X19.029.02F52=2.27F52=2.27X2X29.899.89F62=2.48F62=2.48第4页，本讲稿共20页上述分析结果，只有删除上述分析结果，只有删除x3，F没有明显变化，其他情况比值显著增加，因此可以删除，不影响模型的性能。方差的多元分析是方差分析的一个推广，解决了输出不是单个数值而是一个向量的数据分析问题。方差的多元分析基于这样一个假设，输出变量间相互独立，采用一个多元线性模
3、型来建模：第5页，本讲稿共20页残差矩阵为：古典的多元分析也包含基本的分析方法，如一组样本向量如何转换为一组新的维数更少的样本向量。数据归约和数据转换中用到。第6页，本讲稿共20页5.6 对数回归线性回归用于对连续值函数进行建模。广义回归模型提供了将线性回归用于分类响应变量建模的理论基础，它最常见的形式是对数回归。对数回归将某些事件发生的概率建模为预测变量集的线性函数。它不是预测因变量的值，而是估计因变量取给定值的概率p。例如，对数回归不预测顾客的信用等级是好是坏，而是试着估计顾客有好的信用等级的概率。第7页，本讲稿共20页对数回归仅适用于输出变量是二元分类变量的情况。但输入变量也可以是定量的
4、，它支持一般的输入数据集。假设输出Y有两个分类值编码为0和1，由数据集能计算出所给输入样本所产生的输出值取0和取1的概率。对数回归的模型表示为：输出用对数据是为了结果输出在0,1区间。第8页，本讲稿共20页假设有一训练数据集，用线性回归建成模为：并假设给出一新的待分类的样本，其输入值x1,x2,x3=1.,0,1，用上面模型可估计出输出值为1的概率。根据概率p的最终结果，可推出输出值Y=1的可能性比分类值Y=0小。和挖掘的其他方法对比较。第9页，本讲稿共20页5.7 对数-线性模型对数-线性建模是一种分类(或数量型)变量间关系的方法。对数-线性模型近似于离散的、多元的概率分布。它是一种假设输出
5、Yi具有泊松分布的的广义线性模型，假设其期望值 j j的自然对数是输入的线性函数：第10页，本讲稿共20页由于所感兴趣的变量是分类变量，用表示数据总体分布的频率表来表示它们。对数-线性建模的主要目的是识别分类变量间的关联。因此，此类分类问题转换成了求模型中所有值为0的问题。如果对数-线性模式中变量间有相互作用，表示这些变量不是独立的而是相关的，相应的值不为0。由于所研究的问题是变量间的关联，因此没有必要将分类变量作为分析的输出。如果需要输出，可采用对数回归来分析。此处仅解释一个定义数据集时没有输出变量的对数-对性模型。第11页，本讲稿共20页一致性分析是分析关联矩阵(也称列联表)中的分类数据。
6、其分析结果回答了“所分析的变量间是否有关联”这个问题。这个问题。例如，下表是一个例如，下表是一个22列联表,有关男性和女性对堕胎态度的调查结果，样本数=1100,=1100,两个分类变量两个分类变量性别性别(男性和女性)和赞同(是和否是和否)，每一种情况都有累积结果。赞赞同同是是否否总计总计性别性别女女309309191191500500男男319319281281600600总计总计62862847247211001100第12页，本讲稿共20页对数线性模型用于解决分类变量间的关联，分析步骤是它基于根据两个列联表的比较，定义变量间关联的算法：1.第一步，把所给的列联表转换成一个具有期望值的表
7、，并假定这些变量间是在独立的情况下来计算这些值。2.第二步，用平均距离指标和卡方检验作为评价两个分类变量关联的标准，对这两个矩阵进行比较。第13页，本讲稿共20页算法思路：用Xmn来表示这个列联表。其行和为：其列和为：行和的总和为：列和的总和为：第14页，本讲稿共20页假定各行和各列变量间没有关联。用这些和可以计算期望值的列联表。期望值计算如下：由上式可得到期望值的新表，两个表具有相同的维数。上例计算结果如下：j=1,m,i=1,n赞赞同同是是否否总计总计性别性别女女285.5285.5214.5214.5500500男男342.5342.5257.5257.5600600总计总计628628
8、47247211001100第15页，本讲稿共20页到此已完成算法的第一步，下一步是关联卡方检验的应用。初始假设0是假设两个变量是不相关的，可以用皮氏卡方公式来检验：2的值越大，拒绝假设0 0的可能性越大。对于上例有如下检验结果：第16页，本讲稿共20页按照mn维表自由度的计算公式为：d.f.(degrees of reedom)=(m-1)(n-1)=(2-1)(2-1)=1一般，在置信水平下若2T()，那么拒绝假设0 0。其中T()是2分布表的阈值，本例中，选择0.05，可得：作简单的比较结论是拒绝假设0，则男性和女性对堕胎的态度有很大的差异。第17页，本讲稿共20页5.8 线性判别分析线
9、性判别分析线性判别分析(LDA)是解决因变量是类型的是解决因变量是类型的(名义类型或顺序类型),),自变量是数值型的分类问题,LDA的目标是构造一个判别函数,能够通过对不同的输出类中的数据进行计算产生不同的分数。线性判别函数的形式如下：式中x1,x2,xk是自变量，z是判别得分，w1,w2,wk是加权。第18页，本讲稿共20页判别函数z的构造是求出一组权值wi，这组权值能使预分类的样本集的判别得分的类间方差和类内方差的比率达到最大。构造出判别函数z后，就可以用它来预测一个新的未被分类的样本的类。分数线(cutting scores)是判断单个判别得分的标准。设za和zb分别是类A和类B中预分类的样本的平均判别得分。如果两类样本一样大且服从同一方差分布，那么分数线Zcut-ab的最佳选择是：zcut-ab=(za+zb)/2第19页，本讲稿共20页当zzcut-ab时，新样本为A类；当zzcut-ab时，新样本为B类；当z=zcut-ab时那么新样本可被随意归到任意一类。当每类样本不一样大时，平均判别得分的加权平均作为它的最佳分数线为：zcut-ab=(naza+nbzb)/(na+nb)式中na,nb表示每类中样本数。第20页，本讲稿共20页