《SPSS数据的主成分分析.ppt》由会员分享,可在线阅读,更多相关《SPSS数据的主成分分析.ppt(69页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、zf2o蒋亮,罗汉蒋亮,罗汉我国东西部城市经济实力比较的主成分分我国东西部城市经济实力比较的主成分分析析,经济数学经济数学,2003年年3期期 o田波平等田波平等主成分分析在中国上市公司综合评价中的作主成分分析在中国上市公司综合评价中的作用用,数学的实践与认识数学的实践与认识,2004年年4期期o江冬明江冬明主成份分析在证券市场个股评析中的应用主成份分析在证券市场个股评析中的应用,数理统计与管理数理统计与管理,2001 年年3期期主成分分析在综合评价中的应用:主成分分析在综合评价中的应用:zf3o陈耀辉,景睿陈耀辉,景睿沪深股市市场收益率成因的主成份分沪深股市市场收益率成因的主成份分析析,南京
2、航空航天大学学报南京航空航天大学学报,2000年年2期。期。主成分用于成因分析:主成分用于成因分析:zf4o王冬:王冬:我国外汇储备增长因素主成分分析我国外汇储备增长因素主成分分析,北京北京工商大学学报工商大学学报( 社会科学版社会科学版), 2006年年4期。期。主成分回归分析:主成分回归分析:主成分用于判别分析等统计方法中主成分用于判别分析等统计方法中zf5o多个指标的问题多个指标的问题: :v1 1、指标与指标可能存在相关关系指标与指标可能存在相关关系 信息重叠,分析偏误信息重叠,分析偏误v2 2、指标太多,增加问题的指标太多,增加问题的复杂性复杂性和和分析难度分析难度 如何避免?如何避
3、免?zf6主成分分析的基本思想主成分分析的基本思想 一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据,得到了17个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。在进行主成分分析后,竟以97.4的精度,用三新变量就取代了原17个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。zf7v更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素
4、做相关分析,得到下表: F1F1F2F2F3F3i ii it tF1F11 1 F2F20 01 1 F3F30 00 01 1 i i0.9950.995-0.041-0.0410.0570.057l l i i-0.056-0.0560.9480.948-0.124-0.124-0.102-0.102l l t t-0.369-0.369-0.282-0.282 -0.836-0.836-0.414-0.414-0.112-0.1121 1zf8主成分分析:主成分分析:将原来具有相关关系的多个指标简化为少数几个将原来具有相关关系的多个指标简化为少数几个新的综合指标的多元统计方法。新的综合
5、指标的多元统计方法。主成分:主成分:由原始指标综合形成的几个新指标。依据主成分所含由原始指标综合形成的几个新指标。依据主成分所含信息量的大小成为第一主成分,第二主成分等等。信息量的大小成为第一主成分,第二主成分等等。主成分与原始变量之间的关系主成分与原始变量之间的关系: (1 1)主成分保留了原始变量绝大多数信息。)主成分保留了原始变量绝大多数信息。 (2 2)主成分的个数大大少于原始变量的数目。)主成分的个数大大少于原始变量的数目。 (3 3)各个主成分之间互不相关。)各个主成分之间互不相关。 (4 4)每个主成分都是原始变量的线性组合。)每个主成分都是原始变量的线性组合。zf9主成分分析通
6、常的做法:寻求原指标的线性组合主成分分析通常的做法:寻求原指标的线性组合Fi。ppppppppppXuXuXuFXuXuXuFXuXuXuF22112222121212121111AXXXXuuuuuuuuuFPpppppp21212222111211数学模型主成分表达式数学模型主成分表达式zf10v假设有n个样品,每个样品有两个观测变量xl和x2,在由变量xl和x2 所确定的二维平面中,n个样本点所散布的情况如椭圆状。如图所示:几何解释坐标旋转变换几何解释坐标旋转变换2F1F1x2x平移、旋转坐标轴zf112x1x1F2F平移、旋转坐标轴zf122x1x1F2F 平移、旋转坐标轴zf13v由
7、图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性,其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然,如果只考虑xl和x2 中的任何一个,那么包含在原始数据中的经济信息将会有较大的损失。v如果我们将xl 轴和x2轴先平移,再同时按逆时针方向旋转角度,得到新坐标轴Fl和F2。Fl和F2是两个新变量。Fl轴方向上的离散程度最大,即轴方向上的离散程度最大,即Fl的方差最大。说明变量的方差最大。说明变量Fl代表了原始代表了原始数据的绝大部分信息,即使不考虑变量数据的绝大部分信息,即使不考虑变量F2也无损大局。也无损大局。zf14v旋转变换的目的:旋转变换
8、的目的:将原始数据的大部分信息集中到将原始数据的大部分信息集中到Fl轴上,对轴上,对数据中包含的信息起到了浓缩作用。数据中包含的信息起到了浓缩作用。v主成分分析的主成分分析的几何意义几何意义:主成分分析的过程也就是坐标旋转的:主成分分析的过程也就是坐标旋转的过程,各主成分表达式就是新坐标系与原坐标系的转换关系,过程,各主成分表达式就是新坐标系与原坐标系的转换关系,新坐标系中各坐标轴的方向就是原始数据方差最大的方向。新坐标系中各坐标轴的方向就是原始数据方差最大的方向。其优点:其优点:(1)可达到简化数据结构的目的。()可达到简化数据结构的目的。(2)新产生的综合变量)新产生的综合变量Fl,F2具
9、有不相关的性质,从而避免了信息重叠所带来的虚假性。具有不相关的性质,从而避免了信息重叠所带来的虚假性。zf15 了解了主成分分析的基本思想、数学和几何意义后,问题的关键:1 1、如何求解主成分?、如何求解主成分? 2 2、如何确定主成分个数?、如何确定主成分个数? 3 3、如何解释主成分所包含的经济意义?、如何解释主成分所包含的经济意义?zf16如何求解主成分?如何求解主成分? (1 1)基于协方差矩阵求解主成分)基于协方差矩阵求解主成分v假设有n个样本,每个样本有 p 个观测变量。运用主成分分析构造以下 p 个主成分关于原始变量的线性组合模型:pppppppppxaxaxaFpxaxaxaF
10、xaxaxaF22112222121121211121AXXXXaaaaaaaaaFPpppppp21212222111211zf17v假设假设p个原始变量的协方差阵为个原始变量的协方差阵为:PPPPPPX212222111211; 0,;,2231132112212211且不全为对角线外的元素的方差分别代表对角线上的元素pppppxxx对角线外的元素不为对角线外的元素不为0 0意味着:原始变量之意味着:原始变量之间有相关关系间有相关关系zf18如何运用主成分分析将这些具有相关关系的变量转化为如何运用主成分分析将这些具有相关关系的变量转化为没有相关关系的新变量(主成分)呢?没有相关关系的新变量
11、(主成分)呢?新变量(即主成分)之间没有相关关系,其协方差阵为新变量(即主成分)之间没有相关关系,其协方差阵为对角矩阵对角矩阵:p001对角线上的元素对角线上的元素1、2p分别为第一、分别为第一、二二第第p个主成分方个主成分方差;同时也是原始变差;同时也是原始变量协方差阵的特征根量协方差阵的特征根主成分表达式的系数项即主成分表达式的系数项即是是1、2p的特征向量的特征向量zf19v1、主成分的协方差阵为对角矩阵;、主成分的协方差阵为对角矩阵;v2、v3、 v4、 第第j个主成分的方差贡献为个主成分的方差贡献为: ., 2 , 1,21pjpjpiiFVar321),()()()()()(321
12、321xpptrXVarXVarXVarXVar主成分包含主成分包含了原始变量了原始变量的所有信息的所有信息协方差矩阵求解中主成分的性质协方差矩阵求解中主成分的性质该比率为第该比率为第j个主成分方差与原个主成分方差与原始变量的总方差之比。始变量的总方差之比。zf20 k 个主成分的累积方差贡献率为: 累积方差贡献率越接近1,表示k 个主成分包含原始变量的信息越多。v5. 主成分载荷:主成分载荷:v6. 主成分Fj与原始变量Xi相关系数的平方: (1)可看作为第j 个主成分可解释Xi多少比率的信息 (2)可看作为Xi在第j 个主成分中的相对重要性iijijjiijijjiaaFx),(iijij
13、Fxaji2),(2.,2121pkpkzf21主成分的求解主成分的求解 (2 2)基于相关系数矩阵求解主成分基于相关系数矩阵求解主成分v假设假设p个原始变量的相关系数矩阵阵为个原始变量的相关系数矩阵阵为:v注意(注意(1 1): :相关系数矩阵可看作原始变量协方差阵的标准化形相关系数矩阵可看作原始变量协方差阵的标准化形式,式,即:即:原始变量原始变量标准化的协方差矩阵。标准化的协方差矩阵。v注意(注意(2 2): :运用主成分分析法时,若原始变量量纲不一致时,运用主成分分析法时,若原始变量量纲不一致时,需对变量进行标准化处理基于协方差阵求解主成分;若不标准需对变量进行标准化处理基于协方差阵求
14、解主成分;若不标准化则基于相关系数矩阵求解主成分。化则基于相关系数矩阵求解主成分。11121221112212222111211ppppppppppjjiijixxxxji),cov(),(对角线外元素不对角线外元素不全为全为0 0:原始变量原始变量间有相关关系间有相关关系zf22转化形成的没有相关关系的新变量(即主成分)的协方转化形成的没有相关关系的新变量(即主成分)的协方差阵为差阵为对角矩阵对角矩阵:p001对角线上的元素对角线上的元素1 1、2 2p p分别为分别为第一、二第一、二第第p p个主成分方差;同时个主成分方差;同时也是原始变量相关系也是原始变量相关系数矩阵的特征根数矩阵的特征
15、根主成分表达式的系数项即主成分表达式的系数项即是是1、2p的特征向量的特征向量zf23相关系数矩阵求解中主成分的性质相关系数矩阵求解中主成分的性质v1、主成分的协方差矩阵为对角阵、主成分的协方差矩阵为对角阵.v2.v3、v4、第、第k个主成分的方差贡献率为:个主成分的方差贡献率为: 前前k个主成分的累积方差贡献率为:个主成分的累积方差贡献率为:v5、主成分载荷:、主成分载荷: v6、主成分载荷的平方:、主成分载荷的平方:*),(jijjiaFx*22),(jijFxajipk/)(*1*3*2*1*),(piithenFVarLetpXVarXVarXVarXVarpp)()()()(321*
16、3*2*1pk/*在解释第在解释第j个主个主成分的意义上成分的意义上起着重要作用起着重要作用 (1)可看作为第)可看作为第j 个主成分可解释个主成分可解释Xi多少比率的信息(或:多少比率的信息(或: Xi 的信息有多的信息有多少可被第少可被第j个主成分解释个主成分解释);); (2)可看作为)可看作为Xi在第在第j 个主成分中的相对重要性。个主成分中的相对重要性。zf24主成分个数的确定主成分个数的确定累积方差贡献率(累积方差贡献率( Cumulative variance explained by components ): 通常要求累积方差贡献率达到通常要求累积方差贡献率达到85%以上以上
17、来确定主成分个数。来确定主成分个数。 特征根(特征根(eigenvalue):根据特征根来确定根据特征根来确定 ; 数数据标准化情况下:据标准化情况下: v碎石图(碎石图(Scree plot):):依据依据特征值的变化来确定,即特特征值的变化来确定,即特征值征值变化趋势图由陡坡变为平坦的转折点即为主成分选变化趋势图由陡坡变为平坦的转折点即为主成分选择的最佳个数。择的最佳个数。i111piiipzf25主成分的解释主成分的解释v运用主成分载荷解释主成分:运用主成分载荷解释主成分: 陈耀辉,景睿沪深股市市场收益率成因的主成份分析,南京航陈耀辉,景睿沪深股市市场收益率成因的主成份分析,南京航空航天
18、大学学报,空航天大学学报,20002000年年2 2期。期。 蒋亮,罗汉我国东西部城市经济实力比较的主成分分析,经济蒋亮,罗汉我国东西部城市经济实力比较的主成分分析,经济数学,数学,20032003年年3 3期。期。v运用主成分得分系数矩阵解释主成分:运用主成分得分系数矩阵解释主成分: 王冬我国外汇储备增长因素主成分分析,北京工商大学学报,王冬我国外汇储备增长因素主成分分析,北京工商大学学报,20062006年年4 4期。期。 田波平等主成分分析在中国上市公司综合评价中的作用,数学田波平等主成分分析在中国上市公司综合评价中的作用,数学的实践与认识,的实践与认识,20042004年年4 4期期z
19、f26v基于相关系数矩阵的主成分分析。对美国纽约上市的有关化学产业的三支股票基于相关系数矩阵的主成分分析。对美国纽约上市的有关化学产业的三支股票(Allied Chemical, du Pont, Union Carbide)和石油产业的和石油产业的2支股票支股票(Exxon and Texaco )做了做了100周的收益率调查(周的收益率调查(1975年年1月月1976年年10月)。月)。 1)利用相关系数矩阵做主成分分析。)利用相关系数矩阵做主成分分析。 2)决定要保留的主成分个数,并解释意义。)决定要保留的主成分个数,并解释意义。主成分解释的案例分析主成分解释的案例分析zf27o(1)
20、(1) 相关系数矩阵:相关系数矩阵:10.5770.5090.3870.4620.57710.5990.3890.3220.5090.59910.4360.4260.3870.3890.43610.5230.4620.3220.4260.5231运用主成分分析法进行分析得到以下结果:运用主成分分析法进行分析得到以下结果:zf28p(2 2)相关系数矩阵的特征根:)相关系数矩阵的特征根: Eigenvalues of the Correlation Matrix Eigenvalue Difference Proportion Cumulative PRIN1 2.85671 2.04755 0
21、.571342 0.57134 PRIN2 0.80916 0.26949 0.161833 0.73317 PRIN3 0.53968 0.08818 0.107935 0.84111 PRIN4 0.45150 0.10855 0.090300 0.93141 PRIN5 0.34295 . 0.068590 1.00000p(3 3)特征根所对应的特征向量:)特征根所对应的特征向量: Eigenvectors PRIN1 PRIN2 PRIN3 PRIN4 PRIN5 X1 0.463605 -.240339 -.611705 0.386635 -.451262 X2 0.457108
22、-.509305 0.178189 0.206474 0.676223 X3 0.470176 -.260448 0.335056 -.662445 -.400007 X4 0.421459 0.525665 0.540763 0.472006 -.175599 X5 0.421224 0.581970 -.435176 -.382439 0.385024zf29p(4 4)前两大主成分的累积方差贡献率:)前两大主成分的累积方差贡献率:p(5 5)前两大主成分的表达式:)前两大主成分的表达式:zf30 p(6 6)碎石图:)碎石图:zf31v主成分的解释:主成分的解释: 1、第一大主成分PRI
23、N1几乎是5只股票的等权平均;可将它看做股票收益率的“市场影响因素” (market component) 2、第二大主成分PRIN2 系数在AC, DP, UC (chemical stocks) 等3只股票上表现为负,而在 EX, TE (oil stocks)等两只股票的系数表现为正; 可将它看作为股票收益率的“行业影响因素”(industry component)zf32主成分分析步骤及框图主成分分析步骤及框图主成分分析步骤:主成分分析步骤:1.1.根据研究问题选取初始分析变量;根据研究问题选取初始分析变量;2.2.根据初始变量特性判断由协方差阵求主成分还是由相关阵求根据初始变量特性判
24、断由协方差阵求主成分还是由相关阵求主成分;主成分;3.3.求协差阵或相关阵的特征根与相应标准特征向量;求协差阵或相关阵的特征根与相应标准特征向量;4.4.判断是否存在明显的多重共线性,若存在,则回到第一步;判断是否存在明显的多重共线性,若存在,则回到第一步;5.5.得到主成分的表达式并确定主成分个数,选取主成分;得到主成分的表达式并确定主成分个数,选取主成分;6.6.结合主成分对研究问题进行分析并深入研究。结合主成分对研究问题进行分析并深入研究。zf33主成分分析框图:主成分分析框图:特征值特征值标准正交特征向量标准正交特征向量是否有接近是否有接近0 0的情况的情况是是其他处理其他处理否否主成
25、分主成分对主成分进行分析对主成分进行分析深入分析深入分析选择初始变量选择初始变量 度量或取值度量或取值范围相同?范围相同?是是否否(否)(否)对比对比分析相关阵分析相关阵分析协方差阵分析协方差阵 zf34主成分分析的上机实现主成分分析的上机实现SPSSSPSS 操作操作1、analyze-description statistic-description-save standardized as variables (若需要数据标准化,则进行该操作,一般在主成分分若需要数据标准化,则进行该操作,一般在主成分分析过程中软件已自动进行了此操作)析过程中软件已自动进行了此操作)2、analyze-d
26、ata reduction-Factor3、指定参与分析的变量指定参与分析的变量4、运行、运行factor 过程过程zf35o案例案例1:某分析师试图对汽车销量进行预测,选择了汽车某分析师试图对汽车销量进行预测,选择了汽车品牌、汽车外观、油耗等品牌、汽车外观、油耗等10个个 变量作为影响变量(即变量作为影响变量(即自变量)自变量) (见数据(见数据car_sales.sav) 。但是,这些影响变。但是,这些影响变量之间存在相关关系,分析师担心直接进行回归预测会量之间存在相关关系,分析师担心直接进行回归预测会引起分析结果偏误。引起分析结果偏误。 分析师首先对分析师首先对10个影响变量进行主成分分
27、析,将其转个影响变量进行主成分分析,将其转化少数几个无相关关系的新变量。化少数几个无相关关系的新变量。 (1)可用新变量与销量进行回归预测)可用新变量与销量进行回归预测 (2)依据新变量,对各品牌汽车进行评价)依据新变量,对各品牌汽车进行评价zf36 选选SPSS 分析分析Analyze菜单中的(降维菜单中的(降维Data Reduction)(Factor),出现【因子分析出现【因子分析 Factor Analysis】对话框;对话框;在【在【 因子因子Factor Analysis】对话框中左边的原始变量中,对话框中左边的原始变量中,选择将进行因子分析的变量选入(变量选择将进行因子分析的变
28、量选入(变量Variables)栏。栏。zf37在【在【 Factor Analysis】框中选【框中选【 描述描述Descriptives】按钮,出按钮,出现【现【 描述统计描述统计Descriptives 】对话框;对话框;选择选择原始分析结果原始分析结果 Initial solution 选项选项选择选择系数系数Coefficients 选项选项点击(继续点击(继续Contiue)按钮确定。按钮确定。显示相关系数矩阵:检验显示相关系数矩阵:检验原始变量有无相关关系原始变量有无相关关系显示显示共同度表共同度表,反映每个,反映每个原始变量的信息有多少被原始变量的信息有多少被新变量提取了新变量
29、提取了zf38zf39主成分分析前提条件主成分分析前提条件相关性分析:相关性分析:分析方法主要有:分析方法主要有:1)计算相关系数矩阵)计算相关系数矩阵(correlation coefficients matrix) 如果相关系数矩阵中的大部分相关系数值均小于如果相关系数矩阵中的大部分相关系数值均小于0.3,即各,即各变量间大多为弱相关,原则上这些变量不适合进行因子分析。变量间大多为弱相关,原则上这些变量不适合进行因子分析。2)计算反映象相关矩阵)计算反映象相关矩阵(Anti-image correlation matrix) 如果其主对角线外的元素大多绝对值较小,对角线上的元素如果其主对角
30、线外的元素大多绝对值较小,对角线上的元素值较接近值较接近1,则说明这些变量的相关性较强,适合进行因子分,则说明这些变量的相关性较强,适合进行因子分析。析。zf40 其中主对角线上的元素为某变量的其中主对角线上的元素为某变量的MSA(Measure of Sample Adequacy): 是变量是变量 和变量和变量 ( )间的简单相关系数;)间的简单相关系数; 是变量是变量 和变量和变量 ( )在控制了其他变量影响下的)在控制了其他变量影响下的偏相关系数,即净相关系数。偏相关系数,即净相关系数。 取值在取值在0和和1之间,越接之间,越接近近1,意味着变量,意味着变量 与其他变量间的相关性越强,
31、越接近与其他变量间的相关性越强,越接近0则相关性越弱。则相关性越弱。ijijijijijijiprrMSA222ijrixjxijijpixjxijiMSAixzf413)巴特利特球度检验()巴特利特球度检验(Bartlett test of sphericity) 该检验以原有变量的相关系数矩阵为出发点,其零假设该检验以原有变量的相关系数矩阵为出发点,其零假设H0是:是:相关系数矩阵为单位矩阵,即相关系数矩阵主对角元素均为相关系数矩阵为单位矩阵,即相关系数矩阵主对角元素均为1,非主对角元素均为非主对角元素均为0。(即。(即原始变量之间无相关关系原始变量之间无相关关系)。)。 依据相关系数矩阵
32、的行列式计算可得其近似服从卡方分布。如依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果统计量卡方值较大且对应的果统计量卡方值较大且对应的sig值小于给定的显著性水平值小于给定的显著性水平a时,时,零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,变零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,变量之间存在相关关系,适合做因子分析。量之间存在相关关系,适合做因子分析。zf424)KMO(Kaiser-Meyer-Olkin)检验检验 KMO检验的统计量是用于比较变量间简单相关系数矩阵和偏检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标,数学定义为:相关系数的指标,数
33、学定义为: KMO与与MSA区别是它将相关系数矩阵中的所有元素都加入到区别是它将相关系数矩阵中的所有元素都加入到了平方和计算中。了平方和计算中。KMO值越接近值越接近1,意味着变量间的相关性越,意味着变量间的相关性越强,原有变量适合做因子分析;越接近强,原有变量适合做因子分析;越接近0,意味变量间的相关,意味变量间的相关性越弱,越不适合作因子分析。性越弱,越不适合作因子分析。 Kaiser给出的给出的KMO度量标准:度量标准:0.9以上非常适合;以上非常适合;0.8表示适合;表示适合;0.7表示一般;表示一般;0.6表示不太适表示不太适合;合;0.5以下表示极不适合。以下表示极不适合。 iji
34、jijijijijiprrKMO222zf43 在【在【 因子分析因子分析Factor Analysis】框中点击【抽取框中点击【抽取Extraction】按钮按钮,出现【出现【 因因子分析:抽取子分析:抽取Factor Analysis:Extraction】对话框;对话框;在在方法方法Method 栏中选择(主成分栏中选择(主成分Principal components)选项;选项;在分析在分析Analyze 栏中选择栏中选择相关性矩阵相关性矩阵Correlation matrix选项(基于相关选项(基于相关系数求解主成分);系数求解主成分);在在输出输出Display 栏中选择栏中选择未
35、旋转的因子解未旋转的因子解Unrotated factor solution选项选项(主成分载荷矩阵);(主成分载荷矩阵);在在抽取抽取Extract 栏中选择栏中选择基于特征根基于特征根Eigenvalues over 并填上并填上 1 (依据(依据特征根大于特征根大于1的原则提取主成分);的原则提取主成分);点击(继续点击(继续Continue)按钮确定,回到【按钮确定,回到【 因子分析因子分析Factor Analysis】对话框对话框中。中。zf44zf45 在【因子分析在【因子分析 Factor Analysis】对话框中,点击【得分对话框中,点击【得分Scores】按钮,出现按钮,
36、出现 【 因子分析:因子得分因子分析:因子得分Factor Analysis: Scores 对话框。对话框。 选择选择保存为变量保存为变量save as variable(将新变量得分值保存到将新变量得分值保存到数据文件数据文件)。)。 选择选择display factor score coefficient matrix(显示主成分表达式的系显示主成分表达式的系数矩阵数矩阵) 点击(继续点击(继续Contiue)按钮确定,回到【因子分析按钮确定,回到【因子分析 Factor Analysis】对话框。对话框。zf46zf47在【在【 因子分析因子分析Factor Analysis】对话框中
37、,单击【选项对话框中,单击【选项Options】按按钮,出现钮,出现 【因子分析:选项【因子分析:选项 Factor Analysis:Options 对话框。对话框。缺失值缺失值Missing Values 栏中的栏中的Exclude cases listwise按列表排除个按列表排除个案案Coefficient Display Format(系数显示格式系数显示格式) 中的中的按大小排序按大小排序Sorted by size表示依据主成分(因子)载荷量排序;表示依据主成分(因子)载荷量排序; “取消小系数取消小系数Suppress absolute values less than”,默认
38、为默认为0.1;表示列示所有载荷量大;表示列示所有载荷量大于于0.1的载荷系数。的载荷系数。zf48zf49分析结果:分析结果:1.1.描述性统计描述性统计均值、标准差等的描述均值、标准差等的描述Descriptive Statistics Vehicle type.26.442152Price in thousands27.3318214.418669152Engine size3.0491.0498152Horsepower184.8156.823152Wheelbase107.4147.7178152Width71.0893.4647152Length187.05913.4712152C
39、urb weight3.37618.636593152Fuel capacity17.9593.9376152 MeanStd. DeviationAnalysis NFuel efficiency23.844.305152zf502.2.相关系数矩阵相关系数矩阵描述原始变量之间是否存在相关关系描述原始变量之间是否存在相关关系Correlation Matrix1.000-.042.269.017.397.260.150.526.599-.577-.0421.000.624.841.108.328.155.527.424-.492.269.6241.000.837.473.692.542.76
40、1.667-.737.017.841.8371.000.282.535.385.611.505-.616.397.108.473.2821.000.681.840.651.657-.497.260.328.692.535.6811.000.706.723.663-.602.150.155.542.385.840.7061.000.629.571-.448.526.527.761.611.651.723.6291.000.865-.820.599.424.667.505.657.663.571.8651.000-.802-.577-.492-.737-.616-.497-.602-.448-.8
41、20-.8021.000Vehicle typePrice in thousandsEngine sizeHorsepowerWheelbaseWidthLengthCurb weightFuel capacityFuel efficiencyCorrelationVehicle typePrice inthousandsEngine sizeHorsepowerWheelbaseWidthLengthCurb weightFuel capacityFuel efficiency相关系数矩阵众对角线外的元素不全为相关系数矩阵众对角线外的元素不全为0 0,而且很,而且很多的相关系数大于多的相关系
42、数大于0.50.5,这表明原始变量之间有相,这表明原始变量之间有相关关系,适合进行主成分分析。关关系,适合进行主成分分析。zf513.3.共同度表共同度表CommunalitiesVehicle type1.000.930Price in thousands1.000.876Engine size1.000.843Horsepower1.000.933Wheelbase1.000.881Width1.000.776Length1.000.919Curb weight1.000.891Fuel capacity1.000.861 InitialExtractionFuel efficiency1
43、.000.860Extraction Method: Principal Component Analysis. Communalities(共同度)(共同度) :每个原始变量的变异(信息)每个原始变量的变异(信息)有多少可被主成分解释有多少可被主成分解释. Initial :每个原始变量的变异每个原始变量的变异(信息(信息)有多少可被所有的主)有多少可被所有的主成分解释。基于相关系数进行成分解释。基于相关系数进行分析时,分析时,该值都为该值都为1。 Extraction:每个原始变量的每个原始变量的信息有多少被提取的主成分给信息有多少被提取的主成分给提取了。(提取的主成分包含提取了。(提取的
44、主成分包含了每个原始变量的信息多少)了每个原始变量的信息多少)如果共同度中如果共同度中extraction值越高,这意味着提取的主成分能很好值越高,这意味着提取的主成分能很好的代表原始变量。如果的代表原始变量。如果extraction值很低,我们则需要再提取一值很低,我们则需要再提取一个或多个主成分个或多个主成分0.930,0.876 分别代表原分别代表原始变量始变量vehicle type和和price等有等有93%和和87.6%被我们提被我们提取的主成分提取了。取的主成分提取了。基于协方差进行基于协方差进行分析时,分析时, 每个变每个变量的量的Initial 又是又是如何呢如何呢?zf52
45、4.4.碎石图(陡坡检查)碎石图(陡坡检查)除去坡线平坦部分的主成分(因子)除去坡线平坦部分的主成分(因子)图中第三个因子以后较为平坦,故保留图中第三个因子以后较为平坦,故保留3 3个因子个因子Scree PlotComponent Number10987654321Eigenvalue76543210 碎石图有助于我们确定最优的主成分碎石图有助于我们确定最优的主成分个数。横轴代表第几主成分,纵轴代表相个数。横轴代表第几主成分,纵轴代表相应主成分的特征值(方差)。应主成分的特征值(方差)。 通常,提取碎石图较为陡峭部分的主通常,提取碎石图较为陡峭部分的主成分;成分; 斜坡处的主成分的方差贡献较
46、小,不斜坡处的主成分的方差贡献较小,不考虑,原始变量的信息遗漏也较少。考虑,原始变量的信息遗漏也较少。陡坡与斜坡的转折点在第陡坡与斜坡的转折点在第3 3和第和第4 4主主成分之间,从第成分之间,从第4 4至第至第1010主成分的主成分的方差很小且差别不大,所以该例提方差很小且差别不大,所以该例提取取3 3个主成分较为合适。个主成分较为合适。 zf535.方差贡献率表方差贡献率表 取特征值大于取特征值大于 1 的因子,共有的因子,共有3 个,分别(个,分别(5.994)()(1.654)()(1.123); 方差贡献率分别为(方差贡献率分别为(59.94%)()(16.54%)()(11.23%
47、)Total variance explained Extraction Method: Principal Component Analysis. 15.99459.93859.9385.99459.93859.93821.65416.54576.4821.65416.54576.48231.12311.22787.7091.12311.22787.7094.3393.38991.098 5.2542.54193.640 6.1991.99495.633 7.1551.54797.181 8.1301.29998.480 9.091.90599.385 ComponentInitial Ei
48、genvaluesExtraction Sums of Squared LoadingsTotal% of VarianceCumulative %Total% of VarianceCumulative %10.061.615100.000 Total这栏给出的是特征根,即每个这栏给出的是特征根,即每个主成分的方差(或者说,所有原始主成分的方差(或者说,所有原始变量的信息有多少落到各个主成分变量的信息有多少落到各个主成分上去)上去). % of Variance 这栏代表主成分的方这栏代表主成分的方差贡献率,即每个主成分方差占原差贡献率,即每个主成分方差占原始变量总方差的比率始变量总方差的比
49、率. Cumulative %这栏代表累积方差贡这栏代表累积方差贡献率献率 ,即为前,即为前 n 个主成分的方差贡个主成分的方差贡献率之和。如累积贡献率献率之和。如累积贡献率76.482%=第一主成分的方差贡献第一主成分的方差贡献59.938%+第第二主成分的方差贡献二主成分的方差贡献16.545. 原始变量有原始变量有1010个,提取了个,提取了1010个主成分,且个主成分,且1010个主成分的方差之和个主成分的方差之和 = 10= 10个原始个原始变量的方差之和;依据特征根大于变量的方差之和;依据特征根大于1 1,我们提取了,我们提取了3 3个主成分。个主成分。zf546.6.主成分(因子
50、载荷)矩阵表主成分(因子载荷)矩阵表 Component Matrix(a)Vehicle type.471.533-.651Price in thousands.580-.729-.092Engine size.871-.290.018Horsepower.740-.618.058Wheelbase.732.480.340Width.821.114.298Length.719.304.556Curb weight.934.063-.121Fuel capacity.885.184-.210 Component123Fuel efficiency-.863.004.339Extraction