《主成分分析在数学建模中的应用.doc》由会员分享，可在线阅读，更多相关《主成分分析在数学建模中的应用.doc（11页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第一讲 主成分分析在数学建模中的应用1学习目的1.理解主成分分析的基本思想；2.会用SAS软件编写相关程序，对相关数据进行主成分分析；3.会用SAS软件编程结合主成分分析方法解决实际问题。2学习要求1.理解主成分分析的基本原理，掌握主成分分析的基本步骤；2.会用SAS软件编写相关程序，对相关数据进行分析处理和假设检验；3.撰写不少于3000字的小论文；4. 精读一篇优秀论文。3. 理论基础3. 1基本思想 在实际问题的研究中，往往会涉与众多的变量。但是，变量太多不但会增加计算的复杂性，而且也给合理地分析问题和解释问题带来困难。一般来说，虽然每个变量提供了一定的信息，但其重要性有所不同，而在很多
2、情况下，变量间有一定的相关性，从而使得这些变量所提供的信息在一定程度上有所重叠。因而人们希望对这些变量加以“改造”，用为数较少的互不相关的新变量来反映原来变量所提供的绝大部分信息，通过对新变量的分析达到解决问题的目的。主成分分析就是在这种降维的思想下产生的处理高维数据的方法。3.2 基本原理（1）.总体的主成分定义1.设为P维随机向量，称为X的第i主成分（i=1,2,P），如果： (1) (2) 当i1时， (3)定理1.设是P维随机向量，且，的特征值为，为相应的单位正交特征向量，则X的第i主成分为定义2.我们称为主成分的贡献率；又称为主成分的累计贡献率。记，其中为的特征值，是相应的单位正交特
3、征向量，记正交矩阵主成分，其中则总体主成分有如下的性质：性质1.，即P个主成分的方差为：，且它们是互不相关的。性质2.，通常称为原总体X的总方差（或称总惯量）。性质3.主成分与原始变量的相关系数为并把主成分与原始变量的相关系数称为因子负荷量。性质4.。性质5.若记，即令这时标准化后的随机向量的协方差阵就是原随机向量X的相关阵R。从相关阵R出发求主成分，记主成分向量为，则有与总体主成分相应的性质：性质1.，其中为相关矩阵R的特征值。性质2.性质3.主成分与标准化变量的相关系数为，其中是R对应于的单位正交特征向量。性质4.性质5.。2.样本的主成分定义1.设变量的n次观测数据阵X已标准化，这时样本
4、的协方差阵就是样本相关阵R，且R的特征值为，其相应标准化特征向量为，样本主成分为 类似总体主成分，样本主成分也具有如下的性质：性质1.（因为0），而上式说明当时，第i个主成分得分向量与第j个主成分得分向量是相互正交的。性质2.。称为样本主成分的贡献率；又称为样本主成分的累计贡献率。性质3.样本主成分具有是残差平方和最小的优良性。3.3基本步骤 数据标准化其中，为第列的方差； 计算协方差矩阵； 计算协方差矩阵的特征值与特征向量；利用特征方程求出按大小排列特征值以与相应的特征向量； 选择前几个特征向量，确定主成分；3.4 基本命令使用proc princomp过程进行主成分分析，其主要语句格式如下
5、：Proc princomp ；Var 变量列表；Run；其中：（1）Proc princomp语句用来规定输入、输出和一些运行选项，其选项与功能如下：data=数据集名1：指明所要分析的数据集，若省略则表示分析最新生成的数据集。out=数据集名2：命名一个输出SAS数据集，其中包含原始数据以与各主成分得分（即各主成分的观测值）。outstat=数据集名3：命名一个包含各变量的均值、标准差、相关矩阵或协方差矩阵、特征值和特征向量的SAS数据集。covariance(cov)：要求从协方差矩阵出发作主成分分析，若省略此选项，则从相关矩阵出发进行分析；除非各变量的度量单位是可比较的或已经过某种方式
6、的标准化，否则不宜使用此选项，应从相关矩阵出发作主成分分析。N=n：指定要计算的主成分的个数，其默认值为参与分析的变量的个数。prefix=name：规定各主成分名称的前缀。省略此句则SAS系统自动赋予各主成分名称分别为prin1,prin2,；若“name=A”，则各主成分名称分别为A1，A2，前缀的字符个数加上后面数字位数应不超过8个字符。（2）VAR variables;此句中的“variables”部分列出数据集中参与主成分分析的变量名称。若省略此句，则被分析数据集中所有数值变量均参与分析。4举例【例1】 (中学生身体四项指标的主成分分析) 在某中学随机抽取某年级30名学生，测量其身高
7、（X1）、体重（X2）、胸围（X3）和坐高（X4），（数据见教材P277的表7.4）。试对这30名学生体四项指标数据做主成分分析。data d721;input number x1-x4 ;cards;1 148 41 72 78 2 139 34 71 763 160 49 77 86 4 149 36 67 795 159 45 80 86 6 142 31 66 767 153 43 76 83 8 150 43 77 799 151 42 77 80 10 139 31 68 7411 140 29 64 74 12 161 47 78 8413 158 49 78 83 14 140
8、 33 67 7715 137 31 66 73 16 152 35 73 7917 149 47 82 79 18 145 35 70 7719 160 47 74 87 20 156 44 78 8521 151 42 73 82 22 147 38 73 7823 157 39 68 80 24 147 30 65 7525 157 48 80 88 26 151 36 74 8027 144 36 68 76 28 141 30 67 7629 139 32 68 73 30 148 38 70 78;procprincompdata=d721 prefix=z out=o721 ;v
9、ar x1-x4;run;options ps=32 ls=85;procplotdata=o721;plot z2*z1 $ number=*/href=-1href=2vref=0;run;procsortdata=o721;by z1;run;procprintdata=o721;var number z1 z2 x1-x4;run;quit;由PRINCOMP过程由相关阵出发进行主成分分析。由下面的相关阵来看， 指标之间存在着严重的共线关系，就要用主成分的方法进行降维（也就是说用较少的指标就能很好衡量学生的身体基本情况。从相关阵的特征直来看，第一主成分的贡献率已高达88.53%，且前两
10、个主成分的累计贡献率已高达96.36%，因此只需用两个主成分就能很好地概括这组数据。另由第四个特征值近似为0，可以看出这4个标准化后的身体指标变量有近似的共线性。由最大的两个特征值对应的特征向量可以写出第一和第二主成分：利用特征向量的值对各个主成分进行分析。第一主成分特征值对应的第一个特征向量的各个分量均在0.5附近，而且都是正值，它反映学生的魁梧程度。身体高大的学生，他的4个部位的尺度都比较大；而身体矮小的学生，他的4个部位的尺寸都比较小。因此我们可以称第一主成分为大小因子。第二大特征值对应的特征向量中第一和第四个分量均为负值，其它的都为正值，它反映学生的胖瘦情况，可称为形态因子。从第二主成
11、分得分对第一主成分得分的散布图看，很直观地看出，按学生的身体指标尺寸，这30名学生大约分三组（以第一主成分得分值为-1和2为分界点）。每一组包括哪几名学生可由每一给散点旁边的序号可以得知。5训练题5.1用主成分分析方法探讨城市工业主体结构。表1是某市工业部门13个行业8项指标的数据。表1 某市工业部门13个行业8项指标的数据年末固定资产净值（万元）职工人数（人）工业总产值（万元）全员劳动产率（元/人年）百元固定原资产值实现产值（元）资金利税率（）标准燃料消费量（吨）能源利用效果（万元/吨）1(冶金)90342524551010911927282.00016.1001974350.1722(电力
12、)4903197320351031334.2007.1005920770.0033(煤炭)6735211393767178036.1008.2007263960.0034(化学)4945436241815572250498.10025.9003482260.9855(机械)1391902035052158981060993.20012.6001395720.6286(建材)122151621910351638262.5008.7001458180.0667(森工)23726572810312329184.40022.200209210.1528(食品)110622307854935238043
13、70.40041.000654860.2639(纺织)17111239075210821796221.50021.500638060.27610(缝纫)12063930612615586330.40029.50018400.43711(皮革)21505704620010870184.20012.00089130.27412(造纸)525161551038316875146.40027.500787960.15113(文教艺术用品)1434113203193961469194.60017.80063541.574（1） 试用主成分分析方法确定8项指标的样本主成分（综合变量）；若要求损失信息不超过
14、15，应取几个主成分；并对这几个主成分进行解释；（2） 利用主成分得分对13个行业进行排序和分类。5.2 某市为了全面分析机械类各企业的经济效益，选择了8个不同的利润指标，14家企业关于这8个指标的统计数据如表3所示。试进行主成分分析，并对所选取的主成分作出解释。表2 14家企业的利润指标的统计数据 变量企业号净产值利润率固定资产利润率总产值利润率销售收入利润率产品成本利润率物耗利润率人均利润率流动资金利润率140.424.77.26.18.38.72.44220.0225.012.711.211.012.920.23.5429.1313.23.33.94.34.45.50.5783.6422
15、.36.75.63.76.07.40.1767.3534.311.87.17.18.08.91.72627.5635.612.516.416.722.829.33.01726.6722.07.89.910.212.617.60.84710.6848.413.410.99.910.913.91.77217.8940.619.119.819.029.739.62.44935.81024.88.09.88.911.916.20.78913.71112.59.74.24.24.66.50.8743.9121.80.60.70.70.81.10.0561.01332.313.99.48.39.813.3
16、2.12617.11438.59.111.39.512.216.41.32711.6【模型一】 美国各种类型犯罪的主成分模型根据美国各个州的各种类型犯罪的犯罪率数据（见表1）。希望对这些犯罪率数据进行主成分分析，并分析犯罪特征。表1：美国各个州的各种类型犯罪率数据MurderRapeRobberyAssaultBurglaryLarcenyAutoALABAMA14.225.296.8278.31135.51881.9280.7ALASKA10.851.696.8284.01331.73369.8753.3ARIZONA9.534.2138.2312.32346.14467.4439.5ARK
17、ANSAS8.827.683.2203.4972.61862.1183.4CALIFORNIA11.549.4287.0358.02139.43499.8663.5COLORADO6.342.0170.7292.91935.23903.2477.1CONNECTICUT4.216.8129.5131.81346.02620.7593.2DELAWARE6.024.9157.0194.21682.63678.4467.0FLORIDA10.239.6187.9449.11859.93840.5351.4GEORGIA11.731.1140.5256.51351.12170.2297.9HAWAI
18、I7.225.5128.064.11911.53920.4489.4IDAHO5.519.439.6172.51050.82599.6237.6ILLINOIS9.921.8211.3209.01085.02828.5528.6INDIANA7.426.5123.2153.51086.22498.7377.4IOWA2.310.641.289.8812.52685.1219.9KANSAS6.622.0100.7180.51270.42739.3244.3KENTUCKY10.119.181.1123.3872.21662.1245.4LOUISIANA15.530.9142.9335.511
19、65.52469.9337.7MAINE2.413.538.7170.01253.12350.7246.9MARYLAND8.034.8292.1358.91400.03177.7428.5MASSACHUSETTS3.120.8169.1231.61532.22311.31140.1MICHIGAN9.338.9261.9274.61522.73159.0545.5MINNESOTA2.719.585.985.81134.72559.3343.1MISSISSIPPI14.319.665.7189.1915.61239.9144.4MISSOURI9.628.3189.0233.51318.
20、32424.2378.4MONTANA5.416.739.2156.8804.92773.2309.2NEBRASKA3.918.164.7112.7760.02316.1249.1NEVADA15.849.1323.1355.02453.14212.6559.2NEW HAMPSHIRE3.210.723.276.01041.72343.9293.4NEW JERSEY5.621.0180.4185.11435.82774.5511.5NEW MEXICO8.839.1109.6343.41418.73008.6259.5NEW YORK10.729.4472.6319.11728.0278
21、2.0745.8NORTH AROLINA10.617.061.3318.31154.12037.8192.1NORTH DAKOTA0.99.013.343.8446.11843.0144.7OHIO7.827.3190.5181.11216.02696.8400.4OKLAHOMA8.629.273.8205.01288.22228.1326.8OREGON4.939.9124.1286.91636.43506.1388.9PENNSYLVANIA5.619.0130.3128.0877.51624.1333.2RHODEISLAND3.610.586.5201.01489.52844.1
22、791.4SOUTH CAROLINA11.933.0105.9485.31613.62342.4245.1SOUTH DAKOTA2.013.517.9155.7570.51704.4147.5TENNESSEE10.129.7145.8203.91259.71776.5314.0TEXAS13.333.8152.4208.21603.12988.7397.6UTAH3.520.368.8147.31171.63004.6334.5VERMONT1.415.930.8101.21348.22201.0265.2VIRGINIA9.023.392.1165.7986.22521.2226.7W
23、ASHINGTON4.339.6106.2224.81605.63386.9360.3WEST VIRGINIA6.013.242.290.9597.41341.7163.3WISCONSIN2.812.952.263.7846.92614.2220.7WYOMING5.421.939.7173.9811.62772.2282.0【模型二】 我国部分地区农民生活水平状况的主成分模型根据我国16个地区农民在1982年支出情况的抽样调查数据的汇总资料（见表2）。每个地区都调查了反应每人平均生活消费支出情况的六个指标。现对这些数据进行主成分分析，并利用前2个主成分对16个地区的农民生活消费水平进行分
24、类。表2：我国部分地区农民生活水平foodyifuranliaohouselifeneedwenhua190.3343.779.7360.5449.019.04135.2036.4010.4744.1636.493.9495.2122.839.3022.4422.812.80104.7825.116.409.8918.173.25蒙128.4127.638.9412.5823.993.27145.6832.8317.7927.2939.093.47159.3733.3818.3711.8125.295.22116.2229.5713.2413.7621.756.04221.1138.6412.53115.6550.825.89144.9829.1211.6742.6027.305.74169.9232.7512.7247.1234.355.00153.1123.0915.6223.5418.186.39144.9221.2616.9619.5221.756.73140.5421.5017.6419.1915.974.94115.8430.2612.2033.6133.773.85101.1823.268.4620.2020.504.3011 / 11