《多元统计分析第一章_矩阵补充.pdf》由会员分享，可在线阅读，更多相关《多元统计分析第一章_矩阵补充.pdf（8页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、 1 第 1 章 矩阵知识补充 矩阵是多元统计分析的基本工具。考虑读者已学过线性代数，本章补充一些必不可少的矩阵知识，作为多元统计分析的基础。未学过线性代数的读者，可以先自学一本线性代数书，再阅读本章。本书中向量和矩阵全用黑体字表示。以ka,.a1为对角线上元素的矩阵记为 diag(ka,.a1),即 diag(ka,.a1)=k1a0.0a 1.1 矩阵的谱分解 定理 1.1（矩阵的谱分解）设实对称矩阵A的特征值和相应的单位特征向量是kkee,.,.11，其中kee,.1两两正交；则.111kkkeeeeA+=。(1.1)证明 因为A实对称，存在正交阵T，使得TTA=，其中 keeeT.21
2、=是以kee,.1为元素的分块矩阵；kdiag.21=是对角阵，对角线上元素为k,.1。于是=.0.0.0.00.0.212121kkkeeeeeeA。根据分块矩阵乘法原理，.111kkkeeeeA+=。定义 1.1（1.1）式称为A的谱分解。当特征值无重根时，单位特征向量在不计正负号条件 2下是唯一的，即同一个矩阵只有同一形式的谱分解。当特征值有重根时，由于单位特征向量不唯一，同一个矩阵可以有不同形式的谱分解。例 1.1=020212022A。的特征值和相应的单位特征向量是 3/23/23/1,3/13/23/2,3/23/13/2,2,4,1 所以 3/2,3/2,3/13/23/23/1
3、)2(3/1,3/2,3/23/13/23/243/2,3/1,3/23/23/13/21+=A 例 1.2（谱分解形式不唯一）若=4004A A 的特征值为 1，1；相应的特征向量是=sincos1e，=cossin2e 其中是任意常数。A 的谱分解就可以是 442211eeeeA+=容易证明，当k,.1全不为零时，.111111kkkeeeeA+=。1.2 矩阵开平方与比较 定义 1.2（半正定矩阵）设A为实对称矩阵，对任何实向量x有0Axx，则称A 3为半正定矩阵。容易看出，正定矩阵也是半正定矩阵，且有 定理 1.2 正定矩阵的特征值必为正实数。半正定矩阵的特征值必为非负实数。定义 1.
4、3（半正定矩阵的算术平方根）：设A是半正定矩阵，它的谱分解是.111kkkeeeeA+=，则.211121121kkkeeeeA+=(1.2)称为A的算术平方根，简称为A的平方根。显然，当特征根无重根时，半正定矩阵谱分解形式上唯一，从而矩阵的平方根是唯一的。当特征根有重根时，学者可以自证：半正定矩阵谱分解形式上不一定唯一，但这时矩阵的平方根是唯一的。例如=4004A442211eeee+=其中=sincos1e，=cossin2e 这时=+=20022222112/1eeeeA 与无关。例 1.3=102221342413A 的特征值和相应的单位特征向量是 313232,184181181,0
5、2/12/1,18,9,9，所以 43/1,3/2,3/23/13/23/21818/4,18/1,18/118/418/118/130,2/1,2/102/12/1321+=A +=32832223222322232453244322232443245 定理 1.3 21A是半正定矩阵且AAA=2121。证明 由(1.2)可见21A是半正定阵；(1.2)两边平方，左边是2121AA，由特征向量的正交性，右边是=+).)(.(2/1112/112/1112/11kkkkkkeeeeeeeeAeeeekkk=+).(11111，从而命题得证。一般矩阵是不能比较大小的，但是对于半正定矩阵，在一定条
6、件下，可以比较 定义 1.4 设BA,都是半正定矩阵，且BA半正定，则称BA。由半正定定义容易证明，当BA 时，A对角线上元素全大于B对角线上相应元素，例如=411242218333是正定阵，所以42218333 这时13，48。1.3.矩阵的迹 定义 1.5 设A是方阵，其对角线上元素之和iia，称为A的迹，记为)(Atr。定理 1.4（1）设 A,B 是同阶方阵，c,d 是常数，则 tr(cA+dB)=c*tr(A)+d*tr(B),(2)设 A 是nm阵,B 是mn阵，则 tr(AB)=tr(BA)如果 A 是对称的nn矩阵，其特征值为i（I=1,2,3,n），则 5(3)tr(A)=n
7、ii1 ,（4）=nikikNkAtr1（5）=niiNkAtr111（若 A 非奇异）证明（1），（2）可直接由迹的定义验证。（3）因为存在正交阵T，使=),.,(21ndiagATT，所以 trAATTtrATTtrtrnii=1（4）因为TATATTATTATTkk).()(=，所以)()(1kknikkkiAtrTTAtrTATtrtr=。（5）因为TATATT111)(=，所以)()(111111=AtrTTAtrTATtrtrnii。1.4 矩阵微商 矩阵微商内容较多，根据需要，仅介绍如下定理。定理 1.5 设,是常数，a是 n 维常数向量，A是 n 阶常数矩阵，i是自变量，记自变
8、量向量=n.21，)(f是 n 元函数；记梯度=ffffn.)(21；则)(21ff+1f=2f+；)(;AAAaa+=6 证明 )(21ff+=+=)(.)()(21212211ffffffn11211.fffn+22221.fffn1f=2f+。其余各式同样得证。1.5 分块矩阵的逆 定理 1.6 设A和D都是对称的，且A和BABDG1=的逆都存在，则+=111111GFGFGFFGADBBA （1.3）其中BAF1=。证明 经化简，IGFGFGFFGADBBA=+111111。1.6 有关矩阵不等式 下列矩阵不等式和极值定理可导出多元统计的极值定理。定理 1.7（二次型极值）设B是 p
9、阶正定矩阵，其特征值p.21，对应的彼此正交单位向量是peee,.,21，则对一切 p 维是向量x 10max=xxBxxx，pxxxBxx=min0 且11111=eeBee，pppppeeBee=。证明 因为B实对称，存在正交阵T，使得TTB=，其中 7peeeT.21=是以pee,.1为元素的分块矩阵；pdiag.21=是对角阵，对角线上元素为p,.1。令xTy=，则 =piipiipiipiiiyyyyyyyyyyTyBTyxxBxx121211212)()(当1ex=时，由矩阵谱分解 11111111=eeeeeeBeepiiii 定理的其余部分类似可证，留为作业。练习题 1.1 设矩阵=4221A 求 A 的谱分解和算术平方根。1.2 设=301022123A 用SAS软件求A的谱分解，把特征值从大到小排序，指出最大，第2大特征值对应的单位特征向量，并求2/1A。1.3 设=301022123A 8求xxAxxxmax0。1.4 设 321323121232221753108632)(xxxxxxxxxxxxxf+=用矩阵微商公式求fx。1.5 证明)()(BAtrABtr=