《2022年2022年矩阵的奇异值分解 .pdf》由会员分享，可在线阅读，更多相关《2022年2022年矩阵的奇异值分解 .pdf（9页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、2 矩阵的奇异值分解定义设A是秩为r的mn复矩阵，TAA的特征值为1210rrn. 则称ii(1, 2,)in为 A 的奇异值 . 易见，零矩阵的奇异值都是零，矩阵A的奇异值的个数等于A的列数，A的非零奇异值的个数等于其秩. 矩阵的奇异值具有如下性质：（1）A为正规矩阵时，A的奇异值是A的特征值的模；（2）A为半正定的 Hermite 矩阵时，A的奇异值是A的特征值；（3）若存在酉矩阵,mmnnUVCC，矩阵mnBC，使U A VB，则称 A 和 B 酉等价 .酉等价的矩阵 A 和 B 有相同的奇异值 . 奇异值分解定理设A是秩为r (0)r的mn复矩阵，则存在 m阶酉矩阵U与 n 阶酉矩阵V
2、，使得HOUA VOO. 其中12diag(,)r，i(1, 2,)ir为矩阵A的全部非零奇异值. 证明设 Hermite 矩阵HAA的 n 个特征值按大小排列为1210rrn. 则存在 n 阶酉矩阵V，使得名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 9 页 - - - - - - - - - 12HH()nOVAA VOO. 将V分块为12()VVV，其中1V，2V分别是V的前 r 列与后nr列. 并改写式为2HOAAVVOO. 则有H2H112AA VVAA VO
3、，. 由的第一式可得HH2H1111()()rVAA VA VA VE，或 者. 由的第二式可得H222()()A VA VOA VO或 者. 令111UAV，则H11rUUE，即1U的 r 个列是两两正交的单位向量.记作112(,)rUuuu，因此可将12,ruuu扩充成mC的标准正交基，记增添的向量为1,rmuu，并构造矩阵21(,)rmUuu，则12121(,)(,)rrmUUUuuuuu是 m 阶酉矩阵 ,且有HH1121rUUEUUO，. 于是可得HHH1121H2()()OUUAVUAVAVUOOOU，. 由式可得HHHH111222rrrOAUVu vu vu vOO. 名师资料
4、总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 9 页 - - - - - - - - - 称式为矩阵A的奇异值分解 . 值得注意的是：在奇异值分解中121,rrmuuuuu是HAA的特征向量，而V的列向量是HAA的特征向量，并且HAA与HAA的非零特征值完全相同 .但矩阵A的奇异值分解不惟一 . 证明 2设 Hermite 矩阵HAA的 n 个特征值按大小排列为1210rrn. 则存在 n 阶酉矩阵V，使得12HH()nOVAA VOO. 将V分块为12(,)nVvvv，它的n
5、 个列12,nvvv是对应于特征值12,n的标准正交的特征向量 . 为了得到酉矩阵U，首先考察mC中的向量组12,rA vA vA v，由于当i 不等于 j 时有HHHHH(,)()()0ijjijijiiijiAvAvAvAvvAAvvvvv所以向量组12,rAvA vA v是mC中的正交向量组 . 又2HHH| | |iiiiiiiA vvAA vvv，所以| | |iiiA v. 令1iiiuA v，1, 2,ir，则得到mC中的标准正交向量组12,ruuu，把它扩充成为mC中的标准正交基11,rrmuuuu，令11(,)rrmUuuuu则 U 是 m 阶酉矩阵 .由已知及前面的推导可得
6、名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 9 页 - - - - - - - - - iiiAvu，1, 2,ir；iA v0，1,irn；从而121(,)(,)nrAVA vvvAvAv0011120(,)(,)0rmrOuuuuuOO00OUOO故有A VU ，即HUAV. 例1求矩阵120202A的奇异值分解 . 解T524240404AA的特征值为1239,4,0，对应的单位特征向量依次为TTT123111(5, 2, 4) ,(0, 2,1) ,( 2,1
7、, 2)3355vvv. 所以50251265354325V. 于是可得()2rA，3002. 计算11121215UA V，则A的奇异值分解为名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 9 页 - - - - - - - - - T300020AUV. 在 A 的奇异值分解中，酉矩阵V 的列向量称为 A 的右奇异向量， V的前 r 列是HAA的 r 个非零特征值所对应的特征向量，将他们取为矩阵V1，则12(,)VVV.酉矩阵 U 的列向量被称为 A 的左奇异向量，将
8、 U 从前r 列处分块为12(,)UUU，由分块运算，有HHHH1111212HHH22122()OUUAVUAVUAVAVAVOOUUAVUAV，从而211A VA VU ，=0.因此，有下列结果（1）2V的列向量组是矩阵A 的零空间()NAx Ax0的一组标准正交基；（2）1U的列向量组是矩阵A 的列空间()RAAx的一组标准正交基；（1）1V的列向量组是矩阵A 的 零空间()N Ax Ax0正交补H()R A的一组标准正交基；（1）2U的列向量组是矩阵A 的列空间()R AAx正交补H()NA的一组标准正交基 . 在 A 的奇异值分解中，酉矩阵U 和 V 不是惟一的 .A 的奇异值分解给
9、出了矩阵 A 的许多重要信息 . 更进一步，由于12(,)mUuuu，12(,)nVvvv，可借助于奇异值分解，将 A 表示为名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 9 页 - - - - - - - - - H11H212H0(,)0mrnvOvAuuuOOvHHH111222rrru vu vu v归纳这一结果，有如下定理. 定理设mnAC，A 的非零奇异值为12r，12,ruuu是应于奇异值的左奇异向量，12,rvvv是应于奇异值的右奇异向量，则TTT111
10、222rrrAu vu vu v. 上式给出的形式被称为矩阵A 的奇异值展开式 ，对一个kr，略去 A的一些小的奇异值对应的项，去矩阵kA为TTT111222kkkkAu vu vu v. 则kA是一个秩为 k 的 m n 矩阵.可以证明，kA是在所有秩为 k 的 m n 矩阵中，从 Frobenius范数的意义下， 与矩阵 A 距离最近的一个矩阵 .这在实际中应用广泛 .例如，在图像数字化技术中， 一副图片可以转换成一个m n阶像素矩阵来储存，存储量m n 是个数 .如果利用矩阵的奇异值展开式，则只要存储 A 的奇异值i，奇异向量,iiuv的分量，总计 r（m+n+1）个数 .取 m=n=1
11、000，r=100 作一个比较，m n=1000000，r（m+n+1）=100（1000+1000+1）=200100. 取 A 的奇异值展开式，存储量较 A 的元素情形减少了80%.另外，可取kr，用kA逼近 A，能够达到既压缩图像的存储量，又保持图像不失真的目的 . 由矩阵A的奇异值分解可得TTT111222rrrAu vu vu v可见，A是矩阵TTT1122,rru vu vu v的加权和，其中权系数按递减排列名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 6 页，共 9
12、页 - - - - - - - - - 120r. 显然，权系数大的那些项对矩阵A的贡献大， 因此当舍去权系数小的一些项后，仍然能较好的 “逼近”矩阵A，这一点在数字图像处理方面非常有用. 矩阵的秩 k 逼近定义为TTT111222 1kkkkrAu vu vu v秩 r 逼近就精确等于A，而秩 1 逼近的误差最大 . 矩阵的奇异值分解不但在线性方程组，矩阵范数， 广义逆，最优化等方面有着广泛的应用 .而且在数字计算，数字图像处理，信息检索，心里学等领域也有着极重要的应用.有兴趣的读者可参阅有关教科书， 如 Steven J.Leon 的线性代数 . 矩阵的奇异值分解与线性变换TA设A 是 一
13、 个秩 为 r的 m n 复 矩阵 ，即mnAC，rank()rA， 则 由()TAA可以定义线性变换:nmTACC. 设矩阵 A 有奇异值分解HAU V，则将矩阵nnVC的列向量组12,nvvv取作空间nC的标准正交基；则将矩阵mmUC的列向量组12,muuu取作空间mC的标准正交基，则在所取的基下，线性变换TA对应的变换矩阵就是. 设nC，在基12,nvvv下坐标向量为T12(,)nxxxx，V x.那么在线性变换TA下的像具有形式：11H()()()00rrxxTAAU VVxU xU. 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - -
14、 - - - 名师精心整理 - - - - - - - 第 7 页，共 9 页 - - - - - - - - - 其 中12,r是 A的 非 零 奇异 值 ，所 以 ，的 像()TA在mC中 基12,muuu下的坐标是T11(00)rrxxyx. 从中可以看出，当rank()rA时，在取定的基下，线性变换()TA的作用是将原像坐标中的前r 个分量分别乘以A 的非零奇异值12,r，后（ n-r）分量化为零 .如果原像坐标满足条件：222121nxxx，则像坐标满足条件：2221212()()()1rryyy. 在rank()rnA时，等式成立 .因此，有如下定理. 定理设HAU V是 m n
15、实矩阵 A 的奇异值分解，rank()rA，则nR中的单位圆球面在线性变换TA下的像集合是：（1）若 rn ，则像集合是mR中的椭球面；（2）若 rn ，则像集合是mR中的椭球体 . 例 2设矩阵120202A， 求3R 中的单位圆球面在线性变换:TAy = A x下的像的几何图形. 解由例 1，矩阵 A 有如下奇异值分解T50251230011265210205354325A.rank()23,nA由定理，单位球面的像满足不等式名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 8 页，共 9 页 - - - - - - - - - 221222132yy. 即单位球面的像是实心椭圆2212194yy. 奇异值分解在下求矩阵100010110A的奇异值分解 .名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 9 页，共 9 页 - - - - - - - - -