《基于奇异值分解的测量矩阵优化-张成.pdf》由会员分享，可在线阅读，更多相关《基于奇异值分解的测量矩阵优化-张成.pdf（6页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第48卷第3期2016年5月四川大学学报(工程科学版)JOURNAL 0F SICHUAN UNIVERSITY(ENGINEERING SCIENCE ED0N)V0148 No3May 2016文章编号：10093087(2016)03_0136J的 DOI：1015961jjsuese201603018基于奇异值分解的测量矩阵优化张 成k2，欧书琴，沈 川1，韦 穗1，韩 超4，夏 云5(1安徽大学计算智能与信号处理教育部重点实验室，安徽合肥230039；2安徽省现代成像与显示技术重点实验室，安徽合肥230039；3安徽轻工业技师学院，安徽合肥23060l；4安徽工程大学电气工程学院，安
2、徽芜湖241000；5安徽省地方税务局，安徽合肥，230061)摘要：针对压缩感知理论中通用的测量矩阵(如随机高斯、伯努利等)不具有最优性能保证的问题，通过引入奇异值分解，提出基于奇异值分解的测量矩阵优化方法。该方法先对压缩感知中一般线性测量模型中的测量矩阵与测量向量进行优化，再利用优化后的测量矩阵与测量向量重建原稀疏信号。经典的随机高斯测量矩阵和伯努利测量矩阵的数值实验结果表明，本文提出的方法可以显著地提高重建成功恢复概率以及对高斯噪声的鲁棒性。该方法适用于一般线性测量系统，成功地实现了测量矩阵和重建矩阵的分离，可在不改变前端测量模型的前提下使重建矩阵接近最优配置。关键词：压缩感知；稀疏性；
3、测量矩阵；重建矩阵；奇异值分解中图分类号：TN9117 文献标志码：AOptimized Me嬲u弛ment Matr权B嬲ed on SiIIgIll盯Value Decompos磁onZ日AJ7、rG C妇n91”，0U虢叼甜+，S胞吼n1，聊Sufl，似吼4，觚4玩(1Key Lab of InteUigent ComputingSignal PIDcessing，Anhui UniV，Hefei 230039，China；2Key出of Modem IInaging锄d Di印laying Technol_of Anhui PmVince，Hefei 230039，China；3Anh
4、ui u曲t Industry P0lytechnic，Hefei 230601，china；4College of Electrical E“g，Anhui Polytechnic Univ，Wuhu 241000，China；5kal 7ra】【ation Bureau of Anhui Pmvince，Hefei 230061，China)Abstract：In order to solve the problem raised in compressive sensing theory that the classical measurement matrices(mndom Gaus
5、si一肌，random Bemouui，et a1)does not achieve the optimal pedo珊ance，a noVel method was pmposed for tlle me鹊uremem matrix opti-mization based on singular value decompositionIn tllis method，the singlllar Value decomposition was intmduced to optimize tlle generallinear measurement model in compressive sen
6、sing，iemeasurement mat血and corresponded measurement Vector，and tllen tlle ori舀nalsigIlal sparse si印a1 was reconstmcted by the optimized linear measurement modelNumerical results for the cl鹊sical mndom Gaussianme鹊uremem matrix and mndom Bemoulli measurement matrix demonstrated tllat the proposed meth
7、od can signmcandy incre硒e the reconstmction pmbability 0f success“recovery and is more mbust to Gaussian noise and印plicable to the general linear me船urementsystem，which can successfdUy achieve the separation of the measurement max and tlle reconstruction matrix，and make the recon-stmction matrix clo
8、se to the most exceUent configumtion without tlle any model ch粕ge at the f而nt end 0f tlle me船urement systemKey words：compressive sensing；sparsity；meaLsurement matrix；reconstnlction m赫x；singul盯value decomposition压缩感知(compressive sensing，CS1 1)是一种新的信号采样理论。相比经典的ShannonNyquist采样定理，CS方法利用自然界绝大多数的信号所具有的稀疏
9、性，将采样和压缩过程同步完成，通过随机投收稿日期：2015一0515基金项目：NsFc一广东联合基金资助项目(u1201255)；国家自然科学基金资助项目(61301296；61377006；61501001)；安徽省自然科学基金资助项目(1508085MFl21；1608085QFl61)；安徽省教育厅重点项目资助(KJ2015A114)；安徽大学博士科研启动经费资助项目(33190218)作者简介：张成(1984一)，男，讲师，博士研究方向：光学成像；相位检索；信号与信号处理Email：que8tionl996t63com通信联系人E-mail：26222503qqcomhttp：jsue
10、sescueducn万方数据第3期 张成，等：基于奇异值分解的测量矩阵优化 137影实现高维信号到低维空间的映射，可以在远低于Nyquist采样率的测量条件下精确重建原始信号。cs方法在应用数学、电子工程和遥感等领域引起了越来越广泛的关注。测量矩阵是cs方法的关键研究内容之一，其可以通过随机投影保留信号的更多信息。随机测量矩阵不仅仅是一个简单的随机变量，还应该满足约束等距性悼o(restricted isometricpmpeny，RIP)。最经典的随机测量矩阵有高斯矩阵和伯努利矩阵。3 J、亚高斯随机投影H1和稀疏随机投影”“J、部分傅里叶矩阵17。8j、部分哈达码矩阵1和部分正交矩阵叫等。
11、张成等提出随机间距稀疏Toeplitz矩阵1】、超稀疏循环矩阵引等。鲜义川等3J提出混沌序列构造测量矩阵优化算法，粟娟等41提出基于切比雪夫扩频序列的测量矩阵构造算法。上述各测量矩阵已理论证明其满足RIP条件，但缺点是测量矩阵即为重建矩阵，并未考虑重建阶段对重建矩阵的要求”。6j，没有对重建矩阵进行进一步的优化以提高其重建性能。彭玉楼等纠提出一种基于对测量矩阵奇异值分解的噪声信号重构算法。该算法首先对随机测量矩阵进行奇异值分解，通过均值算法修改对角矩阵的特征值，产生新的测量矩阵用于线性测量，理论证明了新测量矩阵比原测量矩阵具有更高的重构精度，其重构精度对l维信号提高了3一5，峰值信噪比对2维信
12、号提高大约12 dB。但是，文献15方案是提前设计测量矩阵，且该矩阵并未考虑实际感知系统中测量矩阵的实现难度的问题。受此启发，作者提出基于奇异值分解刮的测量矩阵优化算法(optimized oeasurement matrix viasingular value decomposition，OMMSVD)。有别于文献15方法事先设计新的传感矩阵的问题，提出的OMMSVD算法可以适用于任何线性测量系统，可以有效地实现前端测量矩阵与后端重建矩阵的分离。这样，前端测量矩阵可以侧重于如何降低测量系统物理实现的难度，在后端通过测量系统的预处理，使得新的测量系统中测量矩阵的行之间是归一化且彼此正交的，故可
13、以兼顾前端降低硬件实现的复杂性和后端重建对测量矩阵正交性的要求。1 压缩感知假定一个信号工在某个正交基或紧框架缈上的变换系数是稀疏的，即：工=哆嘶 (1)j=1式中，变换系数口R“，且0口忆=K，K，即a仅有K个非零元素，K也被称为信号的稀疏度(sparsity)。则线性感知系统可以定义为：y=4譬+z=咖q极+z=A口+z (2)式中，咖为M(M)维的测量矩阵(measurement matrix)，妒为维的稀疏基矩阵，A=圣缈为感知矩阵(sensing matrix)，z为加性噪声。CS理论研究表明，对感知矩阵A而言，如果其满足式(3)所示的K阶约束等距性(群orderrestricted
14、 isometric property，KRIP)，且口(16K)|口|f i s 0 A口|；曼(1+6x)|d|i(3)那么，当测量数目肘(即矩阵的行数)满足下面的条件：MC用n(K) (4)就可以采用下面的优化方法从测量值J，中高概率地恢复信号的稀疏表示系数五：口=arg min|口0 o，st 0 y一多蚍0 2盯 (5)式(1)、(2)和(5)分别对应CS理论的3大基本研究内容信号的稀疏表示模型、观测过程与非线性重建算法。2基于奇异值分解的测量矩阵优化0MMSVD的基本思想如下：考虑式(2)中的信号感知系统，首先对感知矩阵A执行奇异值分解：A=堙矿 (6)式中：三是大小为M的半正定对
15、角矩阵；U和y都是正交矩阵，即UUl=如 (7)y矿=J (8)因此，感知系统可以修改如下：y=籼=咖姚=Ad=堙矿d=盯1 0 00 盯， 00 0 矿M!竺二矍!兰竺0 00 00 0矿Q=u筹一苦埘瓮舨钱卜=吧。w口(9)式中：三，=diag(盯。，盯：，盯肘)为M肘维对角方阵；D为(一M)M维全O矩阵；矩阵y的子矩阵y，R胍M、KR肛椰为列正交矩阵，即Wy。万方数据138 四川大学学报(工程科学版) 第48卷=如，K=“一肼，其中，如和“一肘分别为MM和(一M)(一M)维单位矩阵。通过对式(9)两边左乘矩阵三i1矿，可以得到：三ilu=三i1扩咂，理=三i1三，W口=W口(10)最终，
16、可以得到新的测量系统如下：ysvD=咖svDd (11)式中，ysvD=三i1U1y (12)西svD=y： (13)值得指出的是，此时的测量矩阵斌。是行正交矩阵，即炽，。蝎。=k。换句话说，该矩阵可看成是从维正交矩阵中随机抽取M行得到的广义正交矩阵(general orth090nal measurementensembles)，经Can如s证明其满足RIP条件7 q-10。3 数值实验在CS理论中，最常用的测量矩阵是随机高斯矩阵和伯努利矩阵，这两类矩阵具有非常好的随机性质，可以理论证明其高概率地满足RIP条件。因此，以二者为代表，研究OMMSVD算法对这两种不同的测量矩阵的重建性能的优化与
17、提高。第1组实验是单次重建实验，用于比较采用OMMSVD算法对重建过程与重建结果的影响。重建算法选用经典的正交匹配追踪(orth090nal matcling pursujt，0MP0。)算法，它由1hpp等提出，具有实现成本低、信号重建速度快、恢复的精度高等优点。测量矩阵仅选用随机高斯矩阵，具体结果如图1所示。坐标索g(b)J-局t o；、，0o雨建竹0916“嘲鳊Q匕q弘臻懿叮64釜 z一02坐标索5(d)Gauss-坎f。，j、：币建oj ：l一，。哆p么w秽式雩：7() jO 10( 1jO 200 2jO 0 如 ) I二0() 2j坐标索引 坐标索引(c)0M P孙R=621 dB
18、 (e)Gauss+SVD，趴啊=42 5 dB图1单次重建实验Fig1 Sin甜e recoI岱truction experiment642O2型罂万方数据第3期 张成，等：基于奇异值分解的测量矩阵优化 139图l中，图1(a)为原始的稀疏信号，其长度=256，稀疏基选用标准正交基(此时感知矩阵和测量矩阵等同，后文为表述方便，统一采用测量矩阵)，信号稀疏度K：64，即待测试信号是自稀疏的，有64个非零元素，其元素值的大小服从标准正态分布。测量数目M=128，恰好是信号稀疏度的2倍，对于OMP算法来说，这是一个相对较难成功重建的条件，因为OMP算法保证高精度重建的经验表明，测量数目一般应为稀疏
19、度的35倍。测量矩阵的大小是128256，其元素服从标准正态分布，这是最常用的测量矩阵。采用该矩阵得到的测量向量J，如图l(b)所示。从图1(b)的测量向量y出发，采用经典的OMP算法，得到的原信号的估计值如图1(c)所示。另一方面，对测量矩阵与测量向量采用OMMSVD算法进行优化处理，得到新的测量值ym如图1(d)所示。与此同时，对中m进行了相应的优化。采用优化后的重建矩阵咖。和测量向量y。，再使用0MP算法重建，得到的重建结果如图1(e)所示。比较图1(c)和l(e)中的重建结果，可以发现未经过优化的观测系统的大部分重建值和原信号有所偏差，而采用SVD方法优化以后信号的估计值和真实值基本完
20、全吻合。通过客观度量信噪比(signaltonoise ratio，sR)的差别来评价，未优化的重建信号的信噪比仅有621 dB，而采用OMMSVD算法优化后的重建信噪比达到了425 dB，得到了极大提高。当然，由于稀疏信号以及测量矩阵都是随机生成的，具有很大的随机性。为更公平地比较采用SVD优化观测系统前后的性能变化，设计了第2组实验，通过多次独立的实验在统计意义上验证采用SVD优化后性能的改善。第2组实验所采用的参数设置为：信号稀疏度=256；测量值M固定为128；不断改变稀疏度K的值，使K值的大小从35变化到85，变化步长设置为5。在每组参数(，肘，K)设置下，独立随机地生成稀疏信号和测
21、量矩阵。一种方式是直接采用OMP算法重建，另一种方式是先采用OMM-SVD算法对同一组稀疏信号和测量矩阵进行优化，再采用OMP算法进行重建。分别计算原信号与估计信号之间的均方差(mean square error，M5E)和Js喂值。在每组(，肘，Js)参数下，实验独立地执行1 000次，统计1 000次实验的重建结果。其中：1 000次重建实验的麒涸用于绘制重建误差曲线，如图2(a)所示。每一次重建的S，v尺值若大于25 dB，则认为原信号成功重建，否则，失败。统计1 000次重建实验的成功重建概率，其结果如图2(b)所示。MrZI忮足(b)图2重建误差、重建成功概率随稀疏度变化曲线Fig2
22、 Probabmty off：SE and succe鲼；fm reveryVsspa体ity第3组实验与第2组非常类似，测试的是重建性能对比随测量数目变化的曲线。信号的维数是2561。固定稀疏度K为30，测量数目M：60：5：140。采取和第2组实验相同的处理方式，在每组(，M，K)设置下随机生成稀疏信号和测量矩阵，然后分为2种方式即直接重建以及先经过OMMSVD算法优化后再重建。重建后分别计算两种重建方法的估计信号与真实信号之间的肘sE和Is懈值。在每组(，肘，s)参数下实验同样独立测试1000次，统计1 000次重建结果。1 000次重复实验绘制的朋E曲线如图3(a)所示。则通过判断s舰
23、值是否大于25dB来确定是否重建成功，并计算成功重建的概率，其结果如图3(b)所示。在图2和3中，分别对随机高斯矩阵(图中简称鲫加K暇稀万方数据140 四川大学学报(工程科学版) 第48卷图3重建误差、重建成功概率随测量数目变化曲线Fig3 Probability of肘船and successfuI recoveryvs n岫ber of measurementsGauss)和伯努利矩阵(图中简称Bemo)进行了测试，为进行对比，同时还测试了最优(Optimal)矩阵。以随机高斯矩阵为例，其最优矩阵是先对测量矩阵的行执行正交归一化处理，再进行式(2)中的信号观测，最后通过0MP算法重建得到。
24、矩阵的行之间归一化且彼此正交的，从而可以保证信号的整体信息被均匀地扩散到整个测量域，实现信息的最大化测量。随机高斯矩阵经过上述在感知前完成预处理的步骤成为其最优矩阵(Gauss+0ptimal)，与此类似，伯努利矩阵经过同样的处理后的矩阵命名为(Bemo+Optimal)，以作为性能比较的参照对象。从图23中的曲线可以看出，无论是性能指标MsE，还是重建成功概率，原始伯努利测量矩阵(Bemo+0rigin)的重建性能略优于原始的随机高斯矩阵(Gauss+0gin)，经过0MMsVD算法优化后的测量矩阵Gauss+SVD、Bemo+SVD的性能得到了显著的改善，已基本与各自的最优矩阵性能保持了高
25、度的一致。最优矩阵和经过OMMSVD算法处理后的优化矩阵之间存在一个最大的不同之处对观测系统要求的差异。最优矩阵要求事先完成测量矩阵的行之间的正交归一化，这就要求对感知系统进行改变，将导致感知系统的实际物理实现难度与成本大大增加，甚至在实际应用中是不可能实现的。而本文提出的OMMSVD算法不需要对前端的感知系统做任何改变，只需在后端直接对感知系统的测量矩阵与测量向量进行优化即可，避免了额外增加感知系统的物理实现成本，成功实现了对应于前端感知系统的测量矩阵与后端应用于算法的重建矩阵之间的分离，在前端的信号感知部分可以专注于设计易于物理实现且成本低的压缩感知系统，后端通过0MMSVD算法优化处理使
26、重建性能得到优化。第4组实验的目的是为了测试本文方法的鲁棒性。固定信号的维数=256，信号稀疏度K=30，测量数目M=120。输入信噪比为20 dB：1 dB：40dB。随机生成稀疏信号和测量矩阵，按照式(2)计算测量向量y。对同一个测量向量y分别加入不同s舰值的噪声，噪声的加入采用Matlab软件自带的awgn函数来实现。从含有噪声的测量向量出发，分为2种方式即直接采用0MP算法以及先OMMSVD算法优化再OMP算法重建。计算重建的信号与真实信号之间的s脚值，大于25 dB则成功重建。统计1 000次独立测试的成功重建概率，其结果如图4所示。由图4可知，OMMSVD算法可以明显提高系统重建的
27、鲁棒性。25 30 35输入信噪比图4重建成功概率随输入信噪比变化曲线Fig4 Probabnity of success叫Iecovery vsdifferentnois髂dth varied iIIput 5v：R数种：(跚4O2”目撇湖鲫O万方数据第3期 张成，等：基于奇异值分解的测量矩阵优化 14l4结论提出一种基于奇异值分解的测量矩阵优化算法，该方法可以实现信号感知系统对应的测量矩阵与符合后端重建算法要求的重建矩阵的分离。既可以在前端信号感知系统设计时降低物理实现的难度与成本，又可在后端优化感知系统对应的测量矩阵和测量值，使得后端的重建算法可以获得更优的重建性能。数值实验结果表明，该
28、OMMSVD算法可以显著提高成功重建的概率。此外，鲁棒性测试结果表明，在噪声干扰条件下成功重建概率也有较明显改善。该OMMSVD方法适用于一般的线性测量系统，下一步研究准备和实际物理约束相结合，实现物理可实现的系统前端对应的测量矩阵与后端的重建矩阵的分离，提高重建质量。参考文献：1BaL吼iuk RCompressive sensiIlgJIEEE Sigrlal P胁cessing Mag觚ine，2007，24(4)：1181212B捌uk R，DaVenport M，DeVore R，et a1A simple pmof0f tlle restricted isometIy pmpert
29、y for r趾dom matricesJConstnlctiVe Appmximation，2008，28(3)：2532633Tsaig Y，Donoho D LExtensions of compressed sensingJSi印al Processing，2006，86(3)：5495714F砘Hong，zh蚰g Qu蚰bing，wei SuiA method of imagerecons呻ction b鹊ed 0n sllb-G锄ssi粕r吼dom pmjectionJJo啪al of Computer Research明d Devel叩ment，2008，45(8)：1402一1
30、407方红，章权兵，韦穗基于亚高斯随机投影的图像重建方法计算机研究与发展，2008，45(8)：140214075F矾g Hong，Zh锄g QuaIlbing，wei SMethod“image re-co璐tmction b踞ed on Very sparse啪dom pmjectionJComputer Engineering蚰d Applic砒io璐，2007，42(22)：2527方红，章权兵，韦穗基于非常稀疏随机投影的图像重建方法J计算机工程与应用，2007，42(22)：25276Pan，aresh F，Vikalo H，Misra s，et a1Recovering sp掷es
31、ignals using sparse me硒urement m撕ces in compressedDNA micr0舢TaysJIEEE Jounlal of selected 7Iopics inSi印al Pmcessing，2008，2(3)：2752857C跚d宅s E J，Tao TNear-optimal signal recovery f而m random p叫ectio珊：uIliversal encoding sn龇e舀esJIEEEIhnsactio璐on Inf0瑚ation Theory，2006，52(12)：540654258c锄d6s E J，Romberg J
32、，Tao TStable si印al recoveryf而m incomplete and inaccurate me鹊urementsJCom-munications on Pure and Applied Mathematics，2006，59(8)：120712239Pinkus A-诮dths in approximation tleor)rMBedin：S砸nge卜Verlag，198510Tmpp J A，Gilbert A csignal recovery f而m瑚dommeasurements via orthogonal matching pursuitJIEEETr趴sac
33、tions on Inf0册ation 111eory，2007，53(12)：465546661 1zh彻g cheng，Yang Hairong，wei SlliCompressive sensir培baLsed on dete肌irIistic sparse toeplitz me鹊urementmatrices with random pitchJActa Automatica siIIica，2012，38(7)：13621369张成，杨海蓉，韦穗基于随机间距稀疏，Ik曲tz测量矩阵的压缩传感J自动化学报，2012，38(7)：1362136912zh蚰g cheng，zhang Q
34、uanbing，zhang Fen，et a1supersparse triValue circulant measurement matrices designJJoumal 0f university of science卸d TecllIlology：Natural science Edition，2014，42(10)：3741张成，章权兵，张芬，等超稀疏三元循环测量矩阵的设计J华中科技大学学报：自然科学版，2014，42(10)：374113)(iaIl Yichuan，“JiaJl，“zIiOmization al鲥dunbased 0n chaotic sequence st兀l
35、ctured me嬲umment matrixJoumal of SichuaIl University：En舀neering science E-dition，2014，46(增刊2)：128一132鲜义川，李健，李智基于混沌序列构造测量矩阵优化算法J四川大学学报：工程科学版，2014，46(Supp 2)：12813214Su Juan，Li zlli，“JiarIMeaLsurement matri】【constmctionalgori山m based on Chebyshev spreadjng sequenceJJoumal of Sichuan University：En舀neer
36、ing Science Edi-tion，2015，47(supp 2)：155160粟娟，李智，李健基于切比雪夫扩频序列的测量矩阵构造算法J四川大学学报：工程科学版，2015，47(增刊2)：155一16015Peng Yulou，He YigaJlg，“n BinNoise si印a1 recoveryalgorithm based on singular value decomposition in compressed sensingJChinese Jo唧al of sciem正c Instmment，2013，33(12)：26552660彭玉楼，何怡刚，林斌基于奇异值分解的可压缩传感噪声信号重构算法J仪器仪表学报，2013，33(12)：2655266016Golub G H，Van Loan c FMatrix computationsMBaltimore：JHU Press，2012 (编辑赵婧)万方数据