《2022年非负矩阵分解：数学的奇妙力量 .pdf》由会员分享，可在线阅读，更多相关《2022年非负矩阵分解：数学的奇妙力量 .pdf（3页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、计算机是人类解决难题、探索未知以及提供娱乐的绝佳工具。在高效运行着的各种计算机应用背后，融汇了人类在物理、电子和数学等多门学科的高超智慧。严密的数学使得计算机能高效执行人类指令，控制内部各种数据流的走向，因此在现代计算机科学研究中，数学的基础地位和重要作用无可替代：它使我们最大程度利用有限的硬件、软件资源，它使我们能够在浩瀚的数据海洋中快速查到所关心的信息 数学与计算机科学一起演绎了许多精彩的故事！一、 NMF 的发展及原理著名的科学杂志Nature 于 1999 年刊登了两位科学家D.D.Lee和 H.S.Seung对数学中非负矩阵研究的突出成果。该文提出了一种新的矩阵分解思想 非负矩阵分解
2、 (Non-negative Matrix Factorization，NMF) 算法，即 NMF 是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法。该论文的发表迅速引起了各个领域中的科学研究人员的重视：一方面，科学研究中的很多大规模数据的分析方法需要通过矩阵形式进行有效处理，而NMF 思想则为人类处理大规模数据提供了一种新的途径；另一方面，NMF 分解算法相较于传统的一些算法而言，具有实现上的简便性、分解形式和分解结果上的可解释性，以及占用存储空间少等诸多优点。信息时代使得人类面临分析或处理各种大规模数据信息的要求，如卫星传回的大量图像、机器人接受到的实时视频流、数据库中的大规模文本、
3、 Web 上的海量信息等。处理这类信息时，矩阵是人们最常用的数学表达方式，比如一幅图像就恰好与一个矩阵对应，矩阵中的每个位置存放着图像中一个像素的空间位置和色彩信息。由于实际问题中这样的矩阵很庞大，其中存放的信息分布往往不均匀，因此直接处理这样的矩阵效率低下，这对很多实际问题而言就失去了实用意义。为高效处理这些通过矩阵存放的数据，一个关键的必要步骤便是对矩阵进行分解操作。通过矩阵分解，一方面将描述问题的矩阵的维数进行削减，另一方面也可以对大量的数据进行压缩和概括。在科学文献中，讨论利用矩阵分解来解决实际问题的分析方法很多，如PCA( 主成分分析 )、ICA( 独立成分分析 )、SVD( 奇异值
4、分解 )、VQ( 矢量量化 )等。在所有这些方法中，原始的大矩阵V 被近似分解为低秩的V=WH 形式。这些方法的共同特点是，因子W 和 H 中的元素可为正或负，即使输入的初始矩阵元素是全正的，传统的秩削减算法也不能保证原始数据的非负性。在数学上，从计算的观点看，分解结果中存在负值是正确的，但负值元素在实际问题中往往是没有意义的。例如图像数据中不可能有负值的像素点；在文档统计中，负值也是无法解释的。因此，探索矩阵的非负分解方法一直是很有意义的研究问题，正是如此，Lee 和 Seung两位科学家的NMF 方法才得到人们的如此关注。NMF是一种新的矩阵分解算法，它克服了传统矩阵分解的很多问题，通过寻
5、找上下文有意义的解决方法，提供解释数据的更深看法。NMF 通过寻找低秩，非负分解那些都为非负值的矩阵。这在现实的应用中有很多例子，如数字图像中的像素一般为非负数，文本分析中的单词统计也总是非负数，股票价格也总是正数等等。NMF 的基本思想可以简单描述为：对于任意给定的一个非负矩阵A，NMF 算法能够寻找到一个非负矩阵U 和一个非负矩阵V，使得满足，从而将一个非负的矩阵分解为左右两个非负矩阵的乘积。由于分解前后的矩阵中仅包含非负的元素，因此，原矩阵A 中的一列向量可以解释为对左矩阵U 中所有列向量(称为基向量 )的加权和，而权重系数为右矩阵V 中对应列向量中的元素。这种基于基向量组合的表示形式具
6、有很直观的语义解释，它反映了人类思维中“ 局部构成整体” 的概念。研究指出，非负矩阵分解是个NP 问题，可以划为优化问题用迭代方法交替求解U 和 V。 NMF 算法提供了基于简单迭代的求解U，V 的方法，求解方法具有收敛速度快、左右非负矩阵存储空间小的特点，它能将高维的数据矩阵降维处理，适合处理大规模数据。利用NMF 进行文本、图像大规模数据的分析方法，较传统的处理算法速度更快、更便捷。NMF 思想的提出迅速得到了很多人的重视，并有很多将这种思想应用到实际中成功解决具体实际问题的例子。通过图 1 中的面部特征提取例子可领略NMF 处理数据的方式。最左边的大矩阵由一系列的小图组成，这些小图是分析
7、数据库中包含的 2429 个脸部图像的结果，每幅图像由1919 个像素组成。传统方法中这样的小图是一幅完整的人脸图像，但是在NMF 方法中，每个小图是通过一组基图像乘以一个权重矩阵而产生的面部特征图，经过这样处理的每幅小图像恰好表示了诸如“ 鼻子 ” 、 “ 嘴巴 ” 、“ 眼睛 ” 等人脸局部概念特征，这便大大压缩了存放的图像数据量。左边的大矩阵由每幅小图像的19 列一起组成矩阵的一列，那样它就是1919=361行， 2429 列。由于NMF 不允许基图像或中间的权重矩阵中出现负值，因此只有相加组合得到的正确基图像才允许，最后通过处理后的重构图像效果是比较满意的。这个例子中，NMF 方法用基
8、图像来代表眼、眉毛、鼻子、嘴、耳朵、胡子等，它们一起组成了数据库中的脸。这样给人最先的直觉就是它很好地压缩了数据。事实上Lee 和 Seung 在他们的论文中更深入地指出，与人类识别事物的过程相似，NMF 也是一种优化的机制，近似于我们的脑分析和存储人脸数据的过程。这个例子中，原图像表示这些局部特征的加权组合，这与人类思维中 “ 局部构成整体 ” 的概念是相吻合的。因此，NMF 算法似乎体现了一种智能行为。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 3 页 - - -
9、 - - - - - - 图 1 NMF 提取面部特征的实例事实上，在 Lee 和 Seung 发表他们的研究成果之前，针对非负矩阵的研究早在20 世纪 70 年代已经有数学家做了一些相关的工作，但是没有引起过多的关注。20 世纪 90 年代早期，科学家开始将数学上非负矩阵的研究成果用于环境处理和卫星遥控的应用，但是对于非负矩阵的应用意义和价值的理解仍只局限于少数科学家中，人们还没有广泛重视这种方法。直到1999 年 Lee 和 Seung的非负矩阵研究成果发表在 Nature 杂志之后，这一切才得以改变。尽管同年有另两位科学家也发表了与Lee 和 Seung 相近的研究结果，但由于论文刊登在
10、并非如 Nature 那样具有极高声誉的学术杂志上，因此其工作并没有得到如Lee 和 Seung同样的关注，这也从一个侧面折射了高水平学术杂志对研究工作的推动作用。二、应用领域NMF 是一个很有效的算法，它力图在大规模的矩阵数据中发现具有解释功能的关系，相比当前文献中公布的其他方法来说，使用NMF 的算法也是非常精确和快速的。NMF算法思想能为世界上权威的学术刊物所接受并非偶然，因为该理论本身蕴涵了巨大的潜能，这种潜在的力量将通过各种具体的应用来得以体现。计算机能通过NMF 算法更快更好地处理哪些实际问题呢？在众多应用中，NMF 能被用于发现数据库中的图像特征，便于快速自动识别应用；能够发现文
11、档的语义相关度，用于信息自动索引和提取；能够在DNA 阵列分析中识别基因等等。我们将对此作一些大致的描述。(1)图像分析NMF最成功的一类应用是在图像的分析和处理领域。 图像本身包含大量的数据，计算机一般将图像的信息按照矩阵的形式进行存放，针对图像的识别 、分析和处理也是在矩阵的基础上进行的。这些特点使得NMF 方法能很好地与图像分析处理相结合。人们已经利用NMF算法，对卫星发回的图像进行处理，以自动辨别太空中的垃圾碎片；使用NMF 算法对天文望远镜拍摄到的图像进行分析，有助于天文学家识别星体；美国还尝试在机场安装由NMF 算法驱动的识别系统，根据事先输入计算机的恐怖分子的特征图像库来自动识别
12、进出机场的可疑恐怖分子。(2)文本聚类 /数据挖掘文本在人类日常接触的信息中占有很大分量，为了更快更精确地从大量的文本数据中取得所需要的信息，针对文本信息处理的研究一直没有停止过。文本数据不光信息量大，而且一般是无结构的。此外，典型的文本数据通常以矩阵的形式被计算机处理，此时的数据矩阵具有高维稀疏的特征，因此，对大规模文本信息进行处理分析的另一个障碍便是如何削减原始数据的维数。NMF 算法正是解决这方面难题的一种新手段。NMF 在挖掘用户所需数据和进行文本聚类研究中都有着成功的应用例子。由于NMF 算法在处理文本数据方面的高效性，著名的商业数据库软件Oracle 在其第 10 版中专门利用NM
13、F 算法来进行文本特征的提取和分类。为什么NMF 对于文本信息提取得很好呢？原因在于智能文本处理的核心问题是以一种能捕获语义或相关信息的方式来表示文本，但是传统的常用分析方法仅仅是对词进行统计，而不考虑其他的信息。而NMF 不同，它往往能达到表示信息的局部之间相关关系的效果，从而获得更好的处理结果。(3)语音处理语音的自动识别一直是计算机科学家努力的方向，也是未来智能应用实现的基础技术。语音同样包含大量的数据信息，识别语音的过程也是对这些信息处理的过程。NMF算法在这方面也为我们提供了一种新方法，在已有的应用中，NMF 算法成功实现了有效的语音特征提取，并且由于NMF 算法的快速性，对实现机器
14、的实时语音识别有着促进意义。也有使用NMF 方法进行音乐分析的应用。复调音乐的识别是个很困难的问题，三菱研究所和MIT( 麻省理工学院 )的科学家合作，利用NMF 从演奏中的复调音乐中识别出各个调子，并将它们分别记录下来。实验结果表明，这种采用NMF 算法的方法不光简单，而且无须基于知识库。(4)机器人控制名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 3 页 - - - - - - - - - 如何快速准确地让机器人识别周围的物体对于机器人研究具有重要的意义，因为这是机
15、器人能迅速作出相应反应和动作的基础。机器人通过传感器获得周围环境的图像信息，这些图像信息也是以矩阵的形式存储的。已经有研究人员采用NMF 算法实现了机器人对周围对象的快速识别，根据现有的研究资料显示，识别的准确率达到了80%以上。(5)生物医学工程和化学工程生物医学和化学研究中，也常常需要借助计算机来分析处理试验的数据，往往一些烦杂的数据会耗费研究人员的过多精力。NMF 算法也为这些数据的处理提供了一种新的高效快速的途径。科学家将NMF 方法用于处理核医学中的电子发射过程的动态连续图像，有效地从这些动态图像中提取所需要的特征。NMF 还可以应用到遗传学和药物发现中。因为NMF 的分解不出现负值
16、，因此采用NMF 分析基因DNA 的分子序列可使分析结果更加可靠。同样，用NMF 来选择药物成分还可以获得最有效的且负作用最小的新药物。此外， NMF 算法在环境数据处理、信号分析与复杂对象的识别方面都有着很好的应用。近年来采用NMF 思想的应用才刚展开，相信以后会有更多的成功应用。这些成功的应用反过来也将促进NMF 的进一步研究。三、结束语数学如同计算机的灵魂，NMF 通过计算机与各个领域结合后的应用取得了令人叹服的成效。NMF 的故事还在继续，NMF 的应用领域还有待进一步的发掘，针对NMF 的进一步研究也没有停止过，其中诸如分解的存在性、惟一性和收敛性以及收敛的速度等问题的深入探讨必将使该思想能更好地服务于人类。名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 3 页 - - - - - - - - -