《大数据解析与应用导论 (9).pdf》由会员分享,可在线阅读,更多相关《大数据解析与应用导论 (9).pdf(10页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、大数据解析与应用导论Introduction to Big Data Analytics and ApplicationThe linked image cannot be displayed.The file may have been moved,renamed,or deleted.Verify that the link points to the correct file and location.第七章 典型相关分析基本概念基本概念1.CCA算法介绍算法介绍2.CCA算法拓展算法拓展3.案例分析案例分析4.自典型相关分析提出以来,研究者们提出了各种改进与衍生的算法。下图是CCA的发
2、展脉络的总结。目前CCA可以分为多视角CCA、概率CCA、深度CCA、核CCA、判别CCA、稀疏CCA和局部保留CCA等。我们简单介绍其中具有代表性的算法。7.3 CCA算法拓展算法拓展7.3 CCA算法拓展算法拓展 CCA是一种双视角的方法,只能处理视角数为2的情况。MCCA(Multi-view CCA),即多视角CCA,将CCA直观地扩展到多视角版本。给定m个视角1,2,,其中第i个视角。MCCA希望找到1,2,将各视角投影到公共子空间,使得子空间中任意两个视角之间的相关系数之和最大:1,s.t.=1,2Tr(1122)s.t.1111=,2222=Multiview(1)Multivi
3、ew CCA 普通的CCA不能探索两组随机变量之间的非线性关系。KCCA是把核函数的思想引入CCA中,通过核函数方便地在高维特征空间进行关联分析。使用核技巧从而避开确定高维映射函数的形式。1,2Tr(1122)s.t.1111=,2222=引入非线性映射使用核技巧(2.1)(2.2)(2.3)11221211112222121122,argmaxwww XXww XXwwXXw=()()()11,vvvvijijk xxxx=12112222,111222argmaxK KKK=7.3 CCA算法拓展算法拓展(2)Kernel CCA深度典型相关分析的提出也是为了解决多视图学习的非线性问题。(
4、3.1)()()()()()()()()()1212121 122,11111112222222argmaxtr.XXXXrstXXr=+=+=ffW WWffWW ffI WIWffI WI7.3 CCA算法拓展算法拓展(3.1)deep CCADCCA深度典型相关分析另一代表性算法叫做DCCAE(deep canonically correlated autoencoders)。这是一种基于自编码器的CCA算法。()()()()()()()121212121 122,22112211221argmintrNiiiiiXXxxxxN=+ffggW WWWWWffWgfgf7.3 CCA算法拓
5、展算法拓展(3.2)deep CCADCCAE 判别CCA将标签信息融入到CCA的框架中。给定n个样本集(,)=1,其中和是第i个样本的不同模态数据。这里()表示的类内k近邻,()表示的类间k近邻。因此和表示局部类内和局部类间相关矩阵。1,2Tr()s.t.=,=1,2Tr()s.t.=,=局部判别其中,=-=1)(),(+=1)(),(+(4.1)(4.2)7.3 CCA算法拓展算法拓展(4)Discriminative CCA()()()()()()()()121122212,11211111111122222122211argmax1.1NNijijijijw wijNNijijijijNNijijijijwxxxxwwxxxxwstwxxxxw=局部保留CCA算法的核心假设是,输入数据在原始空间中距离相近,那么在投影空间中距离仍然相近。该算法的优势在于只考虑近邻点的影响,去除了弱近邻数据点的冗余信息。(,)=exp(1 12)(5.1)(5.2)7.3 CCA算法拓展算法拓展(5)Locality Preserving CCA 目标函数相似度总结Multiview CCAKernel CCAdeep CCADCCA&DCCAEDiscriminative CCALocality Preserving CCA 7.3 CCA算法拓展算法拓展