《主题模型综述教学提纲.ppt》由会员分享,可在线阅读,更多相关《主题模型综述教学提纲.ppt(15页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
主题模型综述ContentLatent semantic analysis(LSA)SVDProbabilistic latent semantic analysis(PLSA)Expect Maximum(EM)LDA(Latent Dirichlet Analysis)各种各种变种及种及应用(用(扩展部分)展部分)最大似然函数EM(期望最大化算法)EM算法的步骤是:(1)E步骤:求隐含变量Given当前估计的参数条件下的后验概率。(2)M步骤:最大化Complete data对数似然函数的期望,此时我们使用E步骤里计算的隐含变量的后验概率,得到新的参数值。两步迭代进行直到收敛。解决方法(MLE)拉格朗日乘子法求解方程组得到LDA涉及到的数学知识概率 条件概率、贝叶斯、GammaBetaDirichlet分布、共轭分布、随机过程之马尔科夫链随机抽样:MCMC、GibbsSamples