《第五届全国搜索引擎和网上信息挖掘学术研讨会.ppt》由会员分享,可在线阅读,更多相关《第五届全国搜索引擎和网上信息挖掘学术研讨会.ppt(13页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第五届全国搜索引擎和网上信息挖掘学术研讨会第五届全国搜索引擎和网上信息挖掘学术研讨会SEWM 2007 SEWM 2007 中文中文webweb检索评测报告检索评测报告江西师范大学江西师范大学报告人报告人:曹瑛曹瑛 内容提纲内容提纲 评测目标评测目标 系统设计 实验结果 未来工作评测目标评测目标主题提取(TD)查找主题相关的关键资源的入口导航搜索 (HPNP)HP 查找指定名字的网站的首页NP 查找指定名字的页面主题提取主题提取TD 任务分析不能按照网页相似度大小来判断l站点是从一组相关网页的入口l网页深度一般不会大于4导航搜索导航搜索导航搜索 (HPNP)主页查找检索返回的相关网页可能只来源
2、于某几个网站主页大部分是以“/”结尾,或者结尾包含“index”,“default”单词指定页面查找 一般可以按照网页的检索评分得到结果 查询任务和网页的title基本一致系统设计系统设计解压缩查询任务分析CWT200g分析网页分词预处理TD/HPNP初次排序结果检索建立索引二次检索系统设计系统设计分析网页去掉冗余信息,只保留title和body的标签内容分词 北大天网提供的CHSeg分词程序统计词频系统设计系统设计查询分析手动判断,分开HP和NP查询对查询进行分词,统计词频索引和检索开源lucene对提取的title和body建立索引检索中运用向量模型权重计算公式 W(ti,dj)=二次排序
3、针对不同的查询任务采取不同策略HPu查找主页首先要进行网页站点聚类,每个网站取出若干根据规则得到的主页后选页面,然后按照title:body=4:1重新评分,进行排序NPu不进行二次排序TDu首先要进行网页站点聚类,每个网站取出根据规则得到的候选页面,然后按照title:body=1:4重新评分,进行排序提交结果提交结果RUN1 firtex工具RUN2用title和body检索RUN3只用title进行检索实验环境实验环境 操作系统 redhat9.0 系统配置2.8G CPU,内存4G 编程语言 java总结和未来工作总结和未来工作网页结构提取网页分块字体大小、文字样式词的位置关系链接关系分析锚文本的利用检索模型的更新