为系统索引项集合则Di={di1di2…din}dij≥0课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《为系统索引项集合则Di={di1di2…din}dij≥0课件.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 系统 索引 集合 Di di1di2 din dij 课件
- 资源描述:
-
1、信息检索与搜索引擎排序算法信息检索与搜索引擎排序算法 -徐艳霞主要内容主要内容 1 信息检索模型介绍信息检索模型介绍 2 搜索引擎典型排序算法介绍搜索引擎典型排序算法介绍 3 适用于数学公式搜索引擎排序算法探讨适用于数学公式搜索引擎排序算法探讨搜索引擎排序标准如果我牙疼,应该去看怎样的医生呢?假设我只有三种选择:如果我牙疼,应该去看怎样的医生呢?假设我只有三种选择:A医生,既治眼病,又治胃病;医生,既治眼病,又治胃病;B医生,既治牙病,又治胃病,还治眼病;医生,既治牙病,又治胃病,还治眼病;C医生,专治牙病医生,专治牙病。假如再加一个条件:假如再加一个条件:B医生经验丰富,有二十年从医经历,医
2、术高明,医生经验丰富,有二十年从医经历,医术高明,而而C医生只有五年从医经验。医生只有五年从医经验。结论:结论:择医需要考虑两个条件,择医需要考虑两个条件,1:医生的专长与病情的适配程度:医生的专长与病情的适配程度 2:医生的医术医生的医术 网页内容与用户查询的匹配程度网页内容与用户查询的匹配程度 搜索引擎排序搜索引擎排序 网页本身的质量网页本身的质量 目录 1.1 信息检索模型的定义及检索系统的形式化表示信息检索模型的定义及检索系统的形式化表示 1.2 布尔模型布尔模型 1.3 向量空间模型向量空间模型 1.4 概率模型概率模型 1.5 典型的搜索引擎排序算法典型的搜索引擎排序算法 信息检索
3、模型信息检索模型 1 信息检索模型的定义信息检索模型的定义 什么是数学模型?什么是数学模型?为了某种特定目的,通过对现实世界的某一特定对象做出为了某种特定目的,通过对现实世界的某一特定对象做出一些必要的简化与假设,运用适当的数学工具得到的一种一些必要的简化与假设,运用适当的数学工具得到的一种数学结构。数学结构。面对相同的输入,模型的输出应能够无限地逼近现实世界面对相同的输入,模型的输出应能够无限地逼近现实世界的输出。的输出。信息检索模型信息检索模型 是用来描述文档和用户查询的表示形式以及它们之间相关是用来描述文档和用户查询的表示形式以及它们之间相关性的框架性的框架信息检索模型信息检索模型 信息
4、检索的实质问题信息检索的实质问题 对于所有文档,根据其与用户查询的相关程度由大到小对于所有文档,根据其与用户查询的相关程度由大到小进行排序。进行排序。信息检索模型与搜索引擎排序算法关系信息检索模型与搜索引擎排序算法关系 好的信息检索模型在相关性上产生和人类决策非常相关好的信息检索模型在相关性上产生和人类决策非常相关的结果,基于好的检索模型的排序算法能够在排序结果顶的结果,基于好的检索模型的排序算法能够在排序结果顶部返回相关的文档。部返回相关的文档。在在TREC数据集上的试验中,最有效的排序算法来自于数据集上的试验中,最有效的排序算法来自于被明确定义的检索模型。(在商用的搜索引擎中,所使用被明确
5、定义的检索模型。(在商用的搜索引擎中,所使用的检索模型没用明确的定义,但其排序算法都依赖于坚实的检索模型没用明确的定义,但其排序算法都依赖于坚实的数学基础)的数学基础)信息检索模型信息检索模型 相关性概念相关性概念 信息检索系统的形式化表示信息检索系统的形式化表示相关性相关性 主题相关(一篇文档被判定和一个查询是同一主题)1.相关性 用户相关(考虑用户在判定相关性时涉及的所有因素)二元相关(简单判定一篇文档是相关还是非相关)2.相关性 多元相关(从多个层次判断相关性)信息检索模型形式化表示信息检索模型形式化表示 信息检索系统的形式化表示 D,Q,F,R(Di,q)1.文档表示文档表示 D 文档
6、集合的机内表示文档集合的机内表示 D=D1,D2,Dm 为了满足检索匹配所要求的快速与便利,文档为了满足检索匹配所要求的快速与便利,文档Di通常由通常由从文档中抽取的能够表达文档内容的特征项(如索引项从文档中抽取的能够表达文档内容的特征项(如索引项/检索词检索词/关键词)来表示关键词)来表示 设设T=t1,t2,tn 为系统索引项集合。为系统索引项集合。则则Di=di1,di2,din(dij0)dij索引词索引词tj在文档在文档Di中的重要性(权值中的重要性(权值weight)信息检索模型信息检索模型 D,Q,F,R(Di,q)2 查询项查询项Q表示表示 查询项查询项Q表示为有表示为有n个权
7、值的向量:个权值的向量:Q=(q1,q2,q3,qn)其中其中qj是第是第j个词项的权值。个词项的权值。3 F 文档与查询查询之间的匹配框架文档与查询查询之间的匹配框架 4 R(Di,q)文档与用户查询之间相关度计算函数文档与用户查询之间相关度计算函数例:例:D1:Tropical Freshwater Aquarium Fish.D2:Tropical Fish,Aquarium Care,Tank Setup.D3:Keeping Tropical Fish and Goldfish in Aquariums,and Fish Bowls.D4:The Tropical Tank Home
8、page-Tropical Fish and Aquariums.文档向量表示:文档向量表示:Terms Documents D1 D2 D3 D4aquarium 1 1 1 1bowl 0 0 1 0care 0 1 0 0Fish 1 1 2 1Freshwater 1 0 0 0Goldfish 0 0 1 0Homepage 0 0 0 1Keep 0 0 1 0Setup 0 1 0 0Tank 0 1 0 1Tropical 1 1 1 2查询表示:查询表示:如:查询项为“tropical fish”,则基于以上查询项的向量表示形式为:q=(0,0,0,1,0,0,0,0,0,0
9、,1).信息检索模型信息检索模型信息检索模型信息检索模型 1.1 信息检索模型的定义信息检索模型的定义 1.2 布尔模型布尔模型 1.3 向量空间模型向量空间模型 1.4 概率模型概率模型 1.5 典型的搜索引擎排序算法典型的搜索引擎排序算法 1.6 适用于数学公式搜索引擎排序算法的适用于数学公式搜索引擎排序算法的探探 讨讨布尔模型布尔模型 最早的最早的IR模型模型 1957年,年,YBar-Hille就对布尔逻辑应用于计算机信息检就对布尔逻辑应用于计算机信息检索的可能性进行了探讨目前仍然应用于商业系统中索的可能性进行了探讨目前仍然应用于商业系统中 布尔模型的前提假设:布尔模型的前提假设:1.
10、在检索到的集合中所有文档关于相关性是等价的。在检索到的集合中所有文档关于相关性是等价的。2.相关性是二元的。相关性是二元的。特点特点 1.检索的结果只输出结果(检索的结果只输出结果(TURE|FALSE)。2.查询项被描述为布尔逻辑操作符查询项被描述为布尔逻辑操作符(AND,OR,NOT)。布尔模型布尔模型 Q 查询查询q被表式成索引项的布尔组合形式被表式成索引项的布尔组合形式 为方便计算文档为方便计算文档D和查询和查询q之间的相关度,一般之间的相关度,一般将查询将查询q的布尔表达式转换成的布尔表达式转换成析取范式析取范式(Disjunctive Normal Form,DNF)的形式)的形式
11、 Example q=(a b)z (az)(b z)(1,0,1)(1,1,1)(0,1,1)析取范式析取范式(1)由有限个简单合取式构成的析取式称为析)由有限个简单合取式构成的析取式称为析取范式。取范式。(2)仅由有限个文字构成的合取式称为简单合)仅由有限个文字构成的合取式称为简单合取式。取式。布尔模型布尔模型 Example:q=病毒病毒and(计算机(计算机or 电脑)电脑)and not 医医 D:D1:据报道据报道计算机病毒计算机病毒最近猖獗最近猖獗 D2:小王虽然是学:小王虽然是学医医的,但对研究的,但对研究电脑病毒电脑病毒也感兴趣也感兴趣 D3:计算机计算机程序发现了艾滋病程序
12、发现了艾滋病病毒病毒传播途径传播途径 上述文档哪一个会被检索到?上述文档哪一个会被检索到?q=病毒病毒(计算机计算机电脑电脑)医医 q-dnf=(病毒病毒计算机计算机医医)(病毒病毒电脑电脑医医)采用完全匹配的方式采用完全匹配的方式 -If sim(Di,q)=1,返回返回 -If sim(Di,q)=0,不返回,不返回布尔模型布尔模型 Example D-D1:a,b,c,f,g,h D1=(1,1,0)-D2:a,f,b,x,y,z D2=(1,1,1)q-(ab)z (1,0,1)(0,1,1)(1,1,1)F-sim(D1,q)=0-sim(D2,q)=1 R-将文档将文档2返回返回布
13、尔模型布尔模型 缺点:缺点:效率完全依赖于用户,包含特定检效率完全依赖于用户,包含特定检索词的所有文档将按照某种和相关性无关索词的所有文档将按照某种和相关性无关的顺序(如:日期)呈现给用户。的顺序(如:日期)呈现给用户。优点:优点:查询项无局限性,可以是任何文档查询项无局限性,可以是任何文档的特征而只非词语,可以直接在检索规范的特征而只非词语,可以直接在检索规范中融入元数据,如文档日期,文档类型。中融入元数据,如文档日期,文档类型。比排序检索更有效,文档可以在搜索过程比排序检索更有效,文档可以在搜索过程中快速被剔除。中快速被剔除。信息检索模型 1.1 信息检索模型的定义信息检索模型的定义 1.
14、2 布尔模型布尔模型 1.3 向量空间模型向量空间模型 1.4 概率模型概率模型 1.5 典型的搜索引擎排序算法典型的搜索引擎排序算法 向量空间模型向量空间模型 向量空间模型(向量空间模型(Vector Space Model,VSM)是由)是由GSalton等人在等人在1958年提出的年提出的 代表系统代表系统 SMART(System for the Manipulation and Retrieval of Text)这一系统理论框架到现在仍然是信息检索这一系统理论框架到现在仍然是信息检索技术研究的基础技术研究的基础向量空间模型向量空间模型1.仍然采用如前所述的信息检索系统的形式化表示。
15、仍然采用如前所述的信息检索系统的形式化表示。2.向量空间模型的定义:向量空间模型的定义:D=D1,D2,Di=(Di1,Di2,Din)Dij0 Q q=(q1,q2,qn)qj0 F 非完全匹配方式非完全匹配方式 R 在在VSM中,由于文档和查询都是向量,因此用文档和查询两个向量相似度中,由于文档和查询都是向量,因此用文档和查询两个向量相似度来估计文档和查询的相关性来估计文档和查询的相关性 文档和查询之间的相关度具有较强的可计算性和可操作性,不再只有文档和查询之间的相关度具有较强的可计算性和可操作性,不再只有0和和1两个值两个值 sim(Di,q)3 前提假设前提假设 1.在检索到的集合中所
16、有文档关于相关性是不等价的。在检索到的集合中所有文档关于相关性是不等价的。2.相关性是多元元的。相关性是多元元的。3.查询关键字之间是相互独立的。查询关键字之间是相互独立的。向量空间模型向量空间模型 例图:例图:相似度度量的提出相似度度量的提出 基于以上表示和分析可以通过计算表示文档和查询点基于以上表示和分析可以通过计算表示文档和查询点之间的距离来进行排序。之间的距离来进行排序。词项1词项2词项3查询查询文档文档2文档文档1向量空间模型向量空间模型余弦相似度度量方法余弦相似度度量方法内积值没有界限内积值没有界限 不象概率值,要在不象概率值,要在(0,1)之间之间对长文档有利对长文档有利 内积用
17、于衡量有多少词项匹配成功,而不计算有多少词项匹配失败内积用于衡量有多少词项匹配成功,而不计算有多少词项匹配失败 长文档包含大量独立词项,每个词项均多次出现,因此一般而言,和长文档包含大量独立词项,每个词项均多次出现,因此一般而言,和查询式中的词项匹配成功的可能性就会比短文档大。查询式中的词项匹配成功的可能性就会比短文档大。利用向量长度对内积进行归一化利用向量长度对内积进行归一化12211cos(,)nijjjinnijjjjdqDQdq=邋向量空间模型向量空间模型 Example D1=(0.5,0.8,0.3)D2=(0.9,0.4,0.2)Q=(1.5,1.0,0)cos(D1,Q)=0.
18、87;cos(D2,Q)=0.97;优点:优点:-反映出不同关键词在文档中的重要程度。反映出不同关键词在文档中的重要程度。-可以根据结果文档对于查询串的相关度通过余弦相似度度可以根据结果文档对于查询串的相关度通过余弦相似度度量等公式对结果文档进行排序量等公式对结果文档进行排序-可以控制输出结果的数量可以控制输出结果的数量向量空间模型向量空间模型缺点:缺点:认为关键词之间是相互独立的,这一假设有时不符合自然语言的实际认为关键词之间是相互独立的,这一假设有时不符合自然语言的实际情况,未能揭示词语之间的关系。情况,未能揭示词语之间的关系。如何确定词项在文档中的权值?如何确定词项在文档中的权值?使用使
展开阅读全文