第四章不确定性推理教程以及答案分析课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第四章不确定性推理教程以及答案分析课件.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第四 不确定性 推理 教程 以及 答案 分析 课件
- 资源描述:
-
1、4.1 4.1 不确定性推理中的基本问题不确定性推理中的基本问题 要实现对不确定性知识的处理,必须要解决不要实现对不确定性知识的处理,必须要解决不确定知识的表示问题,不确定信息的计算问题,以确定知识的表示问题,不确定信息的计算问题,以及不确定性表示和计算的语义解释问题。及不确定性表示和计算的语义解释问题。1 1表示问题表示问题1 1、知识不确定性的表示、知识不确定性的表示2 2、证据的不确定性表示、证据的不确定性表示2.2.计算问题计算问题1 1、不确定性的传递算法、不确定性的传递算法2 2、结论不确定性的合成、结论不确定性的合成3 3、组合证据的不确定性算法、组合证据的不确定性算法3.3.语
2、义问题语义问题1 1、知识的不确定性度量、知识的不确定性度量2 2、证据的不确定性度量、证据的不确定性度量4.2 4.2 不确定性推理方法分类不确定性推理方法分类1 1、模型方法、模型方法 特点特点:把不确定的证据和不确定的知识分别与某把不确定的证据和不确定的知识分别与某种度量标准对应起来,并且给出更新结论不确定性的种度量标准对应起来,并且给出更新结论不确定性的算法,从而构成了相应的不确定性推理的模型。算法,从而构成了相应的不确定性推理的模型。非数值方法是指出数值方法外的其他各种处非数值方法是指出数值方法外的其他各种处理不确定性的方法理不确定性的方法 ,它采用集合来描述和处它采用集合来描述和处
3、理不确定性,而且满足概率推理的性质。理不确定性,而且满足概率推理的性质。非数值非数值方法方法数值方法是对不确定性的一种定量表示和数值方法是对不确定性的一种定量表示和处理方法。处理方法。数值方法数值方法数值方法数值方法分类分类2 2、模糊推理、模糊推理1 1、基于概基于概率的方法率的方法 对于数值方法,按其依据的理论不同又可分为对于数值方法,按其依据的理论不同又可分为以下两类:以下两类:4.2 4.2 不确定性推理方法分类不确定性推理方法分类4.2 4.2 不确定性推理方法分类不确定性推理方法分类 纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验纯概率方法虽然有严密的理论依据,但它通常
4、要求给出事件的先验概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法及理论及理论:1 1、主观、主观BayesBayes方法方法2 2、可信度方法、可信度方法3 3、证据理论、证据理论它是它是PROSPECTORPROSPECTOR专专家系统中使用的不家系统中使用的不确定推理模型,是确定推理模型,是对对BayesBayes公式修正公式修正后形成的一种不确后形成的一种不确定推理方法。定推理方法。它是它
5、是MYCINMYCIN专家系专家系统中使用的不确定统中使用的不确定推理模型,它以确推理模型,它以确定性理论为基础,定性理论为基础,方法简单、易用。方法简单、易用。它通过定义信任它通过定义信任函数、似然函数,函数、似然函数,把知道和不知道把知道和不知道区别开来。区别开来。4.2 4.2 不确定性推理方法分类不确定性推理方法分类2 2、控制方法控制方法 特点特点:通过识别领域中引起不确定性的某些特征及通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的相应的控制策略来限制或减少不确定性对系统产生的影响,这类方法没有处理不确定性的统一模型,其效影响,这类方法没有处理不
6、确定性的统一模型,其效果极大地依赖于控制策略。果极大地依赖于控制策略。相关性制相关性制导回溯导回溯 机缘控制机缘控制 启发式启发式搜索搜索 设有如下产生式规则:设有如下产生式规则:IF IF E E THEN THEN H H其中,其中,E E为前提条件,为前提条件,H H为结论,具有随机性。为结论,具有随机性。根据概率论中条件概率的含义,我们可以用条件概率根据概率论中条件概率的含义,我们可以用条件概率表示上述产生式规则的不确定性程度,即表示为在证据表示上述产生式规则的不确定性程度,即表示为在证据出现的条件下,结论出现的条件下,结论H H成立的确定性程度。成立的确定性程度。对于复合条件对于复合
7、条件 E E=E E1 1 ANDAND E E2 2 ANDAND AND AND EnEn可以用条件概率作为在证据出现时结论的确定程度。可以用条件概率作为在证据出现时结论的确定程度。4.3 4.3 概率方法概率方法4.3.1 4.3.1 经典概率方法经典概率方法4.3 4.3 概率方法概率方法4.3.2 Bayes4.3.2 Bayes定理定理 设设 为一些事件,为一些事件,互不互不相交,相交,P P(BiBi)0)0,i i=1,2,=1,2,n n,且,且 则对于则对于 有,有,(4.3.1)(4.3.1)()(|)(|)()(|)kkkiiiP B P A BP BAP B P A
8、B12,nA B BB12()0,nP AB BBiiBP)1(Bayes Bayes公式容易由条件概率的定义、乘法公式和全公式容易由条件概率的定义、乘法公式和全概率公式得到。在概率公式得到。在BayesBayes公式中,称为先验概率,而称公式中,称为先验概率,而称为后验概率,也就是条件概率。为后验概率,也就是条件概率。1,2,kn4.3 4.3 概率方法概率方法4.3.3 4.3.3 逆概率方法的基本思想逆概率方法的基本思想1 1单个证据的情况单个证据的情况 如果用产生式规则如果用产生式规则 IF IF E E THEN THEN H Hi i i i 1,2,1,2,n n其中前提条件其中
9、前提条件E E 代替代替BayesBayes公式中公式中B B,用,用H Hi i 代替公式中的代替公式中的A Ai i 就可得到就可得到 i i1,2,1,2,n n (4.3.2)(4.3.2)这就是说,当已知结论这就是说,当已知结论HiHi 的先验概率,并且已知结论的先验概率,并且已知结论Hi(i=1,2,Hi(i=1,2,)成立时前提条件成立时前提条件E E 所对应的证据出现的条件概率所对应的证据出现的条件概率P(E|Hi)P(E|Hi),就可以用上,就可以用上式 求 出 相 应 证 据 出 现 时 结 论式 求 出 相 应 证 据 出 现 时 结 论H iH i 的 条 件 概 率的
10、 条 件 概 率P(H i|E)P(H i|E)。1(|)()(|)(|)()iiinjjjP E H P HP HEP E HP H4.3 4.3 概率方法概率方法2 2多个证据的情况多个证据的情况 对于有多个证据对于有多个证据 和多个结论和多个结论 并且每个证据都以一定程度支持结论的情况,上面的并且每个证据都以一定程度支持结论的情况,上面的式子可进一步扩充为式子可进一步扩充为 (4.3.3)(4.3.3)12,mE EE12,nHHH1212121(/)(/)(/)()(/)(/)(/)(/)()iimiiimnjjmjjjP E H P EHP EH P HP HEEEP E H P E
11、HP EH P H 逆概率公式的优点是它有较强的理论背景和良好逆概率公式的优点是它有较强的理论背景和良好的数学特征,当证据及结论彼此独立时计算的复杂度的数学特征,当证据及结论彼此独立时计算的复杂度比较低。其缺点是要求给出结论比较低。其缺点是要求给出结论 的先验概率的先验概率 及及证据证据 的条件概率的条件概率 ,尽管有些时候,尽管有些时候 比比 相对容易得到,但总的来说,要想得到这相对容易得到,但总的来说,要想得到这些数据仍然是一件相当困难的工作。另外,些数据仍然是一件相当困难的工作。另外,BayesBayes公式公式的应用条件是很严格的,它要求各事件互相独立等,的应用条件是很严格的,它要求各
12、事件互相独立等,如若证据间存在依赖关系,就不能直接使用这个方法。如若证据间存在依赖关系,就不能直接使用这个方法。4.3 4.3 概率方法概率方法()iP HjE4.3.4 4.3.4 逆概率方法的优缺点逆概率方法的优缺点iH(/)jiP EH(/)ijPHE(/)jiP EH4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1 知识不确定性的表示知识不确定性的表示 在主观在主观BayesBayes方法中,知识是用产生式规则表示的,具体方法中,知识是用产生式规则表示的,具体形式为形式为 IF E THEN (LSIF E THEN (LS,LN)H (P(H)LN)H (P
13、(H)其中其中(1 1)E E 是该知识的前提条件。它既可以是一个简单条件,也可是该知识的前提条件。它既可以是一个简单条件,也可以是复合条件。以是复合条件。(2 2)H H 是结论。是结论。P(H)P(H)是是 H H 的先验概率,它指出在没有任何证据的先验概率,它指出在没有任何证据情况下的结论情况下的结论 H H 为真的概率,即为真的概率,即 H H 的一般可能性。其值由领的一般可能性。其值由领域专家根据以往的实践及经验给出。域专家根据以往的实践及经验给出。(3 3)(LSLS,LNLN)为规则强度。其值由领域专家给出。为规则强度。其值由领域专家给出。LSLS,LNLN相相当于知识的静态强度
14、。当于知识的静态强度。4.4 4.4 主观主观BayesBayes方法方法4.4.2 4.4.2 证据不确定性的表示证据不确定性的表示 若以若以O(A)O(A)或或P P(A A)表示证据表示证据A A的不确定性,则转换公式的不确定性,则转换公式是:是:0()()1()0,P AO AP A当A为假时当A为真时当A介于真假之间时4.4 4.4 主观主观BayesBayes方法方法4.4.3 4.4.3 不确定性的遗传算法不确定性的遗传算法1 1证据肯定存在的情况证据肯定存在的情况 在证据在证据E E 肯定存在时,把先验几率肯定存在时,把先验几率O O(H H)更新为后验更新为后验几率几率O O
15、(H H/E E)的计算公式为的计算公式为 (4.4.1)(4.4.1)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.2)(4.4.2)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H/E E)的计算公式。的计算公式。(/)()O H ELSO H()(/)(1)()1LSP HP H ELSP H4.4 4.4 主观主观BayesBayes方法方法2 2证据肯定不存在的情况证据肯定不存在的情况 在证据在证据E E肯定不存在时,把先验几率肯定不存在时,把先验几率O(H)O(H)更新为后验更新为后验几率几率O O(H H/E E)的计算
16、公式为的计算公式为 (4.4.3)(4.4.3)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.4)(4.4.4)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H/E E)的计算公式。的计算公式。(/)()O HELNO H()(/)(1)()1LNP HP HELNP H4.4 4.4 主观主观BayesBayes方法方法3 3证据不确定的情况证据不确定的情况 在证据不确定的情况下,不能再用上面的公式计算在证据不确定的情况下,不能再用上面的公式计算后验概率,而要用杜达等人后验概率,而要用杜达等人19761976年证明了的公式年证明了的
17、公式 (4.4.5)(4.4.5)来计算。来计算。(/)(/)(/)(/)(/)P H SP H EP E SP HEPE S下面分四种情况讨论这个公式下面分四种情况讨论这个公式(4.4.5)(4.4.5):(1 1)当)当P(E/S)=1P(E/S)=1时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定存在的情况。这就是证据肯定存在的情况。(2 2)当)当P(E/S)=0P(E/S)=0时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定不存在的情况。这就是证据肯定不存在的情况。4.4 4.4 主观主观BayesBayes方法方法()(/)(/)(1)(
18、)1LSP HP H SP H ELSP H1)()1()()/()/(HPLNHPLNEHPSHP(3 3)当)当P(E/S)=P(E)P(E/S)=P(E)时,表示时,表示E E与与S S无关,利用全概率公式无关,利用全概率公式将公式将公式(4.4.5)(4.4.5)变为变为(4 4)当)当P(E/S)P(E/S)为其它值时,通过分段线性插值就可得计为其它值时,通过分段线性插值就可得计算算P(H/S)P(H/S)的公式的公式 该公式称为该公式称为EHEH公式或公式或UEDUED公式。公式。4.4 4.4 主观主观BayesBayes方法方法(/(/)()(/)()()P H SP H EP
19、 EP HEPEP H)()(/)(/)(/)()0(/)()(/)(/)()()(/)1()(/)()1()P HP HEP HEP E SP EP E SP EP H SP H EP HP EP E SP HP E SP EP E当当 4 4组合证据的情况组合证据的情况 (1 1)当组合证据是多个单一证据的合取时,即)当组合证据是多个单一证据的合取时,即 E E=E E1 and 1 and E E2 and 2 and and and EnEn 时,如果已知时,如果已知 则则 P P(E E/S S)=)=minmin (2 2)当组合证据)当组合证据E E是多个单一证据的析取时,即是多
20、个单一证据的析取时,即 E E=E E1 or 1 or E E2 or 2 or or or EnEn 时,如果已知时,如果已知 则,则,P P(E E/S S)=)=maxmax “非非”运算用下式计算运算用下式计算 4.4 4.4 主观主观BayesBayes方法方法12(/),(/),(/),nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES(/)1(/)PESP ES 若有若有n n条知识都支持相同的结论条知识都支持相同的结论,而且每条知识的,而且每条知
21、识的前提条件所对应的证据前提条件所对应的证据 都有相应的观察都有相应的观察 与之对应,此时只要先对每条知识分别求出与之对应,此时只要先对每条知识分别求出 然后就可运用下述公式求出然后就可运用下述公式求出4.4 4.4 主观主观BayesBayes方法方法iS(/)iO HS4.4.4 4.4.4 结论不确定性的合成算法结论不确定性的合成算法iS(1,2,)iE in12(/,)nO H S SS12121212,1,2(/)(/)(/)(/,)()()()()(/,)(/,)1(/,)nnnnnO H SO H SO H SO H S SSO HO HO HO HO H S SSP H S S
22、SO H S SS 4.4 4.4 主观主观BayesBayes方法方法例例2 2 设有如下知识设有如下知识R R1 1:IF IF A A THEN(20 THEN(20,1)1)B B1 1(0.03)(0.03)R R2 2:IF IF B B1 1 THEN(300 THEN(300,0.0001)0.0001)B B2 2(0.01)(0.01)求:当证据求:当证据A A不存在时不存在时,P(BP(B2 2/A)A)的值是多少?的值是多少?解解:(1 1)由于)由于A A必发生,由必发生,由R R1 1得得111()200.03(/)0.3822(1)()1(201)0.031LSP
23、 BP BALSP B (2 2)由于)由于B B1 1不是必发生的,所以需作插值处理。不是必发生的,所以需作插值处理。21212()300 0.01(/)1(/)0.75188(1)()1(300 1)0.03 1LS P BP B AP B BLSP B 设设4.4.5 4.4.5 例子例子 4.4 4.4 主观主观BayesBayes方法方法11(/)()0.03P BAP B2()0.01P B1(/)0.03,1P BA 20.751880.01(/)0.01(0.38220.03)0.30510510.03P BA当当时,有时,有,所以在此区间插值。,所以在此区间插值。由于由于 主
24、观主观BayesBayes方法的主要优点如下:方法的主要优点如下:(1 1)主观)主观BayesBayes方法中的计算公式大多是在概率论的基方法中的计算公式大多是在概率论的基础上推导出来的,具有较坚实的理论基础。础上推导出来的,具有较坚实的理论基础。(2 2)知识的静态强度)知识的静态强度LSLS及及LNLN是由领域专家根据实验经验是由领域专家根据实验经验给出的,这就避免了大量的数据统计工作。另外,它给出的,这就避免了大量的数据统计工作。另外,它既用既用LSLS指出了证据指出了证据E E对结论对结论H H的支持程度,又用的支持程度,又用LNLN指出指出了了E E对对H H的必要性程度,这就比较
25、全面地反映了证据与的必要性程度,这就比较全面地反映了证据与结论间因果关系,符合现实世界中某些领域的实际情结论间因果关系,符合现实世界中某些领域的实际情况,使推出的结论有较况,使推出的结论有较准确的确定性。准确的确定性。4.4 4.4 主观主观BayesBayes方法方法4.4.6 4.4.6 主观主观BayesBayes方法的主要优缺点方法的主要优缺点(3 3)主观)主观BayesBayes方法不仅给出了在证据肯定存在或肯定方法不仅给出了在证据肯定存在或肯定不存在情况下由不存在情况下由H H的先验概率更新为后验概率的方法,的先验概率更新为后验概率的方法,而且还给出了在证据不确定情况下更新先验概
展开阅读全文