人工智能课件：AI5章不确定性推理.ppt

1、1第第5章章 不确定性推理不确定性推理 5.1 不确定性推理的基本概念不确定性推理的基本概念 5.1.1 不确定性推理的含义不确定性推理的含义 5.1.2 不确定性推理的基本问题（表示、匹配、更新、合成）不确定性推理的基本问题（表示、匹配、更新、合成） 5.1.3 不确定性理的类型不确定性理的类型5.2 可信度推理可信度推理5.3 主观主观Bayes推理推理5.4 证据理论证据理论5.5 模糊推理模糊推理5.6 概率推理概率推理 现实世界中的大多数问题是不精确、非完备的。因此，人工智能需要研现实世界中的大多数问题是不精确、非完备的。因此，人工智能需要研究不精确性的推理方法，以满足客观问题的需求

2、。究不精确性的推理方法，以满足客观问题的需求。 25.1.1 不确定性推理的含义不确定性推理的含义 什么是不确定性推理什么是不确定性推理 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理，模糊知识的推理，非单调性推理等。完备、不精确知识的推理，模糊知识的推理，非单调性推理等。 不确定性推理过程实际上是一种从不确定的初始证据出发，通过不确定性推理过程实际上是一种从不确定的初始证据出发，通过运用不确定性知识，最终推出具有一定不确定性但却又是合理或基运用不确定性知识，最终推出具有一定不确定性但却又是合理或基本合理的

3、结论的思维过程。本合理的结论的思维过程。为什么要采用不确定性推理为什么要采用不确定性推理 所需知识不完备、不精确所需知识不完备、不精确 所需知识描述模糊所需知识描述模糊 多种原因导致同一结论多种原因导致同一结论 解题方案不唯一解题方案不唯一35.1.2 不确定性推理的基本问题不确定性推理的基本问题不确定性的表示不确定性的表示(1) 知识的不确定性的表示知识的不确定性的表示 考虑因素考虑因素：问题的描述能力，推理中不确定性的计算：问题的描述能力，推理中不确定性的计算 含义：含义：知识的确定性程度，或动态强度知识的确定性程度，或动态强度 表示：表示：用概率用概率，0,1，0接近于假，接近于假，1接

4、近接近 用可信度用可信度，-1,1，大于，大于0接近于真，小于接近于真，小于0接近于假接近于假(2) 证据不确定性的表示证据不确定性的表示 证据的类型：证据的类型：按证据组织：按证据组织：基本证据，组合证据基本证据，组合证据 按证据来源：按证据来源：初始证据，中间结论初始证据，中间结论 表示方法：表示方法：概率，可信度，模糊集等概率，可信度，模糊集等 基本证据：基本证据：常与知识表示方法一致，如概率，可信度，模糊集等常与知识表示方法一致，如概率，可信度，模糊集等 组合证据：组合证据：组合方式：组合方式：析取的关系，合取的关系。析取的关系，合取的关系。 计算方法：计算方法：基于基本证据基于基本证

5、据 最大最小方法，概率方法，有界方法最大最小方法，概率方法，有界方法 等。等。4含义含义 不确定的前提条件与不确定的事实匹配不确定的前提条件与不确定的事实匹配问题问题 前提是不确定的，事实也是不确定的前提是不确定的，事实也是不确定的方法方法 设计一个计算相似程度的算法，给出相似的限度设计一个计算相似程度的算法，给出相似的限度标志标志 相似度落在规定限度内为匹配，否则为不匹配相似度落在规定限度内为匹配，否则为不匹配5.1.2 不确定性推理的基本问题不确定性推理的基本问题不确定性的匹配不确定性的匹配54. 不确定性的更新不确定性的更新 主要问题主要问题 如何用证据的不确定性去更新结论的不确定性如何

6、用证据的不确定性去更新结论的不确定性 如何在推理中把初始证据的不确定性传递给最终结论如何在推理中把初始证据的不确定性传递给最终结论 解决方法解决方法 对，不同推理方法的解决方法不同对，不同推理方法的解决方法不同 对，不同推理方法的解决方法基本相同，即把当对，不同推理方法的解决方法基本相同，即把当 前结论及其不前结论及其不确定性作为新的结论放入综合数据库，依次确定性作为新的结论放入综合数据库，依次 传递，直到得出最终结传递，直到得出最终结论论5. 不确定性结论的合成不确定性结论的合成 含义：含义：多个不同知识推出同一结论，且不确定性程度不同多个不同知识推出同一结论，且不确定性程度不同 方法：方法

7、：视不同推理方法而定视不同推理方法而定5.1.2 不确定性推理的基本问题不确定性推理的基本问题不确定性的更新不确定性的更新 不确定性结论的合成不确定性结论的合成6模糊方法模糊方法基于概率基于概率主观主观Bayes方法方法可信度方法可信度方法证据理论证据理论数数值值方方法法非非数数值值方方法法不不确确定定性性推推理理框架推理框架推理 语义网络推理语义网络推理 常识推理常识推理5.1.3 不确定性推理的类型不确定性推理的类型概率方法概率方法概率推理概率推理7第第5章章 不确定性推理不确定性推理 5.1 不确定性推理的基本概念不确定性推理的基本概念5.2 可信度推理可信度推理 5.2.1 可信度的概

8、念可信度的概念 5.2.2 可信度推理模型可信度推理模型 5.2.2 可信度推理的例子可信度推理的例子5.3 主观主观Bayes推理推理5.4 证据理论证据理论5.5 模糊推理模糊推理5.6 概率推理概率推理8 可信度是指人们根据以往经验对某个事物或现象为真的程度的可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断，或者说是人们对某个事物或现象为真的相信程度。一个判断，或者说是人们对某个事物或现象为真的相信程度。 例如，沈强昨天没来上课，理由是头疼。就此理由，只有以下例如，沈强昨天没来上课，理由是头疼。就此理由，只有以下两种可能：一是真的头疼了，理由为真；二是没有头疼，理由为两种可

9、能：一是真的头疼了，理由为真；二是没有头疼，理由为假。但就听话人而言，因不能确切知道，就只能某种程度上相信，假。但就听话人而言，因不能确切知道，就只能某种程度上相信，即可信度。即可信度。 可信度具有一定的主观性，较难把握。但对某一特定领域，让可信度具有一定的主观性，较难把握。但对某一特定领域，让该领域专家给出可信度还是可行的。该领域专家给出可信度还是可行的。 5.2.1 可信度的概念可信度的概念95.2.2 可信度推理模型可信度推理模型知识不确定性的表示知识不确定性的表示 表示形式：表示形式： 在在C-F模型中，知识是用产生式规则表示的，其一般形式为：模型中，知识是用产生式规则表示的，其一般形

10、式为： IF E THEN H (CF(H, E)其中，其中，E是知识的前提条件；是知识的前提条件；H是知识的结论；是知识的结论；CF(H, E)是知识的可信度。是知识的可信度。 说明：说明： E可以是单一条件，也可以是复合条件。例如：可以是单一条件，也可以是复合条件。例如： E=(E1 OR E2) AND E3 AND E4 H可以是单一结论，也可以是多个结论可以是单一结论，也可以是多个结论 CF是知识的静态强度，是知识的静态强度，CF(H, E)的取值为的取值为-1, 1，表示当，表示当E为真时，证为真时，证据对据对H的支持程度，其值越大，支持程度越大。的支持程度，其值越大，支持程度越大

11、。 例子：例子： IF 发烧发烧 AND 流鼻涕流鼻涕 THEN 感冒感冒 (0.8)表示当某人确实有表示当某人确实有“发烧发烧”及及“流鼻涕流鼻涕”症状时，则有症状时，则有80%的把握是患了感的把握是患了感冒。冒。10 在在CF模型中，把模型中，把CF(H, E)定义为定义为 CF(H, E)=MB(H, E)-MD(H, E) 式中式中MB称为信任增长度，称为信任增长度，MB(H, E)定义为定义为5.2.2 可信度推理模型可信度推理模型可信度的定义可信度的定义 (1/2)1,()1(,)max (|), ()(),1()P HMB H EP H E P HP HP H若否则1,( )0(

12、 , )min (| ), ( )( ),( )P HMD H EP H E P HP HP H若否则MD称为不信任增长度，称为不信任增长度，MD(H, E)定义为定义为11 MB和和MD的关系的关系 当当MB(H, E)0时，有时，有P(H|E)P(H)，即，即E的出现增加了的出现增加了H的概率的概率 当当MD(H, E)0时，有时，有P(H|E)P(H) ，即，即E的出现降低了的出现降低了H的概率的概率 根据前面对根据前面对CF(H, E)可信度可信度 、MB(H, E)信任增长度、信任增长度、MD(H, E)不信增长不信增长度的定义，可得到度的定义，可得到CF(H, E)的计算公式：的计

13、算公式：)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若5.2.2 可信度推理模型可信度推理模型可信度的性质可信度的性质(2/2) 分别解释分别解释CF(H,E)0，CF(H,E)=0，CF(H,E)0时，时，MD(H, E)=0 当当MD(H, E)0时，时，MB(H, E)=0 (2) 值域值域 (3) 典型值典型值 当当CF(H,E)=1时，有时，有P(H/E)=1，它说明由于，它说明由于E所对应证据的出现使所对应证据的出现使H为真。为真。此时，此时，MB(H, E

14、)=1，MD(H, E)=0。 当当CF(H,E)= -1时，有时，有P(H/E)=0，说明由于，说明由于E所对应证据的出现使所对应证据的出现使H为假。为假。此时，此时，MB(H, E)=0，MD(H,E)=1。 当当CF(H,E)= 0时，有时，有MB(H, E)=0、MD(H, E)=0。前者说明。前者说明E所对应证据的所对应证据的出现不证实出现不证实H；后者说明；后者说明E所对应证据的出现不否认所对应证据的出现不否认H。5.2.2 可信度推理模型可信度推理模型可信度的性质可信度的性质(1/3)1),(1, 1),(0, 1),(0EHCFEHMDEHMB13 (4)对对H的信任增长度等于

15、对非的信任增长度等于对非H的不信任增长度的不信任增长度 根据根据MB、MD的定义及概率的性质有：的定义及概率的性质有： 再根据再根据CF的定义和的定义和MB、MD的互斥性有的互斥性有 CF(H,E)+CF(H,E) =(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E) =(MB(H,E)-0)+(0-MD(H,E) (由互斥性由互斥性) =MB(H,E)-MD(H,E)=0 它说明：它说明： (1)对对H的信任增长度等于对非的信任增长度等于对非H的不信任增长度的不信任增长度 (2)对对H的可信度与非的可信度与非H的可信度之和等于的可信度之和等于0 (3)可信度不是概率，不满足可

16、信度不是概率，不满足 P(H)+P(H)=1 和和 0P(H),P(H) 15.2.2 可信度推理模型可信度推理模型可信度的可信度的性质性质(2/3)(|)()(1(|) (1()(, )()(1()(|)()( (|)()(1()(1()(|)()(, ) ()1()PH EPHP H EP HMDH EPHP HP H EP HP H EP HP HP HP H EP HMB H EP H 信任增长度14 (5)对同一前提对同一前提E，若支持若干个不同的结论，若支持若干个不同的结论Hi(i=1,2,n)，则，则因此，如果发现专家给出的知识有如下情况因此，如果发现专家给出的知识有如下情况 C

17、F(H1, E)=0.7, CF(H2, E)=0.4则因则因0.7+0.4=1.11为非法，应进行调整或规范化。为非法，应进行调整或规范化。niiEHCF11),(5.2.2 可信度推理模型可信度推理模型可信度的性质可信度的性质(3/3)15基本证据基本证据表示方法，用可信度，其取值范围也为表示方法，用可信度，其取值范围也为-1,1。例如，。例如，CF(E) ，其的含义：，其的含义： CF(E)=1，证据，证据E肯定它为真肯定它为真 CF(E)=-1，证据，证据E肯定它为假肯定它为假 CF(E)=0，对证据，对证据E一无所知一无所知 0CF(E)1，证据，证据E以以CF(E)程度为真程度为真

18、 -1CF(E)0，证据，证据E以以CF(E)程度为假程度为假否定证据否定证据 CF(E)=- CF(E)组合证据组合证据 合取：合取：E=E1 AND E2 AND En时，若已知时，若已知CF(E1)，CF(E2)，则，则 CF(E)=minCF(E1), CF(E2), ,CF(En) 析取：析取：E=E1 OR E2 OR En时，若已知时，若已知CF(E1)，CF(E2)，则，则 CF(E)=maxCF(E1), CF(E2), ,CF(En) 5.2.2 可信度推理模型可信度推理模型证据不确定性的表示证据不确定性的表示16 CF模型中的不确定性推理实际上是从不确定的初始证据出发，不

19、模型中的不确定性推理实际上是从不确定的初始证据出发，不断运用相关的不确性知识，逐步推出最终结论和该结论可信度的过程。断运用相关的不确性知识，逐步推出最终结论和该结论可信度的过程。而每一次运用不确定性知识，都需要由证据的不确定性和知识的不确而每一次运用不确定性知识，都需要由证据的不确定性和知识的不确定性去计算结论的不确定性。定性去计算结论的不确定性。 不确定性的更新公式不确定性的更新公式 CF(H)=CF(H, E)max0, CF(E) 若若CF(E)0，则，则 CF(H)=0即该模型没考虑即该模型没考虑E为假对为假对H的影响。的影响。 若若CF(E)=1，则，则 CF(H)=CF(H,E)即

20、规则强度即规则强度CF(H,E)实际上是在实际上是在E为真时，为真时，H的可信度的可信度5.2.2 可信度推理模型可信度推理模型不确定性的更新不确定性的更新17 当有多条知识支持同一个结论，且这些知识的前提相互独立，结论的可信当有多条知识支持同一个结论，且这些知识的前提相互独立，结论的可信度又不相同时，可利用不确定性的合成算法求出结论的综合可信度。度又不相同时，可利用不确定性的合成算法求出结论的综合可信度。 设有知识：设有知识：IF E1 THEN H (CF(H, E1) IF E2 THEN H (CF(H, E2)则结论则结论H 的综合可信度可分以下两步计算：的综合可信度可分以下两步计算

21、： (1) 分别对每条知识求出其分别对每条知识求出其CF(H)。即。即 CF1(H)=CF(H, E1) max0, CF(E1) CF2(H)=CF(H, E2) max0, CF(E2) (2) 用如下公式求用如下公式求E1与与E2对对H的综合可信度的综合可信度 5.2.2 可信度推理模型可信度推理模型结论不确定性的合成结论不确定性的合成异号与若且若且若)()(0)(0)(0)(0)()(, )(min1)()()()()()()()()()()(212121212121212121HCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCF

22、HCF0 (i=1, 2, ,n); (3) D= 则对任何事件则对任何事件B由下式成立：由下式成立： 该公式称为全概率公式，它提供了一种计算该公式称为全概率公式，它提供了一种计算P(B)的方法。的方法。 niiA11()()(|)niiiP BP AP BA5.3.1 主观主观Bayes方法的概率论基础方法的概率论基础1. 全概率公式全概率公式22 定理定理5.2 设事件设事件A1,A2,An满足定理满足定理5.1规定的条件，则对任何事件规定的条件，则对任何事件B有下式有下式成立：成立：该定理称为该定理称为Bayes定理，上式称为定理，上式称为Bayes公式。公式。 其中，其中，P(Ai)是

23、事件是事件Ai的先验概率，的先验概率，P(B|Ai)是在事件是在事件Ai发生条件下事件发生条件下事件B的条的条件概率；件概率；P(Ai|B)是在事件是在事件B发生条件下事件发生条件下事件Ai的条件概率。的条件概率。 如果把全概率公式代入如果把全概率公式代入Bayes公式，则有：公式，则有：即即这是这是Bayes公式的另一种形式。公式的另一种形式。 Bayes定理给处了用逆概率定理给处了用逆概率P(B|Ai)求原概率求原概率P(Ai|B)的方法。的方法。niABPAPABPAPBAPnjjjiii, 2 , 1)/()()/()()|(15.3.1 主观主观Bayes方法的概率论基础方法的概率论

24、基础2. Bayes公式公式( )( |)(| )1,2,( )iiiP AP B AP A BinP B(|)( )(|)()1,2,.,iiiP A BP BP BAP Ain23表示形式：表示形式：在主观在主观Bayes方法中，知识是用产生式表示的，其形式为：方法中，知识是用产生式表示的，其形式为： IF E THEN (LS, LN) H 其中，其中，(LS, LN)用来表示该知识的知识强度，用来表示该知识的知识强度，LS(充分性度量充分性度量)和和LN(必要性度必要性度量量)的表示形式分别为：的表示形式分别为： (|)(|)(|)1(|)(|)1(|)P EHLSP EHPEHP E

25、HLNPEHP EH5.3.2 主观主观Bayes方法的推理模型方法的推理模型1. 知识不确定性的表示知识不确定性的表示(1/5)LS和和LN的含义：的含义：由本节前面给出的的由本节前面给出的的Bayes公式可知：公式可知： (|)()(|)( )(|)()(|)( )P E HP HP H EP EP EHPHPH EP E245.3.2 主观主观Bayes方法的推理模型方法的推理模型1. 知识不确定性的表示知识不确定性的表示(2/5)两式相除得：两式相除得：)()()|()|()|()|(HPHPHEPHEPEHPEHP(5.1) 为讨论方便，下面引入几率函数为讨论方便，下面引入几率函数)

26、(1)()(XPXPXO)()()(XPXPXO 可见，可见，X的几率等于的几率等于X出现的概率与出现的概率与X不出现的概率之比，不出现的概率之比，P(X)与与O(X)的的变化一致，且有：变化一致，且有： P(X)=0 时有时有 O(X)=0 P(X)=1 时有时有 O(X)=+即把取值为即把取值为0,1的的P(X)放大为取值为放大为取值为0,+的的O(X)(5.2)25把把(5.2)式代入式代入(5.1)式有：式有： 5.3.2 主观主观Bayes方法的推理模型方法的推理模型1. 知识不确定性的表示知识不确定性的表示(3/5)再把再把LS代入此式，可得：代入此式，可得：)()|(HOLSEH

27、O(5.3)式式(5.3)和和(5.4)就是修改的就是修改的Bayes公式。可见：公式。可见： 当当E为真时可用（为真时可用（5.3）计算）计算O(H|E) 当当E为假时可用（为假时可用（5.4）计算）计算O(H|E)()|(HOLNEHO(5.4)同理可得到关于同理可得到关于LN的公式：的公式：)()|()|()|(HOHEPHEPEHO26LS的性质：的性质： 当当LS1时，时，O(H|E)O(H)，说明，说明E支持支持H，LS越大，越大，E对对H的支持越充分。的支持越充分。当当LS时，时，O(H|E)，即，即P(H/E)1，表示由于，表示由于E的存在将导致的存在将导致H为真。为真。 当当

28、LS=1时，时，O(H|E)=O(H)，说明，说明E对对H没有影响。没有影响。当当LS1时，时，O(H|E)1时，时，O(H|E)O(H)，说明，说明E支持支持H，即由于，即由于E的不出现，增大了的不出现，增大了H为真的概率。并且，为真的概率。并且，LN得越大，得越大，E对对H为真的支持就越强。当为真的支持就越强。当LN时，时，O(H|E)，即，即P(H|E)1，表示由于，表示由于E的存在将导致的存在将导致H为真。为真。 当当LN=1时，时，O(H|E)=O(H)，说明，说明E对对H没有影响。没有影响。 当当LN1时，时，O(H|E)1且且LN1 LS1 LS=LN=1 证：证： LS1 P(

29、E|H)/P(E|H)1 P(E|H) P(E|H) 1-P(E|H) 1-P(E|H) P(E|H) P(E|H) P(E|H) /P(E|H) 1 LN 1 同理可证、同理可证、 ，证明略，证明略5.3.2 主观主观Bayes方法的推理模型方法的推理模型1. 知识不确定性的表示知识不确定性的表示(5/5)28基本证据的表示：基本证据的表示： 在主观在主观Bayes方法中，基本证据方法中，基本证据E的不精确性是用其概率或几率来表示的。的不精确性是用其概率或几率来表示的。概率与几率之间的关系为：概率与几率之间的关系为： 非真也非假时当为真时当为假时当EEEEPEPEO), 0(0)(1)()(

30、 在实际应用中，除了需要考虑证据在实际应用中，除了需要考虑证据E的先验概率与先验几率外，往往还需的先验概率与先验几率外，往往还需要考虑在当前观察下证据要考虑在当前观察下证据E的的后验概率或后验几率后验概率或后验几率。 以概率情况为例，对初始证据以概率情况为例，对初始证据E，用户可以根据当前观察，用户可以根据当前观察S将其先验概率将其先验概率P(E)更改为后验概率更改为后验概率P(E|S)，即相当于给出证据，即相当于给出证据E的动态强度。的动态强度。5.3.2 主观主观Bayes方法的推理模型方法的推理模型2. 证据不确定性的表示证据不确定性的表示(1/2)29组合证据不确定性的计算：组合证据不

31、确定性的计算： 证据的基本组合方式只有合取和析取两种。证据的基本组合方式只有合取和析取两种。当组合证据是多个单一证据的合取时，例当组合证据是多个单一证据的合取时，例 E=E1 AND E2 AND AND En如 果 已 知 在 当 前 观 察如 果 已 知 在 当 前 观 察 S 下 ， 每 个 单 一 证 据下 ， 每 个 单 一 证 据 Ei有 概 率有 概 率 P ( E1| S ) , P(E2|S), ,P(En|S)，则，则 P(E|S)=min P(E1|S), P(E2|S), ,P(En|S)当组合证据是多个单一证据的析取时，例当组合证据是多个单一证据的析取时，例 E=E1

32、 OR E2 OR OR En 如 果 已 知 在 当 前 观 察如 果 已 知 在 当 前 观 察 S 下 ， 每 个 单 一 证 据下 ， 每 个 单 一 证 据 Ei有 概 率有 概 率 P ( E1| S ) , P(E2|S), ,P(En|S)，则，则P(E|S)=max P(E1|S), P(E2|S), ,P(En|S) 5.3.2 主观主观Bayes方法的推理模型方法的推理模型2. 证据不确定性的表示证据不确定性的表示(2/2)30 根据根据E的概率的概率P(E)及及LS和和LN的值，把的值，把H的先验概率的先验概率P(H)或先或先验几率验几率O(H)更新为后验概率或后验几率

33、。更新为后验概率或后验几率。 分以下分以下3种情况讨论：种情况讨论： 1. 证据肯定为真证据肯定为真 2. 证据肯定为假证据肯定为假 3. 证据既非为真有非为假证据既非为真有非为假5.3.2 主观主观Bayes方法的推理模型方法的推理模型3. 不确定性的更新不确定性的更新(1/4)31证据肯定为真时证据肯定为真时当证据当证据E肯定为真时，肯定为真时，P(E)=P(E|S)=1。将。将H的先验几率更新为后验几率的的先验几率更新为后验几率的公式为公式为(5.3)，即，即 O(H|E)=LSO(H) 把把H的先验概率的先验概率P(H)更新为后验概率更新为后验概率P(H|E)的公式，可将的公式，可将(

34、5.2)代入代入(5.4)得：得：5.3.2 主观主观Bayes方法的推理模型方法的推理模型3. 不确定性的更新不确定性的更新(2/4)证据证据E肯定为假时肯定为假时 当证据当证据E肯定为假时，肯定为假时，P(E)=P(E|S)=0，P(E)=1。将。将H的先验几率更新为后的先验几率更新为后验几率的公式为验几率的公式为(5.4)，即，即 O(H|E)=LNO(H) 把先验概率把先验概率P(H)更新为后验概率更新为后验概率P(H|E)的公式的公式 ，可将，可将(5.2)代入代入(5.4)得：得：1)() 1()()|(HPLSHPLSEHP1)() 1()()|(HPLNHPLNEHP(5.5)

35、(5.6)32证据既非真假：证据既非真假：需要使用杜达等人给出的公式：需要使用杜达等人给出的公式： P(H|S)=P(H|E)P(E|S)+P(H|E)P(E|S) (5.7) 下面分四种情况讨论：下面分四种情况讨论： (1)P(E|S)=1 当当P(E|S)=1时，时，P(E|S)=0。由。由(6.7)式和式和(6.5)式可得式可得 这实际是证据肯定存在的情况这实际是证据肯定存在的情况 (2)P(E|S)=0 当当P(E|S)=0时，时，P(E|S)=1。由。由(6.7)式和式和(6.6)式可得式可得 (3)P(E|S)=P(E) 当当P(E|S)=P(E)时，表示时，表示E与与S无关。由无

36、关。由(5.7)式和全概率公式可得式和全概率公式可得()(| )(|)(1)() 1LSP HP H SP H ELSP H()(|)(|)(1)()1LNP HP H SP HELNP H(| )(| )( | )(|)(| )(| )( )(|)()( )P H SP H EP E SP HEPE SP H EP EP HEPEP H5.3.2 主观主观Bayes方法的推理模型方法的推理模型3. 不确定性的更新不确定性的更新(3/4)330P(E)1P(E|S)P(H|E)P(H)P(H|E)P(H|S) (4) P(E/S)为其它值为其它值 上面已经得到了上面已经得到了P(E|S)的的3

37、个特殊值：个特殊值：0，P(E),1；它们分别对应的；它们分别对应的3个值为个值为P(H|E),P(H),P(H|E)。由此构造的分段线性插值函数为：。由此构造的分段线性插值函数为：()(|)(|)(|),0(|)( )( )(| )(|)( )()(|)( ) ,( )(|)11( )P HP HEP HEP E SP E SP EP EP H SP H EP EP HP E SP EP EP E SP EP(E)，使用，使用(6.8)式的后半部分，得式的后半部分，得P(H1|S1)为：为：111111(|)0.121(|)0.1381(|)1 0.121P HSO HSP HS5.3.3

38、主观主观Bayes推理的例子推理的例子38 (2) 计算计算O(H1|(S1 AND S2) 由于由于r2的前件是的前件是E1、E2的合取关系，且已知的合取关系，且已知 P(E1|S1)=0.76，P(E2|S2)=0.68，即即P(E2|S2)P(E2)，还使用，还使用(5.8)式的后半部分，得式的后半部分，得P(H1|S2)为：为：5.3.3 主观主观Bayes推理的例子推理的例子391112112111(|)(|)(|,)()()()0.1380.3420.10.4720.10.1O HSO HSO HS SO HO HO H1 . 0091. 01091. 0)(1)()(111HPH

39、PHO112112112(|,)0.472(|,)0.3211(|,)10.472O HS SP HS SO HS S (3) 计算计算O(H1|S1, S2) 先将先将H1的先验概率转换为先验几率的先验概率转换为先验几率 再根据合成公式计算再根据合成公式计算H H1 1的后验几率的后验几率 然后再将后验几率转换为后验概率然后再将后验几率转换为后验概率5.3.3 主观主观Bayes推理的例子推理的例子40212212221211(|)()(|,)() (|,)()1()0.6690.010.1(0.321 0.091)0.1771 0.091P HHP HP HS SP HP HS SP HP

40、 H322132()200 0.01(|)0.669(1)() 1(200 1) 0.01 1LSP HP HHLSP H (4) 计算计算P(H2|S1,S2) 对对r3 ，H1相当于已知事实，相当于已知事实，H2为结论。将为结论。将H2的先验概率的先验概率P(H2)更新为在更新为在H1下的后验概率下的后验概率P(H2|H1) 由于由于P(H1|S1,S2) =0.321 P(H1)，仍使用，仍使用(5.8)式的后半部分，得到在当前观式的后半部分，得到在当前观察察S1、S2下下H2的后验概率的后验概率P(H2|S1,S2) 可以看出，可以看出，H2的先验概率是的先验概率是0.01，通过，通过

41、r1、r2、r3及初始证据进行推理，最及初始证据进行推理，最后推出后推出H2的后验概率为的后验概率为0.177，相当于概率增加了，相当于概率增加了16倍多。倍多。5.3.3 主观主观Bayes推理的例子推理的例子415.1 不确定性推理的基本概念不确定性推理的基本概念5.2 可信度推理可信度推理5.3 主观主观Bayes方法方法5.4 证据理论证据理论 5.4.1 证据理论的形式化描述证据理论的形式化描述 5.4.2 证据理论的推理模型证据理论的推理模型 5.4.3 推理实例推理实例 5.4.4 证据理论推理的特征证据理论推理的特征5.5 模糊推理模糊推理5.6 概率推理概率推理 第第5章章

42、不确定性推理不确定性推理 425.4.1 DS理论的形式描述理论的形式描述 1. 概率分配函数（概率分配函数（1/5） DS理论处理的是集合上的不确定性问题，为此需要先建立命题与集合之间理论处理的是集合上的不确定性问题，为此需要先建立命题与集合之间的一一对应关系，以把命题的不确定性问题转化为集合的不确定性问题。的一一对应关系，以把命题的不确定性问题转化为集合的不确定性问题。 (1) 幂集幂集 设设为样本空间，且为样本空间，且中的每个元素都相互独立，则由中的每个元素都相互独立，则由的所有子集构成的的所有子集构成的幂集记为幂集记为2。 当当中的元素个数为中的元素个数为N时，则其幂集时，则其幂集2的

43、元素个数为的元素个数为2N，且其中的每一个元，且其中的每一个元素都对应于一个关于素都对应于一个关于x取值情况的命题。取值情况的命题。 例例5.3 设设=红，黄，白红，黄，白，求，求的幂集的幂集2。 解：解：的幂集可包括如下子集：的幂集可包括如下子集： A0=, A1=红红, A2=黄黄, A3=白白, A4=红，黄红，黄, A5=红，白红，白, A6=黄，白黄，白, A7=红，黄，白红，黄，白其中，其中，表示空集，空集也可表示为表示空集，空集也可表示为。上述子集的个数正好是。上述子集的个数正好是23 =8435.4.1 DS理论的形式描述理论的形式描述 1. 概率分配函数（概率分配函数（2/5

44、） (2) 一般的概率分配函数一般的概率分配函数 定义定义5.3 设函数设函数m：20，1，且满足，且满足则称则称m是是2上的概率分配函数，上的概率分配函数，m(A)称为称为A的基本概率数。的基本概率数。 例例5.4 对例对例5.3所给出的有限集所给出的有限集，若定义，若定义2上的一个基本函数上的一个基本函数m： m( , 红红, 黄黄, 白白, 红，黄红，黄, 红，白红，白, 黄，白黄，白, 红，黄，白红，黄，白) =(0, 0.3, 0, 0.1, 0.2, 0.2, 0, 0.2)请说明该函数满足概率分配函数的定义。请说明该函数满足概率分配函数的定义。 解：解：(0, 0.3, 0, 0

45、.1, 0.2, 0.2, 0, 0.2)分别是幂集分别是幂集2中各个子集的基本概率数。中各个子集的基本概率数。显然显然m满足满足即满足概率分配函数的定义。即满足概率分配函数的定义。AAmm1)(0)(AAmm1)(0)(445.4.1 DS理论的形式描述理论的形式描述 1. 概率分配函数（概率分配函数（3/5） 对一般概率分配函数的说明对一般概率分配函数的说明 (1) 概率分配函数的作用是把概率分配函数的作用是把的任一子集映射为的任一子集映射为0，1上的一个数上的一个数m(A) 当当A ，且，且A由单个元素组成时由单个元素组成时，则，则m(A)表示对表示对A的精确信任度；的精确信任度； 当当

46、A 、A，且，且A由多个元素组成时由多个元素组成时，m(A)也表示对也表示对A的精确信任度，的精确信任度，但却不知道这部分信任度该分给但却不知道这部分信任度该分给A中哪些元素；中哪些元素； 当当A=时时，则，则m(A)也表示不知道该如何分配的部分。也表示不知道该如何分配的部分。 例如，例如，对上例所给出的有限集对上例所给出的有限集及基本函数及基本函数m，当，当 A=红红时，时，有有m(A)=0.3，它表示对命题，它表示对命题“x是红色是红色”的精确信任度为的精确信任度为0.3。 B= 红，黄红，黄时，时，有有m(B)=0.2，x是红或黄的信任度是红或黄的信任度0.2，但不知道怎样分。，但不知道

47、怎样分。 C=红，黄，白红，黄，白时，时，有有m()=0.2，同样不知道该怎样分配。，同样不知道该怎样分配。 (2) 概率分配函数不是概率概率分配函数不是概率 例如，例如，在例在例5.3中，中，m符合概率分配函数的定义，但符合概率分配函数的定义，但 m(红红)+m(黄黄)+m(白白)=0.3+0+0.1=0.4AmAAAsmmsmssmniiniiii时或且当对任何465.4.1 证据理论的推理模型证据理论的推理模型1. 概率分配函数概率分配函数(5/5) 例例5.5 设设=红，黄，白红，黄，白，有如下概率分配函数，有如下概率分配函数 m(，红红，黄黄，白白，红，黄，白红，黄，白) =(0,

48、0.6, 0.2, 0.1, 0.1)其中：其中：m(红，黄红，黄)=m(红，白红，白)=m(黄，白黄，白)=0，可见，可见，m符合上述概率分符合上述概率分配函数的定义。配函数的定义。 (4) 概率分配函数的合成概率分配函数的合成 定义定义5.4 设设m1和和m2是是2上的基本概率分配函数，它们的正交和上的基本概率分配函数，它们的正交和 定义为定义为21mmm)()()()()()()(2121211iiiiismmmsmsmsmKsm)()()()()()()()(211212121iniiiismmmsmsmsmmmK其中：其中：475.4.1 证据理论的推理模型证据理论的推理模型2. 信

49、任函数和似然函数信任函数和似然函数(1/2) 根据上述特殊的概率分配函数，可构造其信任函数和似然函数。根据上述特殊的概率分配函数，可构造其信任函数和似然函数。 定义定义5.4 对任何命题对任何命题A ,其信任函数为其信任函数为1)()()()()()(1msmBmBelsmABelniiBAsii 信任函数也称为下限函数，表示对信任函数也称为下限函数，表示对A的总体信任度。的总体信任度。 定义定义5.5 对任何命题对任何命题A ,其似然函数为其似然函数为1)(1)(1)()()()()(1 1)()(1)(1)(1)(1BelBelPlABelmABelmsmsmsmABelAPlniAsii

50、Asiii 似然函数也称为上限函数，表示对似然函数也称为上限函数，表示对A的非假信任度。可以看出，对任何命的非假信任度。可以看出，对任何命题题A 、 A 都有都有 Pl(A)-Bel(A) = Pl(B)-Bel(B) = m()485.4.3 证据理论的推理模型证据理论的推理模型2.信任函数和似然函数信任函数和似然函数(2/2) 例例5.6 设设=红，黄，白红，黄，白，概率分配函数，概率分配函数 m(，红红，黄黄，白白，红，黄，白红，黄，白) =(0, 0.6, 0.2, 0.1, 0.1)A=红，黄红，黄，求，求m()、Bel(A)和和Pl(A)的值。的值。 解：解：m()=1-m(红红)