人工智能的数学基础培训课件(-53张).ppt

1、模式识别与智能系统研究所版权所有人工智能的数学基础-1v人工智能的数学基础人工智能的数学基础-1v信息学院：韩延彬信息学院：韩延彬人工智能的数学基础-1课程进度课程进度人工智能原理与应用人工智能原理与应用前言前言绪论绪论数学数学基础基础知识知识表示表示(1)知识知识表示表示(2)经典经典逻辑逻辑推理推理(1)经典经典逻辑逻辑推理推理(2)经典经典逻辑逻辑推理推理(3)经典经典逻辑逻辑推理推理(4)课程课程设计设计(1)课程课程设计设计(2)不确不确定推定推理理(1)不确不确定推定推理理(2)不确不确定推定推理理(3)经典经典逻辑逻辑推理推理(5)人工智能的数学基础-1本节知识框架本节知识框架人

2、工智能的数学基础(1)命题逻辑与谓词逻辑多值逻辑（扩展）概率论命题谓词谓词公式谓词公式的一些特性随机现象样本空间与随机事件事件的概率条件概率人工智能的数学基础-1回顾上一节课的内容绪论绪论什么是人工智能什么是人工智能人工智能的研究目标及内容人工智能的研究目标及内容人工智能的研究途径人工智能的研究途径人工智能的研究领域人工智能的研究领域智能智能人工智能人工智能发展简史发展简史研究目标研究目标基本内容基本内容符号处理为核心符号处理为核心网络连接为主的网络连接为主的专家系统专家系统机器学习机器学习模式识别模式识别自然语言理解等自然语言理解等10重点：智能、人工智能的定义，研究目标（2），基本内容（5

3、）,人工智能的研究途径（3）人工智能的数学基础-1为什么要研究数学为什么要研究数学思维思维形式化、符号化形式化、符号化人工智能人工智能研究课题基础研究课题基础逻辑、概率、模糊逻辑、概率、模糊知识的表示与处理中占有重要地位。知识的表示与处理中占有重要地位。因此，在系统学习人工智能的理论与技术之前，因此，在系统学习人工智能的理论与技术之前，先掌握些有关逻辑、概率论及模糊理论方面的知识是很有必要的。先掌握些有关逻辑、概率论及模糊理论方面的知识是很有必要的。人工智能的数学基础-1人工智能的数学基础人工智能的数学基础(1)命题逻辑与谓词逻辑命题逻辑与谓词逻辑多值逻辑（扩展）多值逻辑（扩展）概率论概率论命

4、题命题谓词谓词谓词公式谓词公式谓词公式的一些特性谓词公式的一些特性随机现象随机现象样本空间与随机事件样本空间与随机事件事件的概率事件的概率条件概率条件概率人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词公式的等价性与用真蕴含谓词公式的等价性与用真蕴含谓向逻辑是在命题逻辑基础上发展起来的，命题逻辑可看作是谓词逻辑的一种特殊形式谓向逻辑是在命题逻辑基础上发展起来的，命题逻辑可看作是谓词逻辑的一种特殊形式人工智能的数

5、学基础-1命题逻辑与谓词逻辑命题（命题逻辑与谓词逻辑命题（1）v什么是命题？什么是命题？v命题是具有真假意义的语句命题是具有真假意义的语句v命题代表人们进行思维时的一种判断，或者是肯定，或者是否定，只有命题代表人们进行思维时的一种判断，或者是肯定，或者是否定，只有这两种情况这两种情况v例子：例子：v北京是中华人民共和国的首都。北京是中华人民共和国的首都。v35。v太阳从西边升起。太阳从西边升起。v我今天吃的很饱。我今天吃的很饱。v多么美丽的祖国。多么美丽的祖国。v我吃的很饱是一个命题。我吃的很饱是一个命题。v表示形式用表示形式用P描述描述人工智能的数学基础-1命题逻辑与谓词逻辑命题命题命题语句

6、语句真假含义真假含义注意：语句和真假的含义缺一不可注意：语句和真假的含义缺一不可人工智能的数学基础-1命题逻辑与谓词逻辑命题v命题逻辑的局限性？命题逻辑的局限性？v无法把它所描述的客观事物的结构及逻辑特无法把它所描述的客观事物的结构及逻辑特征反映出来，也不能把不同事物间的共同特征反映出来，也不能把不同事物间的共同特征表述出来。征表述出来。v例如：例如：v老李是小李的父亲老李是小李的父亲v李白是诗人，杜甫也是诗人。李白是诗人，杜甫也是诗人。思考？面对这样的问题，我们怎样解决？提示：通常在编程当中，我们采用什么样的方式来解决相同特征的问题，人工智能的数学基础-1命题逻辑与谓词逻辑谓词谓词谓词谓名词

7、谓名词个体个体函数名称函数名称参变量参变量个体表某个独立存在的事物或者某个抽象的概念个体表某个独立存在的事物或者某个抽象的概念谓名词用于刻画个体的性质、状态或个体间的关系谓名词用于刻画个体的性质、状态或个体间的关系人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词公式的等价性与用真蕴含谓词公式的等价性与用真蕴含人工智能的数学基础-1命题逻辑与谓词逻辑谓词v老张是教师Teacher（Zhang）谓名词谓名词个体个体Teacher 刻画了刻画了 zha

8、ng 的职业是教师？的职业是教师？如果是老李也是教如果是老李也是教师，怎么描述师，怎么描述人工智能的数学基础-1命题逻辑与谓词逻辑谓词v53：Greater(5,3)。Greater(3,5)?v谓词的一般形式是：谓词的一般形式是：vP(x1,x2,xn)v谓词名：谓词名：v个体：个体：v通常情况谓词名用大写表示，而个体用小写表示通常情况谓词名用大写表示，而个体用小写表示v谓词的个体，可以是一个常量，也可以是一个变元，还可以谓词的个体，可以是一个常量，也可以是一个变元，还可以是一个函数是一个函数v例如：例如：vX5：Less（x,5）v小王的父亲是教师：小王的父亲是教师：Teacher(Fat

9、her(Wang)人工智能的数学基础-1命题逻辑与谓词逻辑谓词命题逻辑与谓词逻辑谓词v几个概念：几个概念：v当谓词中的变元都用特定的个体取代时，谓词就具当谓词中的变元都用特定的个体取代时，谓词就具有一个确定的真值：有一个确定的真值：T 或或 FvP(x1,x2,xn)，其中，其中n是阶数是阶数v个体变元的取值范围成为个体域。有限，无限个体变元的取值范围成为个体域。有限，无限v谓词和函数的联系和区别谓词和函数的联系和区别v个体常量、个体变元、函数统称为个体常量、个体变元、函数统称为“项项”v采用谓词有什么样的优点采用谓词有什么样的优点人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题

10、命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词公式的等价性与用真蕴含谓词公式的等价性与用真蕴含人工智能的数学基础-1命题逻辑与谓词逻辑谓词公式命题逻辑与谓词逻辑谓词公式v谓词公式：无论是命题逻辑还是谓词逻辑，可以利谓词公式：无论是命题逻辑还是谓词逻辑，可以利用连接词把一些简单的命题连接起来构成一个合命用连接词把一些简单的命题连接起来构成一个合命题，表示一个比较复杂的含义。题，表示一个比较复杂的含义。v非非v合取合取v析取析取v条件或者蕴含，条件或者蕴含，pqv双条件：当且仅当双条件：当且仅当人工智能的数学

11、基础-1命题逻辑与谓词逻辑谓词公式命题逻辑与谓词逻辑谓词公式v量词量词v全称量词全称量词v存在量词存在量词vP(x)表示是证书，表示是证书，F(x,y)表示表示x，y是朋友是朋友)()(xPx),()()(yxFyx),()()(yxFyx 人工智能的数学基础-1命题逻辑与谓词逻辑谓词公式命题逻辑与谓词逻辑谓词公式v谓词公式：谓词公式：v单个谓词是合式公式，成为原子谓词公式单个谓词是合式公式，成为原子谓词公式v若若A是合式公式，则是合式公式，则A也是合式公式也是合式公式v若若A，B都是合式公式，则都是合式公式，则AB，AB，AB，ABv若若A是合式公式，是合式公式，X是任一个体变元，包含全是任

12、一个体变元，包含全称量词和存在量词的也是合式公式称量词和存在量词的也是合式公式人工智能的数学基础-1命题逻辑与谓词逻辑谓词公式命题逻辑与谓词逻辑谓词公式v分析一个谓词公式分析一个谓词公式),(),(),()(yxRyxQyxPx约束变元约束变元自由变元自由变元变元换名原则变元换名原则:同名的约束变元应该统一变成相同的名字，注意约束条件也得修改同名的约束变元应该统一变成相同的名字，注意约束条件也得修改人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词

13、公式的等价性与用真蕴含谓词公式的等价性与用真蕴含人工智能的数学基础-1谓词公式的解释谓词公式的解释v在命题逻辑中，对命题公式中各个命题变元的一次真值指派在命题逻辑中，对命题公式中各个命题变元的一次真值指派成为命题公式的一个解释成为命题公式的一个解释v形象理解：赋值形象理解：赋值函数值函数值v谓词公式的解释：谓词公式的解释：v设设D为谓词公式为谓词公式P的个体域，若对的个体域，若对P中的个体常量，函数和谓中的个体常量，函数和谓词按如下规定赋值：词按如下规定赋值：v（1）为每个个体常量指派）为每个个体常量指派D中的一个元素中的一个元素v（2）为每个）为每个n元函数指派一个从元函数指派一个从Dn到到

14、D的映射，其中的映射，其中Dn（x1,x2,xn）/x1,x2,xnDv（3）为每个）为每个n元谓词指派一个从元谓词指派一个从Dn到到F,T的映射，责成的映射，责成这些指派为公式这些指派为公式P在在D上的一个解释。上的一个解释。人工智能的数学基础-1谓词公式的解释谓词公式的解释v例如个体域例如个体域D1,2，求公式，求公式v在在D上的上的某一个某一个解释解释v解解:个体常量个体常量 b1，f(1)=2,f(2)=1v对谓词指派的真值：对谓词指派的真值：vP(1)=F,P(2)=T,Q(1,1)=T,Q(2,1)=Fv当当x=1时时vP(1)=F,Q(f(1),1)=Q(2,1)=FvP(1)Q

15、(f(1),1)Tv同理同理x=2时，时，Tv当前的解释是的公式当前的解释是的公式B是是永真的永真的),()()(bxfQxPxB人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词公式的等价性与用真蕴含谓词公式的等价性与用真蕴含人工智能的数学基础-1谓词公式的永真性、可满足性等谓词公式的永真性、可满足性等v永真性：如果谓词公式永真性：如果谓词公式P对个体域对个体域D上的任何一个解上的任何一个解释都取得真值释都取得真值T，则称，则称P在在D上是永真的

16、；如果上是永真的；如果P在在每个非空个体域上均永真，则称每个非空个体域上均永真，则称P在每个非空个体在每个非空个体域上均永真，则称域上均永真，则称P永真。永真。v可满足性：对于谓词公式可满足性：对于谓词公式P，如果至少存在一个解，如果至少存在一个解释使得公式释使得公式P在此解释下的真值为在此解释下的真值为T，则称公式，则称公式P是是可满足的。可满足的。v不可满足性：如果谓词公式不可满足性：如果谓词公式P对于个体域对于个体域D上的任何上的任何一个解释都取得真值一个解释都取得真值F，则称，则称P在在D上是永久假的，上是永久假的，如果如果P在每个非空个体域上均永假，则称在每个非空个体域上均永假，则称

17、P永假。永假。人工智能的数学基础-1命题逻辑与谓词逻辑命题逻辑与谓词逻辑命题命题谓词谓词谓词公式谓词公式谓词公式的解释谓词公式的解释谓词公式的永真性、可满足性、不可满足性谓词公式的永真性、可满足性、不可满足性谓词公式的等价性与用真蕴含谓词公式的等价性与用真蕴含人工智能的数学基础-1谓词公式的等价性与永真蕴含谓词公式的等价性与永真蕴含v交换律：交换律：vPQ Q P,PQ Q Pv结合律：结合律：v(PQ)R P(Q R)v(P Q)R P(Q R)v分配律：分配律：vP(QR)(PQ)(P R)vP(Q R)(P Q)(P R)v德德.摩根律摩根律v！(P Q)！P !Qv！(P Q)！P !

18、Qv双重否定双重否定v！P Pv吸收律吸收律vP(PR)P,P(P R)P人工智能的数学基础-1谓词公式的等价性与永真蕴含谓词公式的等价性与永真蕴含v补余律补余律vP！P T!P P Fv结合律结合律v(PQ)R P(Q R)v(P Q)R P(Q R)v连接词化归律连接词化归律vPQ！P Qv量词转化律量词转化律v )()()()(PxPxPxPx人工智能的数学基础-1谓词公式的等价性与永真蕴含谓词公式的等价性与永真蕴含)()().(9)()().(8,.7,.6,.5,.4,.3,.2,.1yPxPxyPxPxRRQQPQPRPRQQPPQPQQQPPQQPPQPQQPPQQPPQP人工智

19、能的数学基础-1谓词公式的等价性与永真蕴含谓词公式的等价性与永真蕴含vP规则：推理的任何步骤可以引入的前提规则：推理的任何步骤可以引入的前提vT规则：前面推出的结论，在后续的推理中，规则：前面推出的结论，在后续的推理中，使用使用vCP规则：从规则：从R和前提结合中推出来和前提结合中推出来S，使用，使用结论结论RSv反证法：反证法：v这些规则在后续的讨论中，我们在进行相关这些规则在后续的讨论中，我们在进行相关介绍。介绍。人工智能的数学基础-1人工智能的数学基础人工智能的数学基础(1)命题逻辑与谓词逻辑命题逻辑与谓词逻辑多值逻辑（扩展）多值逻辑（扩展）概率论概率论命题命题谓词谓词谓词公式谓词公式谓

20、词公式的一些特性谓词公式的一些特性随机现象随机现象样本空间与随机事件样本空间与随机事件事件的概率事件的概率条件概率条件概率人工智能的数学基础-1多值逻辑多值逻辑v经典命题逻辑和谓词逻辑的语义解释只有两经典命题逻辑和谓词逻辑的语义解释只有两个：真和假，个：真和假，0和和1。v现实生活中的某些问题不是简单的真和假的现实生活中的某些问题不是简单的真和假的问题，而是存在于问题，而是存在于真和假之间的某个位置上真和假之间的某个位置上（甚至更复杂甚至更复杂）v三值逻辑：第三个结论有很多讨论，有人提三值逻辑：第三个结论有很多讨论，有人提出无意义这个值，是为了解决出无意义这个值，是为了解决悖论悖论人工智能的数

21、学基础-1多值逻辑多值逻辑v命题取值只能有三个：真，假，还有一个命题取值只能有三个：真，假，还有一个（无意义，不能判定：（无意义，不能判定：悖论悖论）v城里所有不自己刮脸的男人都由我给他们刮城里所有不自己刮脸的男人都由我给他们刮脸，我也只给这些人刮脸脸，我也只给这些人刮脸。命题：理发师给命题：理发师给自己刮脸吗？自己刮脸吗？vhttp:/www.oursci.org/lib/paradox/http:/www.oursci.org/lib/paradox/人工智能的数学基础-1人工智能的数学基础人工智能的数学基础(1)命题逻辑与谓词逻辑命题逻辑与谓词逻辑多值逻辑（扩展）多值逻辑（扩展）概率论概

22、率论命题命题谓词谓词谓词公式谓词公式谓词公式的一些特性谓词公式的一些特性随机现象随机现象样本空间与随机事件样本空间与随机事件事件的概率事件的概率条件概率条件概率人工智能的数学基础-1概率论概率论概率论概率论随机现象随机现象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1概率论概率论v为什么要引入概率论为什么要引入概率论概率概率关系关系模拟模拟概率论是研究随机现象中数量规律的一门学科。反应了事物的不确定性概率论是研究随机现象中数量规律的一门学科。反应了事物的不确定性人工智能的数学基础-1概率论概率论随机现象随机现

23、象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1概率论随机现象概率论随机现象v在相同的条件下重复进行某种试验时，试验在相同的条件下重复进行某种试验时，试验结果不一定完全相同且不可预知的现象称为结果不一定完全相同且不可预知的现象称为随机现象。随机现象。难忘一课（老师名单）难忘一课（老师名单）人工智能的数学基础-1概率论概率论随机现象随机现象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1样本空间与随机事件样本空间与随机事件v在试

24、验中每一个可能出现的结果称为试验的在试验中每一个可能出现的结果称为试验的一个样本点，由样本电的全体构成的集合称一个样本点，由样本电的全体构成的集合称为样本空间。为样本空间。v抛硬币：抛硬币：2个个v色子：色子：6个个v彩票：？，中彩票的概率是多少？彩票：？，中彩票的概率是多少？人工智能的数学基础-1样本空间与随机事件样本空间与随机事件v我们把要考察的由一些样本点构成的集合称我们把要考察的由一些样本点构成的集合称为随机事件，简称事件。为随机事件，简称事件。v在某次试验中，若事件包含的某一个样本点在某次试验中，若事件包含的某一个样本点出现，就称这一事件发生。出现，就称这一事件发生。v必然事件，不可

25、能事件。必然事件，不可能事件。人工智能的数学基础-1样本空间与随机事件样本空间与随机事件人工智能的数学基础-1概率论概率论随机现象随机现象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1事件的概率事件的概率v表示事件发生可能性大小的数称为事件概率表示事件发生可能性大小的数称为事件概率P(A)v古典概型：如果随机试验古典概型：如果随机试验E的样本空间的样本空间D中只包含有中只包含有限个基本条件，并且在每次试验中每个基本事件发限个基本条件，并且在每次试验中每个基本事件发生的可能性相同，则称生的可能性相同，则称E为古

26、典型随机试验，简称为古典型随机试验，简称古典概型。古典概型。vP(A)=m/nv如：如：1,2,7这这7个数字当中，取一个数字个数字当中，取一个数字vA取数字取数字3的倍数的倍数vB取偶数取偶数人工智能的数学基础-1事件的概率事件的概率v统计概率统计概率v在同一组条件下所做的大量重复试验中，事在同一组条件下所做的大量重复试验中，事件件A出现的频率出现的频率fn(A)总是在总是在0,1上的一个确上的一个确定的常数定的常数p附近摆动，并且稳定于附近摆动，并且稳定于p，则称，则称P为事件为事件A的概率。的概率。v硬币，色子等硬币，色子等人工智能的数学基础-1事件的概率事件的概率vP(A)0,1v必然

27、事件必然事件P(D)=1,不可能事件不可能事件P(D)=0vP(!A)=1-P(A)vP(AB)P(A)+P(B)-P(AB)vA1,A2,An两两互补相容两两互补相容:?v事件事件B是事件是事件A的子集：的子集：P(A-B)=P(A)-P(B)人工智能的数学基础-1概率论概率论随机现象随机现象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1条件概率条件概率v假设假设A与与B是某个随机试验中的两个事件，如果在是某个随机试验中的两个事件，如果在事件事件B发生的条件下考虑事件发生的条件下考虑事件A发生的概率，就称发

28、生的概率，就称它为事件它为事件A的条件概率，的条件概率，P(A/B)vP(A/B)=P(AB)/P(B)vS=（1,2,3,4,5,6,7）vA:取取3的倍数的倍数 P(A)2/7vB:取偶数取偶数 P(B)3/7vD：是：是3的倍数，又是偶数：的倍数，又是偶数：p(D)=1/7vP(A/B)1/3人工智能的数学基础-1概率论概率论随机现象随机现象样本空间与随机事件样本空间与随机事件事件概率事件概率条件概率条件概率全概率公式与全概率公式与Bayes公式公式人工智能的数学基础-1全概率公式全概率公式v设事件设事件A1,An满足：满足：v两两互补相容两两互补相容vP(Ai)0vD=P(Ai)vP(

29、B)=P(Ai)P(B/Ai)v全概率公式全概率公式人工智能的数学基础-1Bayes公式公式vP(Ai/B)=P(Ai)P(B/Ai)/(P(Aj)P(B/Aj)v这个公式就是著名的这个公式就是著名的Bayes公式，我们怎样公式，我们怎样取理解这个公式的内容？取理解这个公式的内容？v先验概率和后验概率的转换先验概率和后验概率的转换人工智能的数学基础-1本课知识总结本课知识总结人工智能的数学基础(1)命题逻辑与谓词逻辑多值逻辑（扩展）概率论命题谓词谓词公式谓词公式的一些特性随机现象样本空间与随机事件事件的概率条件概率人工智能的数学基础-1作业作业v什么是命题什么是命题v什么是谓词公式什么是谓词公式v欲穷千里目更上一层楼，翻译命题欲穷千里目更上一层楼，翻译命题v在在0,1,9，这，这10个数字当中，一次任取两个，个数字当中，一次任取两个，问抽到问抽到5这个数字的概率这个数字的概率