人工智能课件-机器学习.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《人工智能课件-机器学习.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 课件 机器 学习
- 资源描述:
-
1、Artificial Intelligence(AI)人工智能人工智能第七章:机器第七章:机器学习学习内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现 阿法狗通过神经网络学习所有高水平围棋棋谱,大概是历史上有的20万个左右职业棋谱,从而获得了在盘面上如何落子的直觉。类似的深度学习深度学习是在近几年出现的,目前,这项科技也有了一些应用,最简单的例子就是通过深度
2、学习识别猫。通过这项识别验证,已经引申出了更多具有实际意义的应应用用,比如识别某一个图片中是否有癌细胞识别某一个图片中是否有癌细胞,某一个铁路沿线上的轨道是否存在磨损某一个铁路沿线上的轨道是否存在磨损,甚至军事作战中,对方的视线中是否有坦克对方的视线中是否有坦克,都可以通过深度学习实现。谷歌的自动驾驶,谷歌的自动驾驶,其中很重要的就是识别道路、交通信号灯、其中很重要的就是识别道路、交通信号灯、路标等,这都是通过深度学习获得路标等,这都是通过深度学习获得。阿法狗走的是通用学习的道路。它的估值函数,不是专家攻关捣哧出来的。它的作者只是搭了一个基本的框架(一个多层的神经网络),除了围棋最基本的规则外
3、,没有任何先验知识没有任何先验知识。你可以把它想象成一个新生儿的大脑,一张白纸。然后,直接用人类高手对局的3000万个局面训练训练它,自动调节自动调节它的神经网络参数神经网络参数,让它的行为和人类高手接近。这样,阿法狗就具有了基本的棋感,看到一个局面大致就能知道好还是不好。阿法狗的核心技术核心技术还包括策略网络的训练策略网络的训练和蒙蒙特卡洛树搜索特卡洛树搜索。内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习
4、神经网络学习8.8.其他其他7.7.知识发现知识发现 机器学习是人工智能的核心,通过使机器模拟人类学习行为,智能化地从过去的经历中获得经验,从而改善其整体性能,重组内在知识结构,并对未知事件进行准确的推断。机器学习在科学和工程诸多领域都有着非常广泛的应用,例如金融分析、数据挖掘、生物信息学、医学诊断等。生活中常见的一些智能系统也广泛使用机器学习算法,例如电子商务、手写输入、邮件过滤等。人类的未来生活和工作,还将有机器人参与。机器人的自主学人类的未来生活和工作,还将有机器人参与。机器人的自主学习,更离不开人脸识别技术。习,更离不开人脸识别技术。2015年年3月月16日,马云在德国参加活动时,为嘉
5、宾演示了一项日,马云在德国参加活动时,为嘉宾演示了一项“SmiletoPay”的扫脸技术。在网购后的支付认证阶段,通过的扫脸技术。在网购后的支付认证阶段,通过扫脸取代传统的密码,实现扫脸取代传统的密码,实现“刷脸支付刷脸支付”。机器学习的基本概念v机器学习的两大学派机器学习的两大学派机器学习:人工智能的重要分支机器学习:人工智能的重要分支p构造具有学习能力的智能系统构造具有学习能力的智能系统p知识、推理、学习知识、推理、学习p手段:统计,逻辑,代数手段:统计,逻辑,代数统计机器学习统计机器学习p从大量样本出发,运用统计方法,发现统计规律从大量样本出发,运用统计方法,发现统计规律p有监督学习、无
6、监督学习、半监督学习有监督学习、无监督学习、半监督学习p问题:分类,聚类,回归问题:分类,聚类,回归机器学习的基本概念v机器学习的定义机器学习的定义西蒙(西蒙(Simon,1983):):学习就是系统中的适应性变化,学习就是系统中的适应性变化,这种变化使系统在重复同样工作或类似工作时,能够做这种变化使系统在重复同样工作或类似工作时,能够做得更好。得更好。明斯基(明斯基(Minsky,1985):):学习是在人们头脑里(心理学习是在人们头脑里(心理内部)有用的变化。内部)有用的变化。学习学习是一个有特定目的知识获取和能力增长过程,其内是一个有特定目的知识获取和能力增长过程,其内在行为是在行为是获
7、得知识获得知识、积累经验积累经验、发现规律发现规律等,其外部表等,其外部表现是现是改进性能改进性能、适应环境适应环境、实现自我完善实现自我完善等。等。机器学习机器学习是研究如何使用机器来模拟人类学习活动的一是研究如何使用机器来模拟人类学习活动的一门学科。门学科。机器学习的基本概念v机器学习的任务机器学习的任务根据有限样本集根据有限样本集 Q,推算这个世界,推算这个世界 W 的模型,的模型,使得其对这个世界为真。使得其对这个世界为真。机器学习的基本概念v机器学习的三要素机器学习的三要素一致性假设:一致性假设:假设世界假设世界W与样本集与样本集Q具有某种相同具有某种相同性质机器学习的条件。性质机器
8、学习的条件。样本空间划分:样本空间划分:将样本集放到一个将样本集放到一个n维空间,寻找维空间,寻找一个决策面一个决策面(等价关系等价关系),使得问题决定的不同对象,使得问题决定的不同对象被划分在不相交的区域。被划分在不相交的区域。泛化能力:泛化能力:从有限样本集合中获得的规律是否对学从有限样本集合中获得的规律是否对学习集以外的数据仍然有效。泛化能力习集以外的数据仍然有效。泛化能力 决定模型对决定模型对世界的有效性。世界的有效性。内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习
9、4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现机器学习策略与基本结构v机器学习的主要策略:机器学习的主要策略:按照学习中按照学习中使用使用推理推理的多的多少,机器学习所采用的策略大体上可分为少,机器学习所采用的策略大体上可分为4 4种种机械学习:机械学习:记忆学习方法,即把新的知识存储起来,供记忆学习方法,即把新的知识存储起来,供需要时检索调用,而需要时检索调用,而不需要计算和推理不需要计算和推理。示教学习:示教学习:外界输入知识与内部知识的表达不完全一致,外界输入知识与内部知识的表达不完全一致,系统在接受外部知识时系统
10、在接受外部知识时需要推理、翻译和转化需要推理、翻译和转化。类比学习:类比学习:需要发现当前任务与已知知识的相似之处,需要发现当前任务与已知知识的相似之处,通过类比给出完成当前任务的方案。通过类比给出完成当前任务的方案。示例学习:示例学习:需要从一组正例和反例中分析和总结出一般需要从一组正例和反例中分析和总结出一般性的规律,在新的任务中推广、验证、修改规律。性的规律,在新的任务中推广、验证、修改规律。机器学习策略与基本结构v学习系统的基本结构学习系统的基本结构v影响学习系统设计的要素影响学习系统设计的要素环境:环境:环境向系统提供信息的水平(一般化程度)和质环境向系统提供信息的水平(一般化程度)
11、和质量(正确性)量(正确性)知识库:知识库:表达能力,易于推理,容易修改,知识表示易表达能力,易于推理,容易修改,知识表示易于扩展。于扩展。环环 境境学学 习习知识库知识库执执 行行内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现归纳学习v归纳学习(归纳学习(Induction Learning)归纳学习是应用归纳推理进行学习的一种方法。归纳学习是应用归纳推
12、理进行学习的一种方法。归纳学习的模式:归纳学习的模式:解释过程 实例空间 规则空间 规划过程 实验规划过程通过对实例空间的搜索完成实例选择,并将这些选中实验规划过程通过对实例空间的搜索完成实例选择,并将这些选中拿到的活跃实例提交给解释过程。解释过程对实例加以适当转换,把活拿到的活跃实例提交给解释过程。解释过程对实例加以适当转换,把活跃实例变换为规则空间中的特定概念,以引导规则空间的搜索。跃实例变换为规则空间中的特定概念,以引导规则空间的搜索。归纳学习v归纳学习(归纳学习(Induction Learning)归纳学习是目前研究得最多的学习方法,其学习目的是归纳学习是目前研究得最多的学习方法,其
13、学习目的是为了获得新概念、构造新规则或发现新理论。为了获得新概念、构造新规则或发现新理论。根据归纳学习有无教师指导,可把它分为根据归纳学习有无教师指导,可把它分为p示例学习:示例学习:给学习者提供某一概念的一组给学习者提供某一概念的一组正例正例和和反反例例,学习者归纳出一个总的,学习者归纳出一个总的概念描述(规则)概念描述(规则),并,并使这个描述适合于所有的正例,排除所有的反例。使这个描述适合于所有的正例,排除所有的反例。p观察发现学习:观察发现学习:p概念聚类:概念聚类:按照一定的方式和准则分组,归纳概念按照一定的方式和准则分组,归纳概念p机器发现:机器发现:从数据和事例中发现新知识从数据
14、和事例中发现新知识内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现类比学习v类比推理和类比学习方式类比推理和类比学习方式类比学习(类比学习(learning by analogy)就是通过类比,即通就是通过类比,即通过对相似事物加以比较所进行的一种学习过对相似事物加以比较所进行的一种学习。类比学习是利用二个不同领域(类比学习是利用二个不同领域(源域、目标域源
15、域、目标域)中的知)中的知识相似性,可以通过类比,从源域的知识(包括相似的识相似性,可以通过类比,从源域的知识(包括相似的特征和其它性质)推导出目标域的相应知识,从而实现特征和其它性质)推导出目标域的相应知识,从而实现学习。学习。例如:例如:p1.一个从未开过一个从未开过truck的司机,只要他有开的司机,只要他有开car的知识就可完成的知识就可完成开开truck的任务。的任务。p2.若把某个人比喻为消防车,则可通过观察消防车的行为,推若把某个人比喻为消防车,则可通过观察消防车的行为,推断出这个人的性格。断出这个人的性格。类比学习v类比推理和类比学习方式类比推理和类比学习方式类比学习系统可以使
16、一个已有的计算机应用系类比学习系统可以使一个已有的计算机应用系统转变为适应于新的领域,来完成原先没有设统转变为适应于新的领域,来完成原先没有设计的相类似的功能。计的相类似的功能。类比推理过程:类比推理过程:p 回忆与联想:回忆与联想:找出当前情况的相似情况找出当前情况的相似情况p 选择:选择:选择最相似的情况及相关知识选择最相似的情况及相关知识p 建立对应关系:建立对应关系:建立相似元素之间的映射建立相似元素之间的映射p 转换:转换:求解问题或产生新的知识求解问题或产生新的知识类比学习v类比学习研究类型类比学习研究类型问题求解型的类比学习:问题求解型的类比学习:求解一个新问题时,求解一个新问题
17、时,先回忆以前是否求解过类似问题,若是,则以先回忆以前是否求解过类似问题,若是,则以此为依据求解新问题。此为依据求解新问题。预测推理型的类比学习预测推理型的类比学习p传统的类比法:传统的类比法:用来推断一个不完全确定的事用来推断一个不完全确定的事物可能还有的其他属性物可能还有的其他属性p因果关系型:因果关系型:已知因果关系已知因果关系S1:A-B,如果有,如果有A A,则可能有,则可能有B满足满足A-B内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5
18、.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现解释学习v解释学习解释学习(Explanation-based learning,EBL)解释学习兴起于解释学习兴起于20世纪世纪80年代中期,根据任务所在年代中期,根据任务所在领域知识领域知识和正在学习的和正在学习的概念知识概念知识,对当前,对当前实例实例进行进行分析和求解,得出一个表征求解过程的分析和求解,得出一个表征求解过程的因果解释树因果解释树,以获取以获取新的知识新的知识。例如:例如:学生根据教师提供的学生根据教师提供的目标概念目标概念、该概念的一、该概念的一个个例子例子、领域理论领域理论及
19、及可操作准则可操作准则,首先构造一个解,首先构造一个解释来说明为什么该例子满足目标概念,然后将解释释来说明为什么该例子满足目标概念,然后将解释推广为目标概念的一个满足可操作准则的充分条件。推广为目标概念的一个满足可操作准则的充分条件。解释学习v解释学习过程和算法解释学习过程和算法米切尔提出了一个解释学习的统一算法米切尔提出了一个解释学习的统一算法EBG,建立了,建立了基于解释的概括过程,并用知识的逻辑表示和演绎推理基于解释的概括过程,并用知识的逻辑表示和演绎推理进行问题求解。其一般性描述为:进行问题求解。其一般性描述为:给定给定:p领域知识领域知识DTp目标概念目标概念TCp训练实例训练实例T
20、Ep操作性准则操作性准则OC找出:找出:满足满足OC的关于的关于TC的充分条件的充分条件目标概念目标概念新规则新规则操作准则操作准则训练例子训练例子知识库知识库解释学习vEBG算法可概括为两步:算法可概括为两步:1.构造解释:构造解释:运用领域知识进行演绎,证明提供给系统运用领域知识进行演绎,证明提供给系统的训练实例为什么是满足目标概念的一个实例。的训练实例为什么是满足目标概念的一个实例。例如:例如:p设要学习的设要学习的目标概念目标概念是是“一个物体(一个物体(Obj1)可以安)可以安全地放置在另一个物体(全地放置在另一个物体(Obj2)上)上”,即:,即:Safe-To-Stack(Obj
21、1,obj2)p领域知识是把一个物体放置在另一个物体上面的安领域知识是把一个物体放置在另一个物体上面的安全性全性准则准则:解释学习vEBG算法可概括为两步:算法可概括为两步:p领域知识:领域知识:-Fragile(y)Safe-To-Stack(x,y):如果如果y不是易碎的,则不是易碎的,则x可以安全地放到可以安全地放到y的上面的上面-Lighter(x,y)Safe-To-Stack(x,y):如果如果x 比比y轻,则轻,则x可以可以安全地放到安全地放到y的上面的上面-Volume(p,v)Density(p,d)*(v,d,w)Weight(p,w):如果如果p的体积是的体积是v、密度是
22、、密度是d、v乘以乘以d的积是的积是w,则,则p的重量的重量是是w-Isa(p,table)Weight(p,15):若若p是桌子,则是桌子,则p的重量是的重量是15-Weight(p1,w1)Weight(p2,w2)Smaller(w1,w2)Lighter(p1,p2):如果如果p1的重量是的重量是w1、p2的重量是的重量是w2、w1比比w2小,小,则则p1比比p2轻轻解释学习vEBG算法可概括为两步:算法可概括为两步:pSafe-To-Stack(Obj1,obj2)解释结构:解释结构:Safe-To-Stack(Obj1,obj2)Lighter(Obj1,obj2)Weight(O
23、bj1,0.1)Weight(Obj2,15)Smaller(0.1,15)Isa(Obj2,table)Voume(Obj1,1)Density(Obj1,0.1)*(1,0.1,0.1)解释学习vEBG算法可概括为两步:算法可概括为两步:2.获取一般性的知识:获取一般性的知识:p任务:任务:对上一步得到的解释结构进行一般化的处理,对上一步得到的解释结构进行一般化的处理,从而得到从而得到关于目标概念的一般性知识关于目标概念的一般性知识。p方法:方法:将常量换成变量,并把某些不重要的信息去将常量换成变量,并把某些不重要的信息去掉,只保留求解问题必须的关键信息。掉,只保留求解问题必须的关键信息。
24、p例如:例如:Volume(O1,v1)Density(O1,d1)*(v1,d1,w1)Isa(O2,table)Smaller(w1,15)Safe-To-Stack(Obj1,obj2)解释学习vEBG算法可概括为两步:算法可概括为两步:p Safe-To-Stack(O1,O2)一般化解释结构一般化解释结构Safe-To-Stack(O1,O2)Lighter(O1,O2)Weight(O1,w1)Weight(O2,15)Smaller(w1,15)Isa(O2,table)Voume(O1,v1)Density(O1,d1)*(v1,d1,w1)以后求解类似问题时,就可以直接以后求
25、解类似问题时,就可以直接利用这个知识进行求解,提到了系利用这个知识进行求解,提到了系统求解问题的效率。统求解问题的效率。内容提要第七章:机器学习系统第七章:机器学习系统1.1.机器学习的基本概念机器学习的基本概念2.2.机器学习策略与基本结构机器学习策略与基本结构3.3.归纳学习归纳学习4.4.类比学习类比学习5.5.解释学习解释学习6.6.神经网络学习神经网络学习8.8.其他其他7.7.知识发现知识发现神经网络学习v神经生理学研究表明,人脑的神经元既是学习的神经生理学研究表明,人脑的神经元既是学习的基本单位,同是也是记忆的基本单位。基本单位,同是也是记忆的基本单位。v目前,关于人脑学习和记忆
展开阅读全文