大学精品课件:第九讲 机器学习-神经网络简介.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《大学精品课件:第九讲 机器学习-神经网络简介.ppt》由用户(罗嗣辉)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 大学精品课件:第九讲 机器学习-神经网络简介 大学 精品 课件 第九 机器 学习 神经网络 简介
- 资源描述:
-
1、电气与信息工程学院电气与信息工程学院第第9 9讲讲 机器学习机器学习-神经网络简介神经网络简介2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论29.1 9.1 概述概述机器学习机器学习(Machine Learning)(Machine Learning)是人工智能的核心问题,是信是人工智能的核心问题,是信息获取的一种高级形式。其应用遍及工业过程控制、信息安息获取的一种高级形式。其应用遍及工业过程控制、信息安全、机器人、生物学、金融学等各个领域,对科学研究的整全、机器人、生物学、金融学等各个领域,对科学研究的整个过程起到越来越大的支持作用。个过程起到越来越大的支持
2、作用。19591959年美国的塞缪尔年美国的塞缪尔(Samuel)(Samuel)设计了一个具有学习能力的跳设计了一个具有学习能力的跳棋程序,它可以在不断的对奕中改善自己的棋艺。棋程序,它可以在不断的对奕中改善自己的棋艺。4 4年后,年后,这个程序战胜了设计者本人。又过了这个程序战胜了设计者本人。又过了3 3年,这个程序战胜了年,这个程序战胜了美国一个保持美国一个保持8 8年之久的常胜不败的冠军。这个程序向人们年之久的常胜不败的冠军。这个程序向人们展示了机器学习的魅力。展示了机器学习的魅力。2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论39.2 9.2 机器学习
3、原理机器学习原理学习系统模型学习系统模型2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论49.2 9.2 机器学习原理机器学习原理工作原理工作原理:感知系统感知系统感受到环境有关事物运动状态及其变化方式,感受到环境有关事物运动状态及其变化方式,就产生相应的响应输入给学习与决策系统。就产生相应的响应输入给学习与决策系统。学习与决策系统学习与决策系统根据目的需求从这些输入中选择出适当的信息,并对这些信根据目的需求从这些输入中选择出适当的信息,并对这些信息进行加工,形成相应的策略,然后按照策略控制环境的变息进行加工,形成相应的策略,然后按照策略控制环境的变化或调节自身的
4、状态,以便达到预定的目的。如果化或调节自身的状态,以便达到预定的目的。如果控制和调控制和调节节的结果不能达到目的,就要从感知环节选择新的信息,并的结果不能达到目的,就要从感知环节选择新的信息,并进行与上述相似的加工、决策、控制和调节等过程,直至达进行与上述相似的加工、决策、控制和调节等过程,直至达到目的为止。到目的为止。2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论59.2 9.2 机器学习原理机器学习原理为了使为了使“学习与决策学习与决策”模块能够把语法信息转变为全信模块能够把语法信息转变为全信息,需要为系统配置一个全信息的息,需要为系统配置一个全信息的“知识
5、库知识库”和相应的和相应的“理解子系统理解子系统”。“学习与决策学习与决策”环节的模块环节的模块2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论69.2 9.2 机器学习原理机器学习原理 在信息获取领域,机器学习的基本原理可以归纳为:在信息获取领域,机器学习的基本原理可以归纳为:第一,机器学习系统必须设置明确的目的。以指导学习的方第一,机器学习系统必须设置明确的目的。以指导学习的方向;机器学习系统必须有反馈机制,以便通过学习效果与学向;机器学习系统必须有反馈机制,以便通过学习效果与学习目的的比较来改进学习的性能。习目的的比较来改进学习的性能。第二第二,机器学习系统
6、应当充分利用全信息,使系统能够理解机器学习系统应当充分利用全信息,使系统能够理解学习的学习的“目的目的”,并根据全信息做出学习的性能判断。,并根据全信息做出学习的性能判断。第三第三,在系统不能利用全信息的情况下,机器学习就只能采在系统不能利用全信息的情况下,机器学习就只能采用用“大量统计大量统计”的方法和的方法和“随机凑试随机凑试”的技术途径。这是目的技术途径。这是目前大多数机器学习的共同特征。前大多数机器学习的共同特征。2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论79.3 9.3 机器学习策略机器学习策略几种系统(当然不限于此)就是现在已经可以实现的机器几种
7、系统(当然不限于此)就是现在已经可以实现的机器学习系统。学习系统。监督型学习系统监督型学习系统 无监督学习系统无监督学习系统 条件反射型学习系统条件反射型学习系统 类比式学习系统类比式学习系统 演绎学习系统演绎学习系统 归纳学习系统归纳学习系统2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论89.4 9.4 人工神经网络简介人工神经网络简介人工神经网络是近年来得到迅速发展的一个前沿课题。人工神经网络是近年来得到迅速发展的一个前沿课题。神经网络由于其大规模并行处理、容错性、自组织和自神经网络由于其大规模并行处理、容错性、自组织和自适应能力和联想功能强等特点,已成为解
8、决很多问题的适应能力和联想功能强等特点,已成为解决很多问题的有力工具。有力工具。定义:定义:“人工神经网络是由具有适应性的简单单元组成的人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。真实世界物体所作出的交互反应。”2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论99.4 9.4 人工神经网络简介人工神经网络简介(1)第一次热潮第一次热潮(40-60年代未年代未)1943年年,美国心理学家美国心理学家W.McCulloch和数学家和数学家W.
9、Pitts在提在提出了一个简单的神经元模型,即出了一个简单的神经元模型,即MP模型。模型。1958年,年,F.Rosenblatt等研制出了感知机等研制出了感知机(Perceptron)。)。(2)低潮低潮(70-80年代初年代初):(3)第二次热潮第二次热潮 1982年,美国物理学家年,美国物理学家J.J.Hopfield提出提出Hopfield模型,模型,它是一个互联的非线性动力学网络它是一个互联的非线性动力学网络.他解决问题的方法是他解决问题的方法是一种反复运算的动态过程一种反复运算的动态过程,这是符号逻辑处理方法所不具这是符号逻辑处理方法所不具备的性质备的性质.2电气与信息工程学院电气
10、与信息工程学院机器学习机器学习信息科学导论信息科学导论109.4 9.4 人工神经网络简介人工神经网络简介n人脑由一千多亿(人脑由一千多亿(1011亿亿 1014 亿)个神经细胞(神经元)交亿)个神经细胞(神经元)交织在一起的网状结构组成,其中织在一起的网状结构组成,其中大脑皮层约大脑皮层约140亿个神经元,小亿个神经元,小脑皮层约脑皮层约1000亿个神经元。亿个神经元。n 神经元约有神经元约有1000种类型,每个神经元大约与种类型,每个神经元大约与103 104个其个其他神经元相连接,形成极为错综复杂而又灵活多变的神经网他神经元相连接,形成极为错综复杂而又灵活多变的神经网络。络。n 人的智能
11、行为就是由如此高度复杂的组织产生的。浩瀚的人的智能行为就是由如此高度复杂的组织产生的。浩瀚的宇宙中,也许只有包含数千忆颗星球的银河系的复杂性能够宇宙中,也许只有包含数千忆颗星球的银河系的复杂性能够与大脑相比。与大脑相比。2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论119.4 9.4 人工神经网络简介人工神经网络简介(输入输入)(输出输出)神经脉冲神经脉冲生物神经元结构生物神经元结构2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论129.4 9.4 人工神经网络简介人工神经网络简介神经元的信息传递和处理是一种电化学活动神经元的信息传
12、递和处理是一种电化学活动树突树突由于电由于电化学作用接受外界的刺激;通过胞体内的活动体现为化学作用接受外界的刺激;通过胞体内的活动体现为轴突轴突电位,当轴突电位达到一定的值则形成电位,当轴突电位达到一定的值则形成神经脉冲神经脉冲或动作电或动作电位;再通过轴突位;再通过轴突末梢末梢传递给其它的神经元从控制论的观传递给其它的神经元从控制论的观点来看;这一过程可以看作一个多输入单输出非线性系统点来看;这一过程可以看作一个多输入单输出非线性系统的动态过程。的动态过程。细胞体突触轴突树突图12.2 生物神经元功能模型输入输出信息处理电脉冲形成传输2电气与信息工程学院电气与信息工程学院机器学习机器学习信息
13、科学导论信息科学导论139.4 9.4 人工神经网络简介人工神经网络简介 神经元的数学模型神经元的数学模型 其中其中x(x1,xm)T 输输入向量,入向量,y为输出,为输出,wi是权是权系数;输入与输出具有如系数;输入与输出具有如下关系:下关系:miiixwfy1)(为阈值,为阈值,f(x)是激发函数;它可以是线性函数,也可以)是激发函数;它可以是线性函数,也可以是非线性函数是非线性函数2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论149.4 9.4 人工神经网络简介人工神经网络简介例如,若记例如,若记 取激发函数为符号函数取激发函数为符号函数 miiixwz1
14、.0,0,0,1)sgn(xxx则则 miiimiiixwxwzfy11,0,1)(2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学导论159.4 9.4 人工神经网络简介人工神经网络简介S型激发函数:型激发函数:,11)(xexf;1)(0 xf,)(xxxxeeeexf.1)(1xf注:注:若将阈值看作是一个权系数,若将阈值看作是一个权系数,-1是一个固定的输入,是一个固定的输入,另有另有m-1个正常的输入,则神经元模型也可表示为:个正常的输入,则神经元模型也可表示为:miiixwfy1)(2电气与信息工程学院电气与信息工程学院机器学习机器学习信息科学导论信息科学
展开阅读全文