书签 分享 收藏 举报 版权申诉 / 75
上传文档赚钱

类型神经网络最终版课件.ppt

  • 上传人(卖家):晟晟文业
  • 文档编号:4239477
  • 上传时间:2022-11-22
  • 格式:PPT
  • 页数:75
  • 大小:2.86MB
  • 【下载声明】
    1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
    2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
    3. 本页资料《神经网络最终版课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
    4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
    5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
    配套讲稿:

    如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。

    特殊限制:

    部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。

    关 键  词:
    神经网络 最终版 课件
    资源描述:

    1、人工神经网络基础知识人工神经网络基础知识1.人工神经网络概述什么是人工神经网络(Artificial NeuralNetwroks-ANN)?生物神经网络生物神经网络(natural neural network,NNN):(natural neural network,NNN):由中枢由中枢神经系统(脑和脊髓)及周围神经系统(感觉神经、运动神神经系统(脑和脊髓)及周围神经系统(感觉神经、运动神经等)所构成的错综复杂的神经网络,其中最重要的是经等)所构成的错综复杂的神经网络,其中最重要的是脑神脑神经系统经系统。人工神经网络人工神经网络(artificial neural networks,AN

    2、N):(artificial neural networks,ANN):模拟模拟人脑神经系统人脑神经系统的结构和功能,运用大量简单处理单元经广泛的结构和功能,运用大量简单处理单元经广泛连接而组成的人工网络系统。连接而组成的人工网络系统。T.KoholenT.Koholen的定义:的定义:“人工神经网络是由具有适应性的简单单人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。统对真实世界物体所作出的交互反应。”1.1 研究研究ANN目的目的1.2 ANN的研究内容的研究内容

    3、1.3 研究研究ANN方法方法1.4 神经网络的发展概况神经网络的发展概况1.5 神经网络的特点神经网络的特点1.人工神经网络概述 利用机器模仿人类的智能是长期以来人利用机器模仿人类的智能是长期以来人们认识自然、改造自然和认识自身的理想。们认识自然、改造自然和认识自身的理想。1.1 研究研究ANN目的:目的:(1)探索和模拟人的感觉、思维和行为的)探索和模拟人的感觉、思维和行为的规律,设计具有人类智能的计算机系统。规律,设计具有人类智能的计算机系统。(2)探讨人脑的智能活动,用物化了的智探讨人脑的智能活动,用物化了的智能来考察和研究人脑智能的物质过程及其规能来考察和研究人脑智能的物质过程及其规

    4、律。律。1.2 ANN的研究内容(1)理论研究理论研究:ANNANN模型及其学习算法,试图从数模型及其学习算法,试图从数学上描述学上描述ANNANN的动力学过程,建立相应的的动力学过程,建立相应的ANNANN模型,模型,在该模型的基础上,对于给定的学习样本,找出一在该模型的基础上,对于给定的学习样本,找出一种能以较快的速度和较高的精度调整神经元间互连种能以较快的速度和较高的精度调整神经元间互连权值,使系统达到稳定状态,满足学习要求的算权值,使系统达到稳定状态,满足学习要求的算法。法。(2)实现技术的研究实现技术的研究:探讨利用电子、光学、生探讨利用电子、光学、生物等技术实现神经计算机的途径。物

    5、等技术实现神经计算机的途径。(3)应用的研究应用的研究:探讨如何应用探讨如何应用ANN解决实际问解决实际问题,如模式识别、故障检测、智能机器人等。题,如模式识别、故障检测、智能机器人等。1.3 研究ANN方法(1)生理结构的模拟:)生理结构的模拟:用仿生学观点,探索人脑的生理结构,把对用仿生学观点,探索人脑的生理结构,把对人脑的微观结构及其智能行为的研究结合起来即人人脑的微观结构及其智能行为的研究结合起来即人工神经网络(工神经网络(Artificial Neural Netwroks,简称简称ANN)方法。方法。(2)宏观功能的模拟:)宏观功能的模拟:从人的思维活动和智能行为的心理学特性出从人

    6、的思维活动和智能行为的心理学特性出发,利用计算机系统来对人脑智能进行宏观功能的发,利用计算机系统来对人脑智能进行宏观功能的模拟,即模拟,即符号处理方法符号处理方法。q 探索时期探索时期:(开始于(开始于20世纪世纪40年代)年代)1943年,麦克劳(年,麦克劳(W.S.McCullocn)和匹茨(和匹茨(W.A.Pitts)首次提出一个神经网络模型首次提出一个神经网络模型MP模型。模型。1949年,赫布(年,赫布(D.O.Hebb)提出提出改变神经元连接强度的改变神经元连接强度的 Hebb学习规则。学习规则。1.4 神经网络的发展概况 1958年,罗森布拉特(年,罗森布拉特(F.Rosenbl

    7、att)提出感知器模型提出感知器模型(perceptron)。)。1959年,威德罗年,威德罗(B.Widrow)等提出自适应线性元件(等提出自适应线性元件(adaline)网络,通过训练后可用于抵消通信中的回波和噪声。网络,通过训练后可用于抵消通信中的回波和噪声。1960年,年,他和他和 M.Hoff 提出提出LMS(Least Mean Square 最小方差)算法最小方差)算法的学习规则。的学习规则。q 第一次热潮时期:第一次热潮时期:(20世纪世纪50年代末年代末 20世纪世纪60年代年代初初)1969年,明斯基(年,明斯基(M.Minsky)等在等在Perceptron中对感知器功能

    8、得出悲观结论。中对感知器功能得出悲观结论。1972年,年,T.Kohonen 和和 J.Anderson 分别提出能完成分别提出能完成记忆的新型神经网络。记忆的新型神经网络。1976年,年,S.Grossberg 在自组织神经网络方面的研究在自组织神经网络方面的研究十分活跃。十分活跃。q 低潮时期:低潮时期:(20世纪世纪60年代末年代末 20世纪世纪70年代年代)q 第二次第二次热潮时期:热潮时期:20世纪世纪80年代至今年代至今 1982年年1986年,霍普菲尔德(年,霍普菲尔德(J.J.Hopfield)陆续提出离陆续提出离散的和连续的全互连神经网络模型,并成功求解旅行商问题散的和连续的

    9、全互连神经网络模型,并成功求解旅行商问题(TSP)。)。1986年,鲁姆尔哈特(年,鲁姆尔哈特(Rumelhart)和麦克劳(和麦克劳(McCellan)等等在在Parallel Distributed Processing中提出反向传播学习算法中提出反向传播学习算法(BP算法)算法)。1987年年6月,首届国际神经网络学术会议在美国圣地亚哥召开,月,首届国际神经网络学术会议在美国圣地亚哥召开,成立了国际神经网络学会(成立了国际神经网络学会(INNS)。)。1.5 人工神经网络的特点(1)固有的并行结构和并行处理固有的并行结构和并行处理人工神经网络与人类的大脑类似,不但结构上是并行的,人工神经

    10、网络与人类的大脑类似,不但结构上是并行的,其处理顺序也是并行的和同时的。其处理顺序也是并行的和同时的。在在同一层内同一层内的处理单元都是的处理单元都是同时工作同时工作的,即神经网络的计的,即神经网络的计算功能分布在多个处理单元上,而传统的计算机通常只有算功能分布在多个处理单元上,而传统的计算机通常只有一个处理单元,其处理顺序是串行的。一个处理单元,其处理顺序是串行的。目前的神经网络功能常常用一般计算机的串行工作方式来目前的神经网络功能常常用一般计算机的串行工作方式来模拟,所以显得很慢,真正意义上的神经网络将会大大提模拟,所以显得很慢,真正意义上的神经网络将会大大提高处理速度,实现快速处理。高处

    11、理速度,实现快速处理。(2)知识的分布存储知识的分布存储在神经网络中,知识不是存储在特定的存储单元,而是在神经网络中,知识不是存储在特定的存储单元,而是分布在整个系统中,要存储多个知识就需要很多连接。分布在整个系统中,要存储多个知识就需要很多连接。在计算机中,只要给定一个地址就可以得到一个或一组在计算机中,只要给定一个地址就可以得到一个或一组数据,在神经网络中,要获得存储的知识则采用数据,在神经网络中,要获得存储的知识则采用“联联想想”的办法,这类似于人类和动物的记忆。的办法,这类似于人类和动物的记忆。当一个神经网络输入一个激励时,它要在已存储的知识当一个神经网络输入一个激励时,它要在已存储的

    12、知识中寻找与该输入匹配最好的知识存储为其解。中寻找与该输入匹配最好的知识存储为其解。人类根据联想善于正确识别图形,人工神经网络也具有人类根据联想善于正确识别图形,人工神经网络也具有这种能力。这种能力。(3)容错性容错性人类大脑具有很强的容错能力,这正是由于大脑中知人类大脑具有很强的容错能力,这正是由于大脑中知识是存储在很多处理单元和它们的连接上的。识是存储在很多处理单元和它们的连接上的。每天大脑的一些细胞都可能会自动死亡,但这并没有影响每天大脑的一些细胞都可能会自动死亡,但这并没有影响人们的记忆和思考能力。人们的记忆和思考能力。人工神经网络可以从不完善的数据和图形进行学习和人工神经网络可以从不

    13、完善的数据和图形进行学习和做出决定做出决定 由于知识存在整个系统中,而不是在一个存储单元内,因由于知识存在整个系统中,而不是在一个存储单元内,因此一定比例的结点不参与运算,对整个系统的性能不会产此一定比例的结点不参与运算,对整个系统的性能不会产生重大影响。生重大影响。神经网络中承受硬件损坏的能力比一般计算机要强得多。神经网络中承受硬件损坏的能力比一般计算机要强得多。(4)自适应性)自适应性人类有很强的适应外部的学习能力人类有很强的适应外部的学习能力 小孩在周围环境的熏陶下可以学会很多事情,如通过学习可以认小孩在周围环境的熏陶下可以学会很多事情,如通过学习可以认字、说话、走路、思考、判断等。字、

    14、说话、走路、思考、判断等。n人工神经网络也具有学习能力人工神经网络也具有学习能力p有指导的训练:有指导的训练:将输入样本加到网络输入并给出相应的将输入样本加到网络输入并给出相应的输出,通过多次训练迭代获得连接权值。输出,通过多次训练迭代获得连接权值。好像告诉网络:好像告诉网络:“当你看到这个图形(比如当你看到这个图形(比如5)时,请给)时,请给我指示我指示5”。p无指导的训练:无指导的训练:网络通过训练自行调节连接加权,从而网络通过训练自行调节连接加权,从而对输入样本分类对输入样本分类在网络训练时,有时只能给出大量的输入图形,没有指定它在网络训练时,有时只能给出大量的输入图形,没有指定它们的输

    15、出,网络就自行按输入图形的特征对它们进行分类。们的输出,网络就自行按输入图形的特征对它们进行分类。如小孩通过大量观察可以分辨出哪是狗、哪是猫一样。如小孩通过大量观察可以分辨出哪是狗、哪是猫一样。2 神经元与神经网络神经元与神经网络2.1 生物神经元的结构生物神经元的结构2.2 神经元数学模型神经元数学模型2.3 神经网络结构与工作方式神经网络结构与工作方式2.4 神经网络的学习方法神经网络的学习方法2.1 生物神经元的结构生物神经元的结构n人脑由一千多亿(人脑由一千多亿(10111011亿亿 1014 1014 亿)个神经细胞(神经亿)个神经细胞(神经元)交织在一起的网状结构组元)交织在一起的

    16、网状结构组成,其中大脑皮层约成,其中大脑皮层约140140亿个神亿个神经元,小脑皮层约经元,小脑皮层约10001000亿个神经亿个神经元。元。n 神经元约有神经元约有10001000种类型,每个神经元大约与种类型,每个神经元大约与10103 3 10104 4个其他个其他神经元相连接,形成极为错综复杂而又灵活多变的神经网络。神经元相连接,形成极为错综复杂而又灵活多变的神经网络。n 人的智能行为就是由如此高度复杂的组织产生的。浩瀚的宇人的智能行为就是由如此高度复杂的组织产生的。浩瀚的宇宙中,也许只有包含数千忆颗星球的银河系的复杂性能够与大宙中,也许只有包含数千忆颗星球的银河系的复杂性能够与大脑相

    17、比。脑相比。(输入输入)(输出输出)神经冲动神经冲动n神经元的信息传递和处理是一种电化学活动,树突由于电化神经元的信息传递和处理是一种电化学活动,树突由于电化学作用接受外界的刺激学作用接受外界的刺激(输入输入);通过胞体内的活动体现为轴;通过胞体内的活动体现为轴突电位,当轴突电位达到一定的值则形成神经脉冲或动作电突电位,当轴突电位达到一定的值则形成神经脉冲或动作电位;再通过轴突末梢传递给其他神经元位;再通过轴突末梢传递给其他神经元(输出输出)。从控制论的。从控制论的观点来看,这一过程可以看作一个多输入单输出非线性系统观点来看,这一过程可以看作一个多输入单输出非线性系统的动态过程。的动态过程。细

    18、胞体突触轴突树突图12.2 生物神经元功能模型输入输出信息处理电脉冲形成传输生物神经网络基本模型生物神经网络基本模型n神经元的神经元的 工作状态:工作状态:l 兴奋状态兴奋状态:细胞膜电位:细胞膜电位 动作电位的阈值动作电位的阈值 神经冲动神经冲动 l 抑制状态抑制状态:细胞膜电位:细胞膜电位 0,此时此时who0情况二情况二直观表达直观表达 当误差对权值的偏导数当误差对权值的偏导数小于零小于零时时,权值调整量权值调整量为正为正,实际输实际输出少于期望输出,权值向增大出少于期望输出,权值向增大方向调整,使得实际输出与期方向调整,使得实际输出与期望输出的差减少。望输出的差减少。hoewe0who

    19、3.3 BP算法的实现(1)隐层数及隐层神经元数的确定:隐层数及隐层神经元数的确定:目前尚无理论指目前尚无理论指导。导。(2)初始权值的设置:)初始权值的设置:一般以一个均值为一般以一个均值为0的随机分布的随机分布设置网络的初始权值。设置网络的初始权值。(3)训练数据预处理:)训练数据预处理:线性的特征比例变换,将所有线性的特征比例变换,将所有的特征变换到的特征变换到0,1或者或者-1,1区间内,使得在每个训区间内,使得在每个训练集上,每个特征的均值为练集上,每个特征的均值为0,并且具有相同的方差。,并且具有相同的方差。(4)后处理过程:)后处理过程:当应用神经网络进行分类操作时,当应用神经网

    20、络进行分类操作时,通常将输出通常将输出值编码成所谓的名义变量,具体的值对应类值编码成所谓的名义变量,具体的值对应类别标号。别标号。n(1).BP算法的设计算法的设计 3.3 BP3.3 BP算法的实现算法的实现 初始化:初始化:对所有连接权和阈值赋以随机任意小对所有连接权和阈值赋以随机任意小值;值;从从 N 组输入输出样本中组输入输出样本中取一组样本:取一组样本:x=x1,x2,xp1T,d=d1,d2,dpmT,把输入信息把输入信息x=x1,x2,xp1T输入到输入到BP网络中网络中 正向传播:正向传播:计算各层节点的输出:计算各层节点的输出:计算网络的实际输出与期望输出的计算网络的实际输出

    21、与期望输出的误差误差:)0;,.,1;,.,1;,.,1()()(1tpjpimkttwkkkikij,n(2).BP算法的计算机实现流程算法的计算机实现流程),.,1,.,1(mkpiykki;),.,1(mmiiipiyye 反向传播:反向传播:从输出层方向计算到第一从输出层方向计算到第一个隐层,按连接权值修正公式向减小误差个隐层,按连接权值修正公式向减小误差方向调整网络的各个连接权值。方向调整网络的各个连接权值。让让t+1t,取出另一组样本重复(取出另一组样本重复(2)(5),直到),直到 N 组输入输出样本的误差组输入输出样本的误差达到要求时为止。达到要求时为止。ydkjkiijw1

    22、式输出层连接权调整公)(1(yyyydimimimimi)1(yydkikiki 隐层连接权调整公式隐层连接权调整公式 1111kplklklidwBP学习算法程序框图学习算法程序框图(3 3)BPBP神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现 MATLABMATLAB中中BPBP神经网络的重要函数和基本功能神经网络的重要函数和基本功能 生成网络:生成网络:newffnewff 学习规则:学习规则:learngdlearngd,learngdmlearngdm 训练算法:训练算法:traingdtraingd,traingdmtraingdm,traingdatrai

    23、ngda,traingdxtraingdx,trainlmtrainlm 变换函数:变换函数:tansigtansig,purelinpurelin,logsiglogsig 训练网络:训练网络:traintrain 仿真网络:仿真网络:simsim 画图:画图:plotesplotes,plotepplotep,ploterrploterr,barerrbarerr newffnewff 该函数用于创建一个该函数用于创建一个BPBP网络。调用格式为:网络。调用格式为:net=net=newffnewff net=newff(PR,S1 S2.SN1,TF1 TF2.TFN1,net=newf

    24、f(PR,S1 S2.SN1,TF1 TF2.TFN1,BTF,BLF,PF)BTF,BLF,PF)其中其中,net=net=newffnewff;用于在对话框中创建一个用于在对话框中创建一个BPBP网络。网络。netnet为创建的新为创建的新BPBP神经网络;神经网络;PRPR为网络为网络输入向量取值范围输入向量取值范围的矩阵;的矩阵;S1 S2S1 S2SNlSNl 表示网络表示网络隐含层和输出层神经元的个数隐含层和输出层神经元的个数;TFlTFl TF2 TF2TFN1TFN1表示网络表示网络隐含层和输出层的传输函数隐含层和输出层的传输函数,默,默认为认为tansigtansig;BTF

    25、BTF表示表示网络的训练函数网络的训练函数,默认为,默认为trainlmtrainlm;BLFBLF表示网络的表示网络的权值学习函数权值学习函数,默认为,默认为learngdmlearngdm;PFPF表示表示性能数性能数,默认为,默认为msemse。例:基于BP神经网络逼近函数 要求设计一个要求设计一个BP网络逼近以下函数:网络逼近以下函数:其中,分别令其中,分别令k=1,2,4进行仿真,通过调节参数(如隐藏进行仿真,通过调节参数(如隐藏层节点个数等)得出信号的层节点个数等)得出信号的频率与隐层节点频率与隐层节点之间,之间,隐层节点隐层节点与函数逼近能力之与函数逼近能力之间的关系。间的关系。

    26、)4/sin(1)(xkxg 步骤步骤1:假设频率参数假设频率参数k=1k=1,绘制,绘制要逼近的要逼近的非线性函数非线性函数的曲线。的曲线。k=1;p=-1:.05:8;t=1+sin(k*pi/4*p);plot(p,t,-);title(要逼近的非线性函数要逼近的非线性函数);xlabel(时间时间);ylabel(非线性函数非线性函数);应用应用newff()函数建立函数建立BP网络结构。隐层神经元数目网络结构。隐层神经元数目n可以可以改变,暂设为改变,暂设为n=3,输出层有一个神经元。选择隐层和输出,输出层有一个神经元。选择隐层和输出层神经元传递函数分别为层神经元传递函数分别为tan

    27、sig函数和函数和purelin函数,网络训函数,网络训练的算法采用练的算法采用LM算法算法trainlm。n=3;net=newff(minmax(p),n,1,tansig purelin,trainlm);%对于初始网络,可以应用对于初始网络,可以应用sim()函数观察网络输出。()函数观察网络输出。y1=sim(net,p);figure;plot(p,t,-,p,y1,:)title(未训练网络的输出结果未训练网络的输出结果);xlabel(时间时间);ylabel(仿真输出仿真输出-原函数原函数-);步骤步骤2 2:网络的建立:网络的建立其中其中“”代表要逼近的非线性函数曲线;代表

    28、要逼近的非线性函数曲线;“”代表未经训练的函数曲线;代表未经训练的函数曲线;步骤步骤3 3:网络训练:网络训练应用应用traintrain()()函数对网络进行训练之前,需要预先设置网函数对网络进行训练之前,需要预先设置网络训练参数。将络训练参数。将训练时间设置为训练时间设置为5050,训练精度训练精度设置为设置为0.010.01,其余参数使用缺省值。其余参数使用缺省值。net.trainParam.epochs=50;%网络训练时间设置为网络训练时间设置为50net.trainParam.goal=0.01;%网络训练精度设置为网络训练精度设置为0.01net=train(net,p,t);

    29、%开始训练网络开始训练网络训练训练后得后得到的到的误差误差变化变化过程过程 步骤步骤4 4:网络测试网络测试对于训练好的网络进行仿真:对于训练好的网络进行仿真:y2=sim(net,p);figure;plot(p,t,-,p,y1,:,p,y2,-)title(训练后网络的输出结果训练后网络的输出结果);xlabel(时间时间);ylabel(仿真输出仿真输出);其中其中“”代表要逼近的非线性函数曲线;代表要逼近的非线性函数曲线;“”代表未经训练的函数曲线;代表未经训练的函数曲线;“”代表经过训练的函数曲线;代表经过训练的函数曲线;不同频率下的逼近效果(1)频率参数设为)频率参数设为k=2,

    30、当隐层神经元数目分别取,当隐层神经元数目分别取n=3、n=6时时 当当n=3时训练后网络的输出结果时训练后网络的输出结果 当当n=6时训练后网络的输出结果时训练后网络的输出结果(2)频率参数设为)频率参数设为k=4,当隐层神经元数目分别取,当隐层神经元数目分别取n=6、n=8时时 当当n=6时训练后网络的输出结果时训练后网络的输出结果 当当n=8时训练后网络的输出结果时训练后网络的输出结果结论 通过上述仿真结果可知,当通过上述仿真结果可知,当 k=1,n=3时;时;k=2,n=6时;时;k=4,n=8时,时,BP神经神经网络分别对函数取得了较好的逼近效果。网络分别对函数取得了较好的逼近效果。由

    31、此可见,由此可见,n取不同的值对函数逼近的效果取不同的值对函数逼近的效果有很大的影响有很大的影响。改变。改变BP网络隐层神经元的网络隐层神经元的数目,可以改变数目,可以改变BP神经网络对于函数的逼神经网络对于函数的逼近效果。近效果。隐层神经元数目越多,则隐层神经元数目越多,则BP网络网络逼近非线性函数的能力越强。逼近非线性函数的能力越强。RBFRBF神经网络神经网络 径向基函数(Radial Basis Function,RBF)网络是由Moody J和Darken C于20世纪80年代末提出的一种神经网络结构,是一种有监督的神经网络。它是借鉴生物机制中的局部凋节及交叉接受区域知识的基础上提出

    32、的一种采用局部接受域来执行函数映射的人工神经网络。RBF网络最基本的构成包括3层,其中每一层都有着完全不同的作用。1.RBF 神经网络概念1.1 RBF 神经网络概况:1X2X3X4X1W2W3W4WYNeuron:神经元11 1223344niiiy w xwxwxwxw x输入输出X1x11x12x13x14y1X2x21x22x23x24y2X3x31x32x33x34y3X4x41x42x43x44y4.Xnxn1xn2xn3xn4yn1 112 123 134 1411 212223 234242.11223344w xw xw xw xyw xw xw xw xyw xn w xn

    33、w xnw xnyn1112131411.2.3.12344xxxxwywAWYwxnxnxnxnwynA WY1WAY1TTWAAAY 1.1.1神经网络基础:1.1.1 RBF 神经网络基础:1X2X3X4X1W2W3W4WYNeuron:神经元分类回归1.1.1 RBF 神经网络基础:RBF 神经网络的本质:把输入数据从一个空间转换到另一个空间。1X2X1W2WY 1 x 2 x1X2X 1 x 2 x1.1.2 RBF 神经网络的例子1X2X1W2WY 1 x 2 x 212212x ux uxexe121100uu 1X2X 1 x 2 x 径向基函数有多种形式,如:二次型、逆二次型

    34、或Gauss型等。若采用高斯函数作为径向基函数,则神经元的输出为:1.2 RBF 神经网络的正式定义1X2X3X4X1W2W3WY 1 x 2 x 3 x x 22221/2221/222exp/logxxxxxxxxxxxxx 22exp2jxuxGaussian RBF(GRBF)1.2.1 RBF 神经网络的分类:一、Eeact 有几组数据,就有几个 ,适合数据比较少的网络 二、Approximate 如果数据多,需要先对数据进行归类 x神经网络的应用神经网络的应用 (1)自动控制领域自动控制领域。神经网络方法已经覆盖了控制理论中的绝大多数问题,主要有系统建模与辨识、PID 参数整定、极

    35、点配置、内模控制、优化设计、预测控制、最优控制、自适应控制、滤波与预测容错控制、模糊控制和学习控制等。(2)处理组合优化问题处理组合优化问题。最典型的例子是成功地解决了TSP问题,即旅行推销员问题。另外还有最大匹配问题、装箱问题和作业调度等。2.神经网络的应用神经网络神经网络PID控制控制(neural network PID control)经典增量式数字PID 的控制算法为:)2()1(2)()()1()()1()(kekekekkekkekekkukudip NN 是一个三层BP 网络,有M个输入节点、N 个隐含节点、3个输出节点。输入节点对应所选的系统运行状态量,输出节点分别对应PID

    36、 控制器的3个可调参数kp,ki,kd。(3)模式识别模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别,还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。(4)机器人控制机器人控制。对机器人眼手系统位置进行协调控制,用于机械手的故障诊断、智能自适应移动机器人的导航。(5)信号处理信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类;可用于海底声纳信号的检测与分类,在反潜、扫雷等方面得到应用。(6)卫生保健、医疗卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳。(7)经济经济。能对商品价格、股票价格和企业的可信度等进行短期预测。(8

    37、)化工领域化工领域。能对制药、生物化学和化学工程等进行分析。如:进行蛋白质结构分析、谱分析和化学反应分析等。(9)图像处理图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。(10)传感器信号处理传感器信号处理。传感器输出非线性特性的校正、传感器故障检测、滤波与除噪、环境影响因素的补偿、多传感器信息融合。(11)焊接领域焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究,部分成果已得到应用。(12)地理领域地理领域。在遥感图像分类中有广泛的应用,提高系统对数据进行复杂的综合分析的功能。(13)另外,在数据挖掘数据挖掘、电力系统电力系统、交通交通、军军事事、矿业矿业、农业农业和气象气象等方面亦有应用。3.神经网络的发展前景 我们可以想象到那时声控电视、电话、计算机、打字机等将进入寻常百姓家;人类可以直接同机器进行接口对话;具有思维、语言、感情的智能机器人将替代我们去做许多繁琐和人类自身不适合做的事情。谢谢!

    展开阅读全文
    提示  163文库所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    关于本文
    本文标题:神经网络最终版课件.ppt
    链接地址:https://www.163wenku.com/p-4239477.html

    Copyright@ 2017-2037 Www.163WenKu.Com  网站版权所有  |  资源地图   
    IPC备案号:蜀ICP备2021032737号  | 川公网安备 51099002000191号


    侵权投诉QQ:3464097650  资料上传QQ:3464097650
       


    【声明】本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是网络空间服务平台,本站所有原创文档下载所得归上传人所有,如您发现上传作品侵犯了您的版权,请立刻联系我们并提供证据,我们将在3个工作日内予以改正。

    163文库