书签 分享 收藏 举报 版权申诉 / 43
上传文档赚钱

类型人工神经网络.课件.ppt

  • 上传人(卖家):三亚风情
  • 文档编号:3019507
  • 上传时间:2022-06-23
  • 格式:PPT
  • 页数:43
  • 大小:1.09MB
  • 【下载声明】
    1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
    2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
    3. 本页资料《人工神经网络.课件.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
    4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
    5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
    配套讲稿:

    如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。

    特殊限制:

    部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。

    关 键  词:
    人工 神经网络 课件
    资源描述:

    1、 神经细胞与生物神经网络生物神经细胞(神经元) 人脑大约由1012个神经元组成,神经元互相连接成神经网络。 神经元是大脑处理信息的基本单元,以细胞体为主体,由许多向周围延伸的不规则树枝状纤维构成的神经细胞,其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse,又称神经键)组成。神经细胞与生物神经网络生物神经元神经细胞与生物神经网络 神经细胞神经元(neuron) 神经细胞突起 突触 轴突(输出)和树突(输入)相互联接,其接口称为突触。 神经突触是调整神经元之间相互作用的基本结构和功能单元。电信号 化学信号树突轴突神经细胞与生物神经网络 树突突触电位 轴突神经脉冲(动作电位

    2、) 膜电位:神经细胞内外电位之差 20100mv 静息电位:休止膜电位 -70 mv ms20神经细胞与生物神经网络神经元的激活 当膜电位比静息电位高出约 20mv,即达到 -50mv时,神经元(细胞)被激活。表现为膜电位急剧上升,在1ms内比静息电位上升100mv,达到30mv,轴突有电流传出。然后,膜电位又急剧下降,回到静息电位。ms2030mv人工神经网络人工神经网络 (Artificial Neuron-AN) 是由大量基本处理单元(神经元)广泛互联而成的网络,是人脑的抽象、简化、模拟,反映人脑的基本特性。 作为神经元模型应具备的那些要素?人工神经网络 作为神经元模型应具备的三个要素具

    3、有突触或联接 用wij表示神经元i和j之间联接强度。正、负值具有反映生物神经元时空整合功能的输入信号累加器具有一个激励函数用于限制神经元输出 激励函数将输出信号压缩(限制)在一个允许范围内,是其成为有限值。0,1或-1,1人工神经网络 人工神经元模型 x1xn表示与该神经元相连接的所有神经元的输入(出) w1wn表示与相连接神经元的突触强度(连接权) 表示神经元的(电压)阈值。 f ( )表示激励函数,单调上升函数,且取有限值 神经元电位值: 神经元的输出值:y =f(s)1x2xnx1w2wnwf ( ). .ysniiitxwfty1)()(人工神经网络 激励函数的基本作用控制输入对输出的

    4、激活;对输入、输出进行函数转换;将可能无限域的输入变换成指定的有限范围内的输出。 激励函数类型阈值函数线性函数非线性函数: Sigmoid函数人工神经网络 非线性函数 Sigmoid(S型)函数 a为s函数的斜率参数。 非线性函数 S型函数:双曲正切 f(s)=tanh(s)f-as人工神经网络的类型结构分类单层前向网络多层前向网络反馈网络 互连网络人工神经网络的类型 单层前向网络拥有一层计算节点输入层输入层输出层输出层人工神经网络的类型 多层前向网络拥有一个或多个隐含层输入层输入层输出层输出层隐含层隐含层人工神经网络的类型 在人工神经网络中,权(值)是一个反映信息储存的关键量。在网络的结构和

    5、激励函数确定以后,如何设计权使网络达到一定的要求,这是必不可少的部分,大多数神经网络权的设计是通过学习得到的。 学习(训练):通过神经网络所在环境的刺激作用调整网络的自由参数,使网络以一种新的方式对外部环境作出反应的过程。人工神经网络的学习 学习方法是人工神经网络研究中的核心问题。 人工神经网络连接权的确定通常有两种方法:根据具体要求:直接计算出来,如Hopfield网络作优化计算时就属于这种情况;通过学习得到的,大多数人工神经网络都用这种方法。人工神经网络的学习 Hebb学习 是Donall Hebb根据生理学中条件反射机理,于1949年提出的神经元连接强度变化的规则。 如果两个神经元同时兴

    6、奋(即同时被激活),则它们之间的突触连接加强。两个神经元之间的连接权,正比于两个神经元的活动值。人工神经网络的学习jiijVVwWij是神经元xj到xi的突触权值,xj和xi分别表示神经元j和i在一段时间内的平均值。 学习速率 Hebb学习规则是人工神经网络学习的基本规则,几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形。Wij(n+1)=Wij(n)+wij(n)人工神经网络的学习 纠错学习 e(n)=d(n)-yi(n) d(n)为期望神经网络的输出; yi(n)实际输出; 目的:调整权值,使误差信号e(n)减少设代价函数(性能指标) E(n)=1/2e2(n) 反复调整突触权值

    7、使代价函数达到最小或使系统达到一个稳定状态(权值稳定),完成学习过程。wij(n)= e(n)xj(n) wij神经元xj到xi的权值。 为学习速率 Wij(n+1)=Wij(n)+wij(n) 人工神经网络的特性 分布存储和容错性 信息在神经网络内的存储是按内容分布于许多神经元中,每个神经元存储多种信息的部分内容。 部分信息的丢失仍可以使完整的信息得以恢复,网络具有容错性和联想记忆功能。并行处理 各单元可以同时进行类似的处理过程,整个网络的信息处理方式是大规模并行的。人工神经网络的特性可塑性与自适应性和自组织性神经元之间的联接具有多样性,各元间的联接强度具有可塑性,相当于突触传递信息能力的变

    8、化。这使得网络可以通过学习与训练进行自组织,以适应不同信息处理的要求。 处理的非线性 通过学习,ANN具有很好的输入输出映射,它可以是线性的也可以是非线性的。利用ANN的非线性,可解决许多非线性问题。BP神经网络2022-6-22221.1 BP网络简介1.2 网络模型1.3 学习规则1.4 图形解释1.BP网络2022-6-2223反向传播网络(Back-Propagation Network,简称BP网络)是将W-H学习规则一般化,对非线性可微分函数进行权值训练的多层网络 权值的调整采用反向传播(Back-propagation)的学习算法它是一种多层前向反馈神经网络,其神经元的变换函数是

    9、S型函数输出量为0到1之间的连续量,它可实现从输入到输出的任意的非线性映射1.1 BP网络简介2022-6-22241.1 BP网络简介 BP网络主要用于下述方面函数逼近:用输入矢量和相应的输出矢量训练一个网络逼近一个函数模式识别和分类:用一个特定的输出矢量将它与输入矢量联系起来;把输入矢量以所定义的合适方式进行分类;数据压缩:减少输出矢量维数以便于传输或存储 具有将强泛化性能:使网络平滑地学习函数,使网络能够合理地响应被训练以外的输入 泛化性能只对被训练的输入输出对最大值范围内的数据有效,即网络具有内插值特性,不具有外插值性。超出最大训练值的输入必将产生大的输出误差2022-6-22251.

    10、2 网络模型输出层输出层隐藏层隐藏层输入层输入层o1o2omx1x2xn2022-6-22261.2 网络模型 感知器和自适应线性元件的主要差别在激活函数上:前者是二值型的,后者是线性的 BP网络具有一层或多层隐含层,除了在多层网络上与前面已介绍过的模型有不同外,其主要差别也表现在激活函数上。 BP网络的激活函数必须是处处可微的,因此它不能采用二值型的阀值函数0,1或符号函数1,1 BP网络经常使用的是S型的对数或正切激活函数和线性函数2022-6-22271.2 网络模型 BP网络特点输入和输出是并行的模拟量网络的输入输出关系是各层连接的权因子决定,没有固定的算法权因子通过学习信号调节。学习

    11、越多,网络越聪明隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响只有当希望对网络的输出进行限制,如限制在0和1之间,那么在输出层应当包含S型激活函数在一般情况下,均是在隐含层采用S型激活函数,而输出层采用线性激活函数2022-6-22281.2 网络模型 S型函数具有非线性放大系数功能,可以把输入从负无穷大到正无穷大的信号,变换成-1到l之间输出 对较大的输入信号,放大系数较小;而对较小的输入信号,放大系数则较大 采用S型激活函数可以处理和逼近非线性输入/输出关系2022-6-22291.3 学习规则 BP算法属于算法,是一种监督式的学习算法 主要思想对于q个输入学习

    12、样本:P1,P2,Pq,已知与其对应的输出样本为:T1,T2,Tq使网络输出层的误差平方和达到最小用网络的实际输出A1,A2,Aq, 与目标矢量T1,T2,Tq之间的误差修改其权值,使Am与期望的Tm,(ml,q)尽可能接近2022-6-22301.3 学习规则 BP算法是由两部分组成,信息的正向传递与误差的反向传播正向传播过程中,输入信息从输入层经隐含层逐层计算传向输出层,每一层神经元的状态只影响下一层神经元的状态如果在输出层未得到期望的输出,则计算输出层的误差变化值,然后转向反向传播,通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标2022-6-22311.3

    13、 学习规则 假设输入为P,输入神经元有r个,隐含层内有s1个神经元,激活函数为F1,输出层内有s2个神经元,对应的激活函数为F2,输出为A,目标矢量为T2022-6-22321.3 学习规则 信息的正向传递隐含层中第i个神经元的输出输出层第k个神经元的输出定义误差函数2022-6-22331.3 学习规则 利用梯度下降法求权值变化及误差的反向传播 输出层的权值变化 其中 同理可得2022-6-22341.3 学习规则 利用梯度下降法求权值变化及误差的反向传播 隐含层权值变化 其中 同理可得2022-6-22351.3 学习规则 对于f1为对数S型激活函数, 对于f2为线性激活函数2022-6-

    14、22361.4 误差反向传播图形解释 误差反向传播过程实际上是通过计算输出层的误差ek,然后将其与输出层激活函数的一阶导数f2相乘来求得ki 由于隐含层中没有直接给出目标矢量,所以利用输出层的ki反向传递来求出隐含层权值的变化量w2ki。然后计算 同样通过将ei与该层激活函数的一阶导数f1相乘,而求得ij,以此求出前层权值的变化量w1ij 如果前面还有隐含层,沿用上述同样方法依此类推,一直将输出误差ek逐层的反推算到第一层为止2022-6-22371.4 误差反向传播图形解释2022-6-2238BP算法的程序流程高校校园安全评价高校校园安全评价前前11组样本数组样本数据作为训练样据作为训练样本本最后最后1组作为组作为验证数据验证数据输入层个数:输入层个数:17个(校园安全指标攻个(校园安全指标攻17个)个)隐含层个数:隐含层个数:11个(根据经验)个(根据经验)输出层个数:输出层个数:4个(评价指标优、良、中、个(评价指标优、良、中、差)差)训练函数:训练函数:trainlm训练次数:训练次数:1000次次训练目标:训练目标:0.0001学习率:学习率:0.1

    展开阅读全文
    提示  163文库所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    关于本文
    本文标题:人工神经网络.课件.ppt
    链接地址:https://www.163wenku.com/p-3019507.html

    Copyright@ 2017-2037 Www.163WenKu.Com  网站版权所有  |  资源地图   
    IPC备案号:蜀ICP备2021032737号  | 川公网安备 51099002000191号


    侵权投诉QQ:3464097650  资料上传QQ:3464097650
       


    【声明】本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是网络空间服务平台,本站所有原创文档下载所得归上传人所有,如您发现上传作品侵犯了您的版权,请立刻联系我们并提供证据,我们将在3个工作日内予以改正。

    163文库