第五章数字信号处理的前沿技术课件.ppt

1、第五章第五章 数字信号处理中的数字信号处理中的前沿技术前沿技术5.1 5.1 仪器仪表与数字信号处理仪器仪表与数字信号处理 数字信号处理（数字信号处理（DSPDigital Signal Processing）:就是利用计算机或专用处就是利用计算机或专用处理设备，以数字计算的方法对信号进行采集、变换、综合、估值与识别等加工处理，理设备，以数字计算的方法对信号进行采集、变换、综合、估值与识别等加工处理，借以达到提取信息和便于应用的目的。与模拟信号处理相比，数字信号处理优点如借以达到提取信息和便于应用的目的。与模拟信号处理相比，数字信号处理优点如下：下：v 可程控：可程控：可通过编程配置硬件来执行

2、多钟信号处理任务，如数字滤波器可编程可通过编程配置硬件来执行多钟信号处理任务，如数字滤波器可编程配置成低通、高通、带通和带阻滤波器，并可改变滤波器特性参数；配置成低通、高通、带通和带阻滤波器，并可改变滤波器特性参数；v 精度高：精度高：其精度取决于数值计算的有效字长，通常比模拟系统的精度高；其精度取决于数值计算的有效字长，通常比模拟系统的精度高；v 稳定性好：稳定性好：无模拟器件，不会出现温飘、时飘等现象；无模拟器件，不会出现温飘、时飘等现象；v 重复性好：重复性好：多台计算机处理同一数字信号多台计算机处理同一数字信号 其结果相同，而多套模拟电路的特性其结果相同，而多套模拟电路的特性参数不可能

3、完全一致。参数不可能完全一致。数字信号处理技术可分为以下三类：数字信号处理技术可分为以下三类：v 以剔除信号中的噪声为目的的数字滤波技术；以剔除信号中的噪声为目的的数字滤波技术；v 以估计、提取信号的相关信息为目的的数字分析技术；以估计、提取信号的相关信息为目的的数字分析技术；v 在信号分析的基础上，进行识别、判断等技术。在信号分析的基础上，进行识别、判断等技术。目前在信号处理领域中，出现了许多新的技术和方法，包括：目前在信号处理领域中，出现了许多新的技术和方法，包括：小波变换、独立分量分析技术、模糊计算技术、神经计算技术、进化计算技术、混沌计算技术、分形计算技术，以及各种技术相互融合涌现的新

4、技术。其中小波是继傅里叶分析之后，信号处理领域中又一里程碑式的重要其中小波是继傅里叶分析之后，信号处理领域中又一里程碑式的重要突破，目前在信号处理领域应用十分广泛，性能也十分优异。本章将重点突破，目前在信号处理领域应用十分广泛，性能也十分优异。本章将重点介绍这方面的内容，为了讲清楚这部分内容，下面将补偿一些相关概念。介绍这方面的内容，为了讲清楚这部分内容，下面将补偿一些相关概念。5.1 5.1 仪器仪表与数字信号处理仪器仪表与数字信号处理 在众多信号处理新技术中，小波变换是继傅里叶分析之后，信号处理在众多信号处理新技术中，小波变换是继傅里叶分析之后，信号处理领域中又一里程碑式的重要突破，目前在

5、信号处理领域应用十分广泛，性领域中又一里程碑式的重要突破，目前在信号处理领域应用十分广泛，性能也十分优异。本章将重点介绍这方面的内容，为了讲清楚这部分内容，能也十分优异。本章将重点介绍这方面的内容，为了讲清楚这部分内容，下面将补偿一些相关概念。下面将补偿一些相关概念。5.2.1 傅立叶分析傅立叶分析 Fourier Fourier 变换把信号从时间域变到频率域，在时间域内难以观察的现象和规律，在频变换把信号从时间域变到频率域，在时间域内难以观察的现象和规律，在频率域内往往能十分清楚地显示出来。连续率域内往往能十分清楚地显示出来。连续FourierFourier变换定义如下：变换定义如下：FT时

6、频相平面图 timeAmplitude def21tftfdtetffFtiti 在时域表示中不能直接利用信号的频域信息；在时域表示中不能直接利用信号的频域信息；在频域表示中，也不能直接利用信号的时域信息在频域表示中，也不能直接利用信号的时域信息,傅立叶分析没有时傅立叶分析没有时频局域化能力。频局域化能力。5.2.1 傅立叶分析傅立叶分析 “小波”就是小区域、长度有限、均值为0的波形。所谓“小”是指它具有衰减性；而称之为“波”则是指它的波动性，其振幅正负相间的震荡形式。小波变换是时间(空间)频率的局部化分析，它通过伸缩平移运算对信号（函数)逐步进行多尺度细化，最终达到高频处时间细分，低频处频率

7、细分，能自动适应时频信号分析的要求，从而可聚焦到信号的任意细节。5.2.2 小波变换的基本概念小波变换的基本概念小波基表示发生的时间和频率小波基表示发生的时间和频率“时频局域性”图解：Fourier变换的基（上）小波变换基（中）和时间采样基（下）的比较 傅里叶变换(Fourier)基小波基时间采样基5.2.2 小波变换的基本概念小波变换的基本概念5.2.2 小波变换的分类小波变换的分类小波转换分成两个大类：离散小波变换(DWT)和连续小波转换(CWT)。两者的主要区别在于，连续转换在所有可能的缩放和平移上操作，而离散转换采用所有缩放和平移值的特定子集。5.2.2 小波变换的分类小波变换的分类小

8、波变换的公式有内积形式和卷积形式，两种形式的实质都是一样的。它要求的就是一个个小波分量的系数也就是“权”。其直观意义就是首先用一个时窗最窄，频窗最宽的小波作为尺子去一步步地“量”信号，也就是去比较信号与小波的相似程度。信号局部与小波越相似，则小波变换的值越大，否则越小。当一步比较完成后，再将尺子拉长一倍，又去一步步地比较，从而得出一组组数据。如此这般循环，最后得出的就是信号的小波分解（小波级数）。当尺度及位移均作连续变化时，可以理解必将产生大量数据，作实际应用时并不需要这么多的数据，因此就产生了离散的思想。将尺度作二进离散就得到二进小波变换，同时也将信号的频带作了二进离散。当觉得二进离散数据量

9、仍显大时，同时将位移也作离散就得到了离散小波变换。5.2.2 小波变换的分类小波变换的分类5.2.3 小波分析的数学基础小波分析的数学基础q 首先，小波变换是线性变换，它是以空间理论为首先，小波变换是线性变换，它是以空间理论为基础的；基础的；q 小波分析是以研究正交、紧支集小波开始的，小小波分析是以研究正交、紧支集小波开始的，小波构造及运算规则都与波构造及运算规则都与HilbertHilbert空间理论密不可分；空间理论密不可分；q 小波分析的数学基础课程如下：泛函分析、矩阵小波分析的数学基础课程如下：泛函分析、矩阵分析、数值分析、数理统计。分析、数值分析、数理统计。FourierFourie

10、r变换：变换：18071807年由年由FourierFourier提出，时域到频域的域变换；提出，时域到频域的域变换；19091909年年A.HaarA.Haar提出提出HaarHaar函数系函数系，正交、对称、紧支撑，但不光滑；，正交、对称、紧支撑，但不光滑；19361936年年LittlewoodLittlewood-Paley-Paley提出对频率按提出对频率按 进行划分；进行划分；19461946年，年，GaberGaber提出提出窗口窗口FourierFourier变换变换；19481948年年ShannonShannon建立建立信息论信息论，后来发现可用小波基不失真传输编码的存在；

11、，后来发现可用小波基不失真传输编码的存在；19741974年，年，Guido WeissGuido Weiss和和R.CoifmanR.Coifman 研究函数空间研究函数空间原子分解原子分解及重构；及重构；j219811981年年MorletMorlet 首先提出首先提出小波分析小波分析的概念；的概念；19841984年年J.MorletJ.Morlet和物理学家和物理学家A.GrossmanA.Grossman第一次提出第一次提出“WaveletWavelet”一词；一词；19851985年年MeyerMeyer证明了一维小波基的存在，证明了一维小波基的存在，19861986年国际上掀起小

12、波研究年国际上掀起小波研究的热潮；的热潮；19871987年年MeyerMeyer和和MallatMallat合作提出合作提出多分辨分析多分辨分析的框架；的框架；19881988年年DebauchiesDebauchies构造出紧支集有限光滑小波函数（构造出紧支集有限光滑小波函数（b b），发表著），发表著名长文；名长文；19901990年崔锦泰和王建忠构造了单正交年崔锦泰和王建忠构造了单正交样条小波基样条小波基；19921992年经典小波的基本理论已成熟，国内年经典小波的基本理论已成熟，国内19911991年发表第一篇小波论年发表第一篇小波论文。文。20世纪最大成就之一5.2.5 小波变换的

13、数学定义小波变换的数学定义 在空间在空间 中小波函数中小波函数 是一经伸缩和平移得到的一族双窗口函数：是一经伸缩和平移得到的一族双窗口函数：RL2 ata21,a 0a,R,a 满足下述条件：满足下述条件：1N,.0k,0dtttk （1 1）具有）具有k k阶消失矩：阶消失矩：（2 2）容许条件：）容许条件：dC*R2（3 3）稳定性条件：）稳定性条件：BaAj20 在信号频率降低时，尺度参数在信号频率降低时，尺度参数a a增大，小波的时窗变宽，同时频窗变窄；增大，小波的时窗变宽，同时频窗变窄；在信号频率增高时，尺度参数在信号频率增高时，尺度参数a a减小，小波的时窗变窄，同时频窗变宽。减小

14、，小波的时窗变窄，同时频窗变宽。将信号在这个函数系上分解，就得到连续小波变换将信号在这个函数系上分解，就得到连续小波变换1.1.小波变换的特点：小波变换的特点：FourierFourier变换的重要性质之一是其伸缩性。变换的重要性质之一是其伸缩性。afaatfftf1,则：若：对于小波有：对于小波有：iaaeaaatat 21,21,taaatataat,1频窗宽时窗宽在某一尺度在某一尺度a a下小波的双窗口宽度如下：下小波的双窗口宽度如下：小波基函数的窗口面积不随参数小波基函数的窗口面积不随参数 而变，改变而变，改变 对对 和和 的的伸展或收缩作用刚好相反，因此小波分析的时伸展或收缩作用刚好

15、相反，因此小波分析的时频窗口大小可以自适应变化！频窗口大小可以自适应变化！,aa t 5.2.6 小波变换的特点小波变换的特点5.2.7.小波分析的优越性小波分析的优越性 Fourier 变换：变换：时间到频率的域变换，没有时频局化功时间到频率的域变换，没有时频局化功能，可离散正交化，有快速算法能，可离散正交化，有快速算法FFTFFT。窗口窗口Fourier变换：变换：时窗固定的时窗固定的FourierFourier变换，有时频变换，有时频局域化功能，但性能不好；不能离散正交化。局域化功能，但性能不好；不能离散正交化。小波变换：小波变换：时窗时窗-频窗可自适应变化的双窗口变换，频窗可自适应变化

16、的双窗口变换，时频局域化能力强；有离散正交化（或双正交）有快速算时频局域化能力强；有离散正交化（或双正交）有快速算法法FWTFWT。变窗口、平移和正交性是分析信号的重要条件！变窗口、平移和正交性是分析信号的重要条件！5.2.7.小波分析的优越性小波分析的优越性5.2.8 三种分析方法的一个比喻三种分析方法的一个比喻 我们可以把要分析的全体信号看成为一个信息大厦，而把三种分析我们可以把要分析的全体信号看成为一个信息大厦，而把三种分析方法所用核函数看作为建造这些大厦的用砖，则有如下的一个比喻：方法所用核函数看作为建造这些大厦的用砖，则有如下的一个比喻：n傅立叶分析：傅立叶分析：核函数是正弦波，这是

17、一块很长很长的预制块（理论上核函数是正弦波，这是一块很长很长的预制块（理论上无限长），品种、规格均单一，只能用来建造类似长城这样的简单建筑，无限长），品种、规格均单一，只能用来建造类似长城这样的简单建筑，即不具备局域化能力，只能分析平稳信号。即不具备局域化能力，只能分析平稳信号。n窗口傅立叶分析：窗口傅立叶分析：核函数是高斯窗包络下缩短了的正弦波，它把傅立核函数是高斯窗包络下缩短了的正弦波，它把傅立叶变换中的长大形预制块截短成长方形的砖头，品种仍然单一，规格增叶变换中的长大形预制块截短成长方形的砖头，品种仍然单一，规格增加了，但在使用时只能用一个规格，可以建造不同大小的方形大厦。即加了，但在使

18、用时只能用一个规格，可以建造不同大小的方形大厦。即初步具备局域化能力，可以分析变化不太剧烈的非平稳随机信号。初步具备局域化能力，可以分析变化不太剧烈的非平稳随机信号。n小波分析：小波分析：核函数是小波基，它能灵活伸缩变化，这是形状各一、大核函数是小波基，它能灵活伸缩变化，这是形状各一、大小不同，可按需求定制的形形色色的砖头，可谓种类、规格繁多，能建小不同，可按需求定制的形形色色的砖头，可谓种类、规格繁多，能建筑各种风格的大厦。即具有极其灵活的局域化能力，可以分析各种平稳筑各种风格的大厦。即具有极其灵活的局域化能力，可以分析各种平稳信号及非平稳随机信号。信号及非平稳随机信号。几点解释几点解释t（

19、2）支撑区：）支撑区：支撑区是函数或信号自变量的定义域，它是一个闭集，支撑区是函数或信号自变量的定义域，它是一个闭集，在这个集上信号或过程是非零的，在支撑区之外信号或过程迅速下降在这个集上信号或过程是非零的，在支撑区之外信号或过程迅速下降为零。为零。（1）小波的涵义：）小波的涵义：从物理意义上，小波函数从物理意义上，小波函数 是指一类迅速衰减、是指一类迅速衰减、均值为零的波；从数学意义上又称为子波，因为小波族是一个称为母均值为零的波；从数学意义上又称为子波，因为小波族是一个称为母小波函数经过伸缩和平移而产生的，它们具有自相似的特征。小波函数经过伸缩和平移而产生的，它们具有自相似的特征。（3）几

20、个约定：）几个约定：小波分析所涉及的函数空间是小波分析所涉及的函数空间是 ；RL2 t小波函数在时域记为：小波函数在时域记为：，在频域记为：，在频域记为：；尺度函数在时域记为：尺度函数在时域记为：，在频域记为：，在频域记为：。t 小波图像去噪小波图像压缩小波图像增强常见应用及仿真常见应用及仿真小波图像去噪图像的小波分解:分解过程：选定一种小波，对信号进行N层小波（包）分解；作用阀值过程：选择一个阀值，并对细节系数作用 重建过程：将处理后的系数经过小波（包）重建原始信号；如何选择一个阀值是关键如何选择一个阀值是关键小波图像压缩 图像能够进行压缩的主要原因是：1）原始图像信息存在着很大的冗余度，数

21、据之间存在着相关性；2）人眼作为图像信息的接收端，其视觉对于边缘急剧变化不敏感(视觉掩盖效应)，以及人眼对图像的亮度信息敏感，而对颜色分辨率弱等。基于上述两点，发展出数据压缩的两类基本方法:一种是将相同的或相似的数据或数据特征归类，使用较少的数据量描述原始数据，达到减少数据量的目的，这种压缩一般为无损压缩；另一种是利用人眼的视觉特性有针对性地简化不重要的数据，以减少总的数据量，这种压缩一般为有损压缩。只要损失的数据不太影响人眼主观接收的效果，即可采用。小波图像增强 图像增强的主要目的是提高图像的视觉质量或者凸显某些特征信息。无论是为了对人类眼睛结构的剖析，还是基于计算机可视化技术的高级图像分析

22、，图像增强都有着重要的作用。虽然图像增强技术不能增加图像数据本身包含的信息，但是可以凸显特定特征，在处理后图像更容易识别。通常图像增强的目的主要有:放大图像中感兴趣结构的对比度，增加可理解性；减少或抑制图像中混有的噪声，提高视觉质量。小波变换可以将图像分解为各个尺度上的子带图像，因为图像分解的低频部分体现了图像的轮廓，图像分解的高频部分表现为图像的细节和混入的噪声，因此对低频部分进行增强，对高频部分进行衰减，可以实现图像增强的目的。5.35.3、小波分析应用领域、小波分析应用领域5.35.3、小波分析应用领域、小波分析应用领域5.3.15.3.1小波分析在故障诊断中的应用小波分析在故障诊断中的

23、应用5.3.2 5.3.2 小波分析在语音信号处理中的应用小波分析在语音信号处理中的应用5.3.3 5.3.3 小波分析在地球物理勘探中的应用小波分析在地球物理勘探中的应用5.3.4 5.3.4 小波分析在医学中的应用小波分析在医学中的应用5.3.55.3.5小波分析在数学和物理中的应用小波分析在数学和物理中的应用5.3.65.3.6小波分析在工程计算中的应用小波分析在工程计算中的应用5.3.7 5.3.7 在股票价格行为分析方面的应用在股票价格行为分析方面的应用小波分析提取文件特征小波分析提取文件特征5.3.8 5.3.8 其他方面的应用其他方面的应用5.3.9 5.3.9 小波变换的发展趋

24、势小波变换的发展趋势1.1.在小波的数学理论基础研究方面在小波的数学理论基础研究方面2.2.在应用研究方面在应用研究方面3.3.与其它理论的结合与其它理论的结合 第一代小波的构造都是以傅立叶变换为工具，对某一固定函数进行第一代小波的构造都是以傅立叶变换为工具，对某一固定函数进行伸缩和平移，而对那些不满足傅立叶变换的场合，第一代小波就无能为伸缩和平移，而对那些不满足傅立叶变换的场合，第一代小波就无能为力了。同时第一代小波是基于卷积运算，且每一层要力了。同时第一代小波是基于卷积运算，且每一层要“二抽取二抽取”，其计，其计算量大，效率较低。算量大，效率较低。LounsberyLounsbery、Do

25、nohoDonoho、SwelldensSwelldens等人等人19951995年前后开始研究年前后开始研究“提升格提升格式式”小波变换小波变换第二代小波。提升格式不依赖于傅立叶变换，完全在第二代小波。提升格式不依赖于傅立叶变换，完全在空域中完成对双正交小波滤波器的构造。其优点如下：空域中完成对双正交小波滤波器的构造。其优点如下：v 更快的小波变换，提升格式可把变换速度提高更快的小波变换，提升格式可把变换速度提高2 2倍；倍；v 同址计算，不需要辅助存储器，原信号可被小波变换覆盖，节省存储同址计算，不需要辅助存储器，原信号可被小波变换覆盖，节省存储控制；控制；v 不需要借助傅立叶变换变可获得

26、逆变换。不需要借助傅立叶变换变可获得逆变换。1.1.提升格式的基本原理：提升格式的基本原理：原始信号经小波分解成为低频信号和高频原始信号经小波分解成为低频信号和高频细节信号，提升格式由分裂、预测和更新三个步骤组成。细节信号，提升格式由分裂、预测和更新三个步骤组成。分裂：分裂：把原始信号把原始信号s sj j分裂为两个不相交的奇、偶子集分裂为两个不相交的奇、偶子集s sj-1j-1和和d dj-1j-1。预测：预测：利用相邻信号之间的相关性用一个子集去预测另一个子集。利用相邻信号之间的相关性用一个子集去预测另一个子集。更新：更新：通过算子通过算子U U产生一个更好的子数据集产生一个更好的子数据集

27、s sj-1j-1，使之保持原数据的，使之保持原数据的s sj j信信的一些特性。的一些特性。原始数据的小波表示为：原始数据的小波表示为：),(),()(1111jjjjjdsoddevenssplit)1()(1111jjjjjsPdevenPoddd)()(11111jjjjjdUsdUevens11,.,jnjnjnjddds提升格式的逆变换为：提升格式的逆变换为：图图5-6 5-6 提升方法分解和重构示意图提升方法分解和重构示意图)(111jjjdUss)(111jjjsPdd),(11jjjdsMerges在提升格式的基础上可以进行整数集到整数集的小波变在提升格式的基础上可以进行整数

28、集到整数集的小波变换，即一个整数集合通过小波变换后得到的仍然是整数集合。换，即一个整数集合通过小波变换后得到的仍然是整数集合。这给数字图像编码带来了好处，由于不需要对变换后的系数这给数字图像编码带来了好处，由于不需要对变换后的系数进行量化，可实现无损压缩。进行量化，可实现无损压缩。ICAICA可由如下方程描述：可由如下方程描述：其中：其中：为为n n个源信号构成的个源信号构成的n n维向量；维向量；为为m m维观测数据向量，其各元素是维观测数据向量，其各元素是传感器的输出，传感器的输出，m mn n维矩阵是混合矩阵。维矩阵是混合矩阵。ICAICA是在混合矩阵是在混合矩阵A A和源信号未知的情况

29、下，只根据观测数据向量和源信号未知的情况下，只根据观测数据向量x(tx(t)确定分离矩阵确定分离矩阵W W，使得变换后的输出为：，使得变换后的输出为：)()(tAstxTntstststs)(),.,(),()(21Tmtxtxtxtx)(),.,(),()(21)()(tWxtyICAICA的算法可分为两类：的算法可分为两类：v 最大和最小一些相关准则函数，对任何分布的独立成分都合适，但矩阵复杂，最大和最小一些相关准则函数，对任何分布的独立成分都合适，但矩阵复杂，计算量大。计算量大。v 基于随机梯度方法的自适应算法。它保证能收敛到一个相应的解，但收敛慢，基于随机梯度方法的自适应算法。它保证能

30、收敛到一个相应的解，但收敛慢，是否收敛取决于学习速度参数的正确选择。是否收敛取决于学习速度参数的正确选择。vFast ICA:Fast ICA:这是基于定点递推得到的，它适应任何类型的数据，并使运用高维这是基于定点递推得到的，它适应任何类型的数据，并使运用高维数据成为可能。特点如下：数据成为可能。特点如下：v在在ICAICA数据模型的假设下，数据模型的假设下，FastICAFastICA收敛速度是普通收敛速度是普通ICAICA的算法收敛速度快的算法收敛速度快1 1个数量级；个数量级；v与基于梯度算法相比，它不需要选择步长。与基于梯度算法相比，它不需要选择步长。vFastICAFastICA算法

31、的性能通过一个合适的非线性函数算法的性能通过一个合适的非线性函数g g而使其达到最优，特别是能得而使其达到最优，特别是能得到具有鲁棒或最小方差算法；到具有鲁棒或最小方差算法；v独立成分能逐个地估计；独立成分能逐个地估计；vFastICAFastICA算法具有很多神经网络算法的优点，并行、分布、计算简、要求内存算法具有很多神经网络算法的优点，并行、分布、计算简、要求内存小。小。ICAICA由观测信号及对源信号的概率分布的估计来确定源，可由观测信号及对源信号的概率分布的估计来确定源，可有效避免因提高信噪比而产生的缺陷等。有效避免因提高信噪比而产生的缺陷等。ICAICA可在语音信号分离、生物医学信号

32、处理、金融数据分可在语音信号分离、生物医学信号处理、金融数据分析、图像消噪、远程通信、人脸识别等方面有重要应用价值。析、图像消噪、远程通信、人脸识别等方面有重要应用价值。模糊计算的发展历程：模糊计算的发展历程：v L.A.ZadehL.A.Zadeh分别于分别于19651965、19681968、19731973年发表模糊集、模糊算法和基于语言年发表模糊集、模糊算法和基于语言变量建立模糊逻辑系统方法，奠定了模糊逻辑的理论基础。变量建立模糊逻辑系统方法，奠定了模糊逻辑的理论基础。v 英国的皇家玛丽学院的英国的皇家玛丽学院的E.H.MamdaniE.H.Mamdani第一次将模糊逻辑用于蒸气发动机

33、的第一次将模糊逻辑用于蒸气发动机的压力与速度控制；压力与速度控制；v 19801980年丹麦的年丹麦的F.L.SmithF.L.Smith公司成功地将模糊控制用于水泥窑的自动控制；公司成功地将模糊控制用于水泥窑的自动控制；v 19851985第一片模糊推理芯片问世（第一片模糊推理芯片问世（TogaiTogai）v 19871987年日本仙台地铁的全自动驾驶；年日本仙台地铁的全自动驾驶；v 19901990，日本将模糊逻辑广泛用于家用电器；，日本将模糊逻辑广泛用于家用电器；v 美国、日本、德国出现一批从事模糊逻辑芯片设计、研发的公司，已有美国、日本、德国出现一批从事模糊逻辑芯片设计、研发的公司，

34、已有很多的软硬件产品面市。我国在模糊逻辑理论的研究方面处于国际领先地位，很多的软硬件产品面市。我国在模糊逻辑理论的研究方面处于国际领先地位，但在软硬件开发上还非常落后。但在软硬件开发上还非常落后。在自然界中，人们首先认识到最为简单的确定性现象的判断法则在自然界中，人们首先认识到最为简单的确定性现象的判断法则是或非是或非现象的规律性，并建立相应的数学方法，这就是现象的规律性，并建立相应的数学方法，这就是CantorCantor建立的经典集合论。建立的经典集合论。然而，在自然、社会和人类的思维中还大量地存在着不确定的现象，例如接然而，在自然、社会和人类的思维中还大量地存在着不确定的现象，例如接近近

35、1010的实数集合等都是一些不确定现象。为了处理这些不确定的问题，的实数集合等都是一些不确定现象。为了处理这些不确定的问题，ZadehZadeh在在传统集合论的基础上，对其加以扩充，提出了模糊集合论，采用隶属度函数来描传统集合论的基础上，对其加以扩充，提出了模糊集合论，采用隶属度函数来描述事物的不确定性。述事物的不确定性。模糊逻辑的两种属性模糊逻辑的两种属性：v 概率性，事件本身是清晰的，只是事件出现频数具有不确定性。如在某一类概率性，事件本身是清晰的，只是事件出现频数具有不确定性。如在某一类人群中某种疾病的发生几率。人群中某种疾病的发生几率。v 模糊性，事件本身是含糊不清的，而事件出现是确定

36、的或不确定的。如人类模糊性，事件本身是含糊不清的，而事件出现是确定的或不确定的。如人类年龄的分组：年龄的分组：“青年青年”、“中年中年”、“老年老年”。v 从模糊逻辑的发展历史来看，模糊逻辑的理论起源于美从模糊逻辑的发展历史来看，模糊逻辑的理论起源于美国，而技术实现则在欧洲，真正的技术推广应用却在日本。国，而技术实现则在欧洲，真正的技术推广应用却在日本。v 模糊逻辑可在以下领域得到应用：工业过程自动控制、模糊逻辑可在以下领域得到应用：工业过程自动控制、在模式识别中的应用、决策推理系统、预测控制、人工智能在模式识别中的应用、决策推理系统、预测控制、人工智能系统等。系统等。v目前，模糊逻辑、神经网

37、络、遗传算法已形成相互融合，目前，模糊逻辑、神经网络、遗传算法已形成相互融合，在人工智能应用方面显示出巨大潜力。在人工智能应用方面显示出巨大潜力。神经网络的发展历程：神经网络的发展历程：v 早在早在19431943年心理学家年心理学家W.McCullochW.McCulloch和数学家和数学家W.PittsW.Pitts合作提出了最早的神经元合作提出了最早的神经元模型；模型；v 19581958年年F.RosenblattF.Rosenblatt首次提出模拟人脑感知和学习能力的感知器概念；首次提出模拟人脑感知和学习能力的感知器概念；v19691969年，年，M.MinskyM.Minsky和和

38、S.PapertS.Papert发表了发表了PerceptronPerceptron 一书指出感知器具有学一书指出感知器具有学习功能，但有局限性，如不能产生复杂的逻辑函数，对神经网络的研究得出悲观习功能，但有局限性，如不能产生复杂的逻辑函数，对神经网络的研究得出悲观的结论，由于的结论，由于MinskyMinsky的学术地位，导致神经网络的研究沉寂了的学术地位，导致神经网络的研究沉寂了1010多年；多年；v19821982年，神经网络研究取得突破性进展，年，神经网络研究取得突破性进展，J.HopfieldJ.Hopfield 引入能量函数概念，给引入能量函数概念，给出网络稳定性判据，提出著名的出

39、网络稳定性判据，提出著名的HNNHNN模型。模型。v19861986年年D.RumelhartD.Rumelhart和和J.McClellandJ.McClelland编辑的编辑的“PDPPDP”一书的出版，使神经网络的一书的出版，使神经网络的研究再次掀起研究再次掀起神经网络技术的生理学基础：神经网络技术的生理学基础：v L.A.L.A.1.1.神经计算技术的生理学基础神经计算技术的生理学基础 人类大脑的神经系统以离子电流为基础，神经细胞组成非人类大脑的神经系统以离子电流为基础，神经细胞组成非线性的、自适应的、并行的模拟网络。在脑神经系统中，信线性的、自适应的、并行的模拟网络。在脑神经系统中，

40、信息收集、处理和传送都在脑细胞上进行。每个细胞有兴奋和息收集、处理和传送都在脑细胞上进行。每个细胞有兴奋和抑制两种状态。人类大脑中约由抑制两种状态。人类大脑中约由140140亿个脑细胞组成，是超亿个脑细胞组成，是超并行、分布式的复杂的计算系统，目前对大脑系统的生物机并行、分布式的复杂的计算系统，目前对大脑系统的生物机理还知之甚少，现实的集成电路规模还远未人脑细胞的水平。理还知之甚少，现实的集成电路规模还远未人脑细胞的水平。神经网络模型和学习算法的研究有助于理解人脑模型的理解。神经网络模型和学习算法的研究有助于理解人脑模型的理解。v 能处理连续的模拟信号；能处理连续的模拟信号；v 能处理不精确、

41、不完全的模糊信息；能处理不精确、不完全的模糊信息；v 神经网络给出的是次最优的逼近解；神经网络给出的是次最优的逼近解；v 神经网络并行分布工作，各组成部分同时参与运算，单个神经元的动神经网络并行分布工作，各组成部分同时参与运算，单个神经元的动作速度不快，但总体处理速度很快；作速度不快，但总体处理速度很快；v 神经网络具有鲁棒性，即信息分布于整个网络各个权重中，某些神经神经网络具有鲁棒性，即信息分布于整个网络各个权重中，某些神经元故障不会影响整体信息锤炼功能；元故障不会影响整体信息锤炼功能；v 神经网络具有很好的容错性，在有部分输入条件或有错误输入条件，神经网络具有很好的容错性，在有部分输入条件

42、或有错误输入条件，神经网络都能输出正确的解；神经网络都能输出正确的解；v 神经网络在处理自然语言理解、图像识别智能机器人控制等方面具有神经网络在处理自然语言理解、图像识别智能机器人控制等方面具有优势。优势。v 从生物进化的机理，一些学者从不同的角度提出了进化计算方法，主从生物进化的机理，一些学者从不同的角度提出了进化计算方法，主要包括：要包括：v HollandHolland及其学生创立的遗传算法；及其学生创立的遗传算法；v RechenbergRechenberg和和SchwfelSchwfel等创立的进化策略；等创立的进化策略；v FogelFogel、OwensOwens和和WalshW

43、alsh等创立的进化规则。等创立的进化规则。其中以遗传算法研究最深入、应用面最广。其中以遗传算法研究最深入、应用面最广。遗传算法的发展历程：遗传算法的发展历程：v19751975年密执安大学教授年密执安大学教授HollandHolland及其学生，基于及其学生，基于DarwinDarwin的生物进化论和的生物进化论和MendelMendel的遗传学说创立了遗传算法；的遗传学说创立了遗传算法；v 19851985以来，国际上召开多次遗传算法的学术会议和研讨会；以来，国际上召开多次遗传算法的学术会议和研讨会；v遗传算法成功用于工业设计、交通运输、经济管理等领域，如可靠性优化、遗传算法成功用于工业设

44、计、交通运输、经济管理等领域，如可靠性优化、流水车间调度、设备布局、图象处理以及数据挖掘。流水车间调度、设备布局、图象处理以及数据挖掘。遗传算法的原理：遗传算法的原理：与传统的搜索算法不同，遗传算法从一组随机产生的初始与传统的搜索算法不同，遗传算法从一组随机产生的初始解，称为群体，开始搜索过程。群体中每个个体是问题的一个解，称为染色解，称为群体，开始搜索过程。群体中每个个体是问题的一个解，称为染色体。这些染色体在后续迭代中不断进化，称为遗传。遗传算法通过交叉、变体。这些染色体在后续迭代中不断进化，称为遗传。遗传算法通过交叉、变异、选择运算实现。交叉或变异运算生成下一代染色体，称为后代。染色体异

45、、选择运算实现。交叉或变异运算生成下一代染色体，称为后代。染色体的好坏用适用度来衡量。根据适应度从上一代和后代中选择一定数量的个体，的好坏用适用度来衡量。根据适应度从上一代和后代中选择一定数量的个体，作为下一代的群体，再继续进化，经过若干代进化后，算法收敛于最好的染作为下一代的群体，再继续进化，经过若干代进化后，算法收敛于最好的染色体，这可能就是最优解或次优解。色体，这可能就是最优解或次优解。遗传算法的理论：遗传算法的理论：v 遗传算法的编码策略、全局收敛和搜索效率的数学基础遗传算法的编码策略、全局收敛和搜索效率的数学基础v 遗传算法的新结构、基因操作策略及性能；遗传算法的新结构、基因操作策略

46、及性能；v 遗传算法参数的选择及与其它算法的综合。遗传算法参数的选择及与其它算法的综合。进化计算包括四要素：繁殖、变异、竞争和自然选择。进化计算包括四要素：繁殖、变异、竞争和自然选择。进化计算包括：遗传算法、进化策略、进化规则，其中遗传算法是最具代表进化计算包括：遗传算法、进化策略、进化规则，其中遗传算法是最具代表性、最基本的进化进化方法。性、最基本的进化进化方法。1.1.遗传计算：遗传计算：优化函数、机器人的运动轨迹、控制系统优化；优化函数、机器人的运动轨迹、控制系统优化；2.2.遗传编程：遗传编程：用于人工智能、机器学习、符号处理等。用于人工智能、机器学习、符号处理等。3.3.遗传学习：遗

47、传学习：群体由产生式规则组成，利用和环境的接触来学群体由产生式规则组成，利用和环境的接触来学习、完成给定任务。用于机器学习、模式识别和工程。习、完成给定任务。用于机器学习、模式识别和工程。v 混沌是混沌是“无序中的有序无序中的有序”，有序是指有确定性，无序是最终结果的不可，有序是指有确定性，无序是最终结果的不可预测性。预测性。v 非线性、非平衡性、确定性、动态性、内秉随机性、初值敏感性、时间非线性、非平衡性、确定性、动态性、内秉随机性、初值敏感性、时间序列的不规则性和有奇异吸引子的必要条件。序列的不规则性和有奇异吸引子的必要条件。v 刻画混沌动力学性质常用刻画混沌动力学性质常用Lyapunov

48、Lyapunov指数和熵。指数和熵。v 混沌系统介于严格的规则性和随机性之间，混沌系统可在许多不同的行混沌系统介于严格的规则性和随机性之间，混沌系统可在许多不同的行为方式之间转换，特别灵活。为方式之间转换，特别灵活。v 一个混沌系统的行为是许多有序行为的集合，但每一个行为在正常情况一个混沌系统的行为是许多有序行为的集合，但每一个行为在正常情况下都不占主导地位，通过施加扰动可使其中一个有序行为起作用。下都不占主导地位，通过施加扰动可使其中一个有序行为起作用。v 混沌可用于混沌控制、医学中的心律分析、通信中的信息压缩和保密、混沌可用于混沌控制、医学中的心律分析、通信中的信息压缩和保密、计算机网络和

49、家电控制等。计算机网络和家电控制等。v 混沌吸引子有无数嵌入不稳定轨道，通过扰动使之稳定，系统就可预测混沌吸引子有无数嵌入不稳定轨道，通过扰动使之稳定，系统就可预测和控制的；和控制的；v 混沌控制多与时间序列有关，可利用时间序列可控制不希望的扰动产生混沌控制多与时间序列有关，可利用时间序列可控制不希望的扰动产生的影响。的影响。v 混沌与智能有关，在人的大脑中存在着混沌现象。混沌动力学可启发神混沌与智能有关，在人的大脑中存在着混沌现象。混沌动力学可启发神经网络的研究或用神经网络来产生混沌；经网络的研究或用神经网络来产生混沌；v 神经网络研究中引入混沌思想有助于揭示人类形象思维的奥妙。神经网络研究

50、中引入混沌思想有助于揭示人类形象思维的奥妙。v 分布式人工智能中的多分布式人工智能中的多AgentAgent系统（系统（MAMA）是相互耦合的强非线性系统，其）是相互耦合的强非线性系统，其实质是动力学演变过程。实质是动力学演变过程。v 混沌理论可用到混沌理论可用到MAMA的研究中，可以借鉴更复杂的社会系统理论来研究的研究中，可以借鉴更复杂的社会系统理论来研究MAMA。v 混沌系统的整体是确定的，如果两个几乎相同的具有适当形态的混沌系混沌系统的整体是确定的，如果两个几乎相同的具有适当形态的混沌系统受到一种信号激励，它也会产生相同的输出。统受到一种信号激励，它也会产生相同的输出。v 混沌同步的子系