高光谱特征选择课件.ppt

1、武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感1第2节 高光谱特征选择 武汉大学遥感信息工程学院武汉大学遥感信息工程学院 龚龚 龑龑高光谱遥感高光谱遥感第四章第四章 高光谱数据处理高光谱数据处理武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感2一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例第四章第四章 第第2节节 高光谱特征选择高光谱特征选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感3 通过对数据的评价，从若干个特征（波段）中挑选出用于高光谱遥感影像分析（分类）的有限个特征（波段）。一、高光谱特征选择概述1.1特征选择概念武汉大学武

2、汉大学 龚龑龚龑高光谱遥感高光谱遥感4 目视法 数值法通过通过衡量影像质量衡量影像质量通过通过衡量影像质量衡量影像质量1.2特征选择类型 基于可分性准则的波段选择 基于光谱特征位置搜索的波段选择基于统计计算，从分类角度出发基于特定地物，从波谱空间出发一、高光谱特征选择概述武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感5一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例第四章第四章 第第2节节 高光谱特征选择高光谱特征选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感6 从所有波段中选择一个波段子集，由该子集构成特征空间，在该特征空间中，各

3、的光谱可分性在某一下达到最优。二、基于可分性准则的波段选择2.1主要思想武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感7()()SS 设为评价特征子集S对于感兴趣条件的性能指标。特征选择问题归结为在特征空间中搜索最优或次优子集使得具有最佳性能。可分性判据可分性判据 类别样本类别样本1.选出波段子集后2.波段子集的产生方式由搜索策略决定2.1主要思想二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感8 穷举搜索法 启发式搜索 随机搜索法2.2特征选择搜索方法类型二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感91.穷举搜索法 通过穷举搜索，评价各

4、个可能的特征子集的性能指标，找到其中最优的子集。12.21innnnnnnCCCC若有 个波段，所有可能的波段子集数目为2.2特征选择搜索方法类型二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感10 方法直接，不会漏掉任一种可能子集。运算量巨大，随波段数增多凸显效率问题。特点2.2特征选择搜索方法类型1.穷举搜索法二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感11 鉴于穷举法的低效率问题，研究人员提出了启发式搜索。前向选择（Forward Selection）后向选择（Backward Selection）2.2特征选择搜索方法类型2.启发

5、式搜索二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感12 前向选择波段子集波段子集待选波段集合待选波段集合 波段子集初始状态为空 一次入选一个波段(该波段在当前剩余特征中最能提高可分性)2.启发式搜索2.2特征选择搜索方法类型二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感13波段子集波段子集被排除的波段集被排除的波段集 波段子集初始状态包含 所有特征 一次淘汰一个波段(该波段在当前被选中波段中最能降低可分性)评价因子（可分性判据）后向选择2.启发式搜索2.2特征选择搜索方法类型二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥

6、感高光谱遥感14 前向选择与后向选择能否一定得到最具可分性的波段子集？2.启发式搜索2.2特征选择搜索方法类型二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感15 前向选择与后向选择均能保证当前被选择波段子集在每一阶段最优，但面对那些复杂的、相互影响的波段，却不能保证所挑选的波段子集是全局最佳。波段子集21234可分性判据所选波段数目所选波段数目波段子集12.2特征选择搜索方法类型2.启发式搜索二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感16 随机搜索法采用随机的或概率性的步骤或采样过程。例如：基于种群的启发式搜索技术（遗传算法）规则推理

7、系统2.2特征选择搜索方法类型3.随机搜索法二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感17 分类器的学习算法 分类器在进行分类之前，需要利用一定的样本信息进行样本训练，使其形成分类判断标准，这一过程也称分类器的学习。样本1类别属性特征1 数值特征2 数值 特征n 数值样本2样本k 分类器分类器 形成分类标准形成分类标准特征1 数值特征2 数值 特征n 数值类别属性类别属性2.2特征选择搜索方法类型3.随机搜索法二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感18 滤波器类型和包装袋类型 根据特征选择算法是否独立于分类器的学习算法，可将其

8、分为两种：滤波器类型和包装袋类型。2.2特征选择搜索方法类型3.随机搜索法二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感19 形成分类标准的同时形成分类标准的同时 选择出波段子集选择出波段子集先选择出波段子集，先选择出波段子集，再形成分类标准再形成分类标准 滤波器类型包装袋类型所有特征特征选择学习算法分类与性能评价所有特征产生特征子集学习算法分类与性能评价特征学习特征评估2.2特征选择搜索方法类型3.随机搜索法二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感20选择多类别可分性特征时，一般有两个策略：选择各类平均可分性最大的特征 选择对最难

9、区分的类别具有最大可分性的特征难以照顾到分布比较集中的类可能会漏掉对各模式具有最大可分性的特征2.3使用可分性准则的策略二、基于可分性准则的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感21 特征选择概念 特征选择搜索方法 穷举搜索法 启发式搜索 (前向搜素和后向搜索)随机搜索法使用可分性准则小结武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感22一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例第四章第四章 第第2节节 高光谱特征选择高光谱特征选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感23 利用光谱位置搜索最常用的方法就是

10、利用地物的波段吸收特性进行波段选择。具有地物波谱特征的先验知识 波段选择针对特定目的 （生物物理化学特性分析或特定类别区分）通常进行包络线去除三、基于光谱特征位置的波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感24包络线去除后的光谱曲线图包络线去除后的光谱曲线图三、基于光谱特征位置的波段选择 利用波段吸收特性武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感25一、高光谱特征选择概述二、基于可分性准则的波段选择三、基于光谱特征位置的波段选择四、高光谱波段选择方法实例第四章第四章 第第2节节 高光谱特征选择高光谱特征选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感26 联合熵第i 波段影像

11、的熵值三个波段的影像(i1,i2,i3)的联合熵四、高光谱特征选择方法实例4.1自动子空间划分法一般来说联合熵H(i1,i1,i3)越大,图像所含信息越丰富。对所有可能的波段组合计算其联合熵,并按从大到小的顺序进行排序,则联合熵最大的前面若干个就是最佳波段组合。武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感27 联合熵波段选择的结果,使波段容易聚集在某一连续的波段间;由于高光谱遥感数据的波段信息之间的强相关性,使得多种波段组合方式具有相同的联合熵。原因：波段间灰度接近，变化连续 联合熵四、高光谱特征选择方法实例4.1自动子空间划分法武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感28 解决上述问

12、题的思路就是将全部波段划分为若干个子空间,然后再进行波段选择。将波段划分为若干子空间的方法很多,最常见的是将波段按电磁波波长范围划分为若干子空间。然而这种机械的划分方法没有考虑到地物的然而这种机械的划分方法没有考虑到地物的光谱特征和影像的局部特征光谱特征和影像的局部特征,因而不可取。因而不可取。联合熵四、高光谱特征选择方法实例4.1自动子空间划分法武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感29 依据高光谱影像相关系数矩阵灰度图的“成块”特点,根据高光谱影像相邻波段相关系数的大小,把波段划分为若干个子空间,然后分别在各个子空间内利用联合熵算法进行波段的选择。自动子空间划分思路四、高光谱特征选

13、择方法实例4.1自动子空间划分法武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感30A.数据情况 采用OMIS高光谱影像数据,波段数为64 个。要求生成伪彩色图。四、高光谱特征选择方法实例4.1自动子空间划分法 操作实践过程B.计算相关矩阵 依据自动子空间划分思想,计算高光谱所有波段数据之间的相关矩阵,该相关矩阵包含6464个元素。武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感31 为了更清晰地分析波段间的相互关系,把第1 波段与各个波段间相关系数及近邻波段相关系数曲线绘出,如图所示,其中曲线为第1 波段与各个波段间相关系数曲线,曲线为近邻波段相关系数曲线。四、高光谱特征选择方法实例4.1自动子

14、空间划分法 操作实践过程武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感32C.子空间划分 根据相关系数灰度图的分块特征,将所有波段分成四个子空间:第空间:112,第空间:1322,第空间:2356,第空间:5764。4.1自动子空间划分法 操作实践过程四、高光谱特征选择方法实例 经过划分得到的不同子空间具有不同的维数,在每个子空间内的图像数据具有相近的光相近的光谱特性谱特性。武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感33D.子空间内的波段选择 在各个子空间内,根据大小选出能够代表该子空间的波段各一个 第空间:12 第空间:20 第空间:24 第空间:634.1自动子空间划分法 操作实践过程

15、四、高光谱特征选择方法实例E.整体波段选择 对各个子空间所选出的代表波段,计算三个波段之间的联合熵，联合熵，选出最优的波段组合。武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感34 全局最优和局部最优问题 混合搜索策略 全局搜索阶段 局部搜索阶段四、高光谱特征选择方法实例4.2混合随机搜索波段选择 (遗传算法+局部寻优)武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感35J2J1?在给定起始位置的条在给定起始位置的条件下，按照某种判据件下，按照某种判据寻找下一个更优位置寻找下一个更优位置4.2混合随机搜索波段选择 局部最优和全局最优问题四、高光谱特征选择方法实例搜索武汉大学武汉大学 龚龑龚龑高光谱

16、遥感高光谱遥感36前向选择和后向选择容易陷入局部最优值思考：穷举搜索法会不会陷入局部最优？思考：穷举搜索法会不会陷入局部最优？局部最优：一个矮山峰的山顶全局最优：最高的山峰的山顶对高光谱数据来讲穷举搜索法不可取4.2混合随机搜索波段选择 局部最优和全局最优问题四、高光谱特征选择方法实例武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感37找到全局较大值位置P，避免陷入局部极小值在位置P附近，进行局部邻域搜索找到极大值4.2混合随机搜索波段选择 混合搜索策略四、高光谱特征选择方法实例a.全局粗略搜索b.局部邻域搜索全局搜索尽可能涉及更多的波段组合形式局部搜索尽可能细致的找到极大值位置跨度大跨度小武汉

17、大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感38采用遗传算法进行染色体染色体生物进化生物进化选择选择交叉交叉变异变异码串自然选择过程自然选择过程4.2混合随机搜索波段选择 全局粗略搜索阶段四、高光谱特征选择方法实例武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感39染色体染色体生物进化生物进化选择选择交叉交叉变异变异自然选择过程自然选择过程码串码串波段选择波段选择码串筛选码串筛选码串交叉码串交叉码串变化码串变化波段组合性能评估波段组合性能评估码串怎么定义？码串怎么定义？4.2混合随机搜索波段选择 全局粗略搜索阶段四、高光谱特征选择方法实例武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感40从n个波段

18、中，选择出m个构成波段组合波段选择的码串：b=(0,0,1,0,1,1,1,0,0)b中有n各分量，其中m个为1，n-m个为0 为1，表示该波段被选择 为0，表示该波段被舍弃波段选择问题转化为最佳码串求取问题波段选择问题转化为最佳码串求取问题4.2混合随机搜索波段选择 全局粗略搜索阶段四、高光谱特征选择方法实例武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感41随机选择若干个（20-100）码串，构成码串集合B=b1,b2,bk利用选择、交叉算子，迭代更新码串集合B对码串集合B中的每个码串bi，计算bi 对应的波段组合的性能评估函数（可分性判据）J=J1,J2,Jk输出Jp 最大值对应的的码串b

19、p 得到波段选择方案全局粗略搜索步骤全局粗略搜索步骤4.2混合随机搜索波段选择 全局粗略搜索阶段四、高光谱特征选择方法实例武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感42 对全局搜索结果码串对全局搜索结果码串 bp=(0,0,1,0,1,1)进行邻域搜索。进行邻域搜索。如何体现邻域？如何体现邻域？已到达需要爬的山脚下，如何爬山？已到达需要爬的山脚下，如何爬山？四、高光谱特征选择方法实例4.2混合随机搜索波段选择 局部搜索阶段武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感434.2混合随机搜索波段选择 局部搜索阶段四、高光谱特征选择方法实例 每一次调换码串每一次调换码串 bp=(0,0,1,0

20、,1,1)中的一对中的一对分量，即分量，即0变变1，1变变0，计算变换后的波段类别可分，计算变换后的波段类别可分性判据。性判据。共有共有m(n-m)种可能种可能 码串空间的邻域 可分性判据最大的码串即对应最佳波段组合可分性判据最大的码串即对应最佳波段组合武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感44 流程四、高光谱特征选择方法实例4.2混合随机搜索波段选择武汉大学武汉大学 龚龑龚龑高光谱遥感高光谱遥感45小结一、高光谱影像特征选择概述1.特征选择的基本概念（最佳波段指数等）2.特征选择的主要类型二、基于可分性准则的波段选择1.要点：可分性判据、样本2.三种搜索方式穷举搜索法启发式搜索随机搜索法 3.滤波器类型和包装袋类型的概念（分类器学习与特征选择）三、基于光谱特征位置的波段选择 （先验光谱知识、特定目的、包络线）四、高光谱波段选择新方法的实例 1.自动子空间划分波段选择法 2.混合随机搜索波段选择（遗传算法+局部寻优）第四章第四章 第第2节节 高光谱特征选择高光谱特征选择