聚类分析(数学建模)课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《聚类分析(数学建模)课件.ppt》由用户(ziliao2023)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 聚类分析 数学 建模 课件
- 资源描述:
-
1、 聚类分析分类l俗语说,物以类聚、人以群分。l但什么是分类的根据呢?l比如,要想把中国的县分成若干类,就有很多种分类法;l可以按照自然条件来分,l比如考虑降水、土地、日照、湿度等各方面;l也可以考虑收入、教育水准、医疗条件、基础设施等指标;l既可以用某一项来分类,也可以同时考虑多项指标来分类。一、聚类分析的基本概念l研究对样品或指标进行分类的一种多元统计方法,是依据研究对象的个体的特征进行分类的方法。l聚类分析把分类对象按一定规则分成若干类,这些类非事先给定的,而是根据数据特征确定的。在同一类中这些对象在某种意义上趋向于彼此相似,而在不同类中趋向于不相似。l职能是建立一种能按照样品或变量的相似
2、程度进行分类的方法。聚类分析l对于一个数据,人们既可以对变量(指标)进行分类(相当于对数据中的列分类),也可以对观测值(事件,样品)来分类(相当于对数据中的行分类)。l比如学生成绩数据就可以对学生按照理科或文科成绩(或者综合考虑各科成绩)分类,l当然,并不一定事先假定有多少类,完全可以按照数据本身的规律来分类。l本章要介绍的分类的方法称为聚类分析(cluster analysis)。对变量的聚类称为R型聚类,而对观测值聚类称为Q型聚类。这两种聚类在数学上是对称的,没有什么不同。聚类分析的基本思想是认为我们所研究的样本或指标(变量)之间存在着程度不同的相似性(亲疏关系)。于是根据一批样本的多个观
3、测指标,具体找出一些彼此之间相似程度较大的样本(或指标)聚合为一类,把另外一些彼此之间相似程度较大的样本(或指标)又聚合为另一类,关系密切的聚合到一个小的分类单位,关系疏远的聚合到一个大的分类单位,直到把所有样本(或指标)都聚合完毕,把不同的类型一一划分出来,形成一个由小到大的分类系统。最后把整个分类系统画成一张谱系图,用它把所有样本(或指标)间的亲疏关系表示出来。这种方法是最常用的、最基本的一种,称为系统聚类分析。饮料数据(drink.sav)l16种饮料的热量、咖啡因、钠及价格四种变量 如何度量远近?l如果想要对100个学生进行分类,如果仅仅知道他们的数学成绩,则只好按照数学成绩来分类;这
4、些成绩在直线上形成100个点。这样就可以把接近的点放到一类。l如果还知道他们的物理成绩,这样数学和物理成绩就形成二维平面上的100个点,也可以按照距离远近来分类。l三维或者更高维的情况也是类似;只不过三维以上的图形无法直观地画出来而已。在饮料数据中,每种饮料都有四个变量值。这就是四维空间点的问题了。两个距离概念l按照远近程度来聚类需要明确两个概念:一个是点和点之间的距离,一个是类和类之间的距离。l点间距离有很多定义方式。最简单的是歐氏距离,还有其他的距离。l当然还有一些和距离相反但起同样作用的概念,比如相似性等,两点越相似度越大,就相当于距离越短。l由一个点组成的类是最基本的类;如果每一类都由
5、一个点组成,那么点间的距离就是类间距离。但是如果某一类包含不止一个点,那么就要确定类间距离,l类间距离是基于点间距离定义的:比如两类之间最近点之间的距离可以作为这两类之间的距离,也可以用两类中最远点之间的距离作为这两类之间的距离;当然也可以用各类的中心之间的距离来作为类间距离。在计算时,各种点间距离和类间距离的选择是通过统计软件的选项实现的。不同的选择的结果会不同,但一般不会差太多。二、距离用 表示第i个样本与第j个样本之间的距离。一切距离应满足以下条件:kjidddjiddjidjidkjikijjiijijij,0,0对于一切,对于一切的指标相同与样本等价于样本对于一切ijd每个样本有p个
6、指标,因此每个样本可以看成p维空间中的一个点,n个样本就组成p维空间中的n个点,这时很自然想到用距离来度量n个样本间的接近程度。常见的距离有:minkowski distance(明氏距离):当当 q=1 block distance 绝对值距离绝对值距离:ptxxdjtit1当 q=2 squared euclidean distance 平方欧式距离ptqjtitxxdq11ptjtitxxd12当当q=chebychev distance 切比雪夫距离切比雪夫距离xxMaxjtittd明氏距离在实际中应用的很多,但也存在一些缺点:处理办法:标准化2、指标间的相关问题;1、量纲的问题;Ma
7、halanobis 马氏距离1()()()ijijijd MXXSXX改进的办法,采用马氏距离相似系数l夹角余弦l相关系数l 夹角余弦 两变量的夹角余弦定义为:l 相关系数 两变量的相关系数定义为:16 系统聚类方法x21x12x22x1113d三、系统聚类法基本步骤1.选择样本间距离的定义及类间距离的定义;2.计算n个样本两两之间的距离,得到距离矩阵 3.构造个类,每类只含有一个样本;4.合并符合类间距离定义要求的两类为一个新类;5.计算新类与当前各类的距离。若类的个数为1,则转到步骤6,否则回到步骤4;6.画出聚类图;7.决定类的个数和类。ijdD 系统聚类分析的方法l系统聚类法的聚类原则
8、决定于样品间的距离以及类间距离的定义,类间距离的不同定义就产生了不同的系统聚类分析方法。l以下用dij表示样品X(i)和X(j)之间的距离,当样品间的亲疏关系采用相似系数Cij时,令 ;l以下用D(p,q)表示类Gp和Gq之间的距离。221ijijCd3.重心法(CENtroid method)4.类平均法(AVErage method)例为了研究辽宁等5省1991年城镇居民生活消费情况的分布规律,根据调查资料做类型分类,用最短距离做类间分类。数据如下:x1x2x3x4x5x6x7x8辽宁17.9039.778.4912.9419.2711.052.0413.29浙江27.6850.3711.
展开阅读全文