主成分分析和因子分析(同名4)课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《主成分分析和因子分析(同名4)课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 成分 分析 因子分析 同名 课件
- 资源描述:
-
1、整理课件1主成分分析和因子分析主成分分析和因子分析 整理课件2汇报什么?汇报什么?假定你是一个公司的财务经理,掌握了公司的所有数据,比如假定你是一个公司的财务经理,掌握了公司的所有数据,比如固定资产、流动资金、每一笔借贷的数额和期限、各种税费、固定资产、流动资金、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等分工和教育程度等等。如果让你向上面介绍公司状况,你能够把这些指标和数字都如果让你向上面介绍公司状况,你能够把这些指标和数字都原原封不动地摆出去吗封不动地摆出去吗?当然不能。当然
2、不能。你必须要把各个方面作出高度概括,你必须要把各个方面作出高度概括,用一两个指标简单明了地用一两个指标简单明了地把情况说清楚。把情况说清楚。整理课件3主成分分析主成分分析 每个人都会遇到有每个人都会遇到有很多变量很多变量的数据。的数据。比如全国或各个地区的带有许多经济和社会变量的数据;各个比如全国或各个地区的带有许多经济和社会变量的数据;各个学校的研究、教学等各种变量的数据等等。学校的研究、教学等各种变量的数据等等。这些数据的共同特点是变量很多,在如此多的变量之中,有很这些数据的共同特点是变量很多,在如此多的变量之中,有很多是相关的。人们希望能够找出它们的多是相关的。人们希望能够找出它们的少
3、数少数“代表代表”来对它们来对它们进行描述。进行描述。本章就介绍两种把变量维数降低以便于描述、理解和分析的方本章就介绍两种把变量维数降低以便于描述、理解和分析的方法:法:主成分分析主成分分析(principal component analysisprincipal component analysis)和)和因子分因子分析析(factor analysisfactor analysis)。实际上)。实际上主成分分析可以说是因子分析主成分分析可以说是因子分析的一个特例的一个特例。在引进主成分分析之前,先看下面的例子。在引进主成分分析之前,先看下面的例子。整理课件4成绩数据(成绩数据(stude
4、nt.sav)100个学生的数学、物理、化学、语文、历史、英语的成绩如下个学生的数学、物理、化学、语文、历史、英语的成绩如下表(部分)。表(部分)。整理课件5从本例可能提出的问题从本例可能提出的问题 目前的问题是,能不能把这个数据的目前的问题是,能不能把这个数据的6 6个变量个变量用一两个综合变量来表示呢?用一两个综合变量来表示呢?这一两个综合变量包含有多少原来的信息呢?这一两个综合变量包含有多少原来的信息呢?能不能利用找到的综合变量来对学生排序呢?能不能利用找到的综合变量来对学生排序呢?这一类数据所涉及的问题可以推广到对企业,这一类数据所涉及的问题可以推广到对企业,对学校进行分析、排序、判别
5、和分类等问题。对学校进行分析、排序、判别和分类等问题。整理课件6空间的点空间的点 例中的的数据点是六维的;也就是说,每个观测值是例中的的数据点是六维的;也就是说,每个观测值是6维空间中维空间中的一个点。我们希望把的一个点。我们希望把6维空间用低维空间表示。维空间用低维空间表示。先假定只有二维,即只有两个变量,它们由横坐标和纵坐标所先假定只有二维,即只有两个变量,它们由横坐标和纵坐标所代表;因此每个观测值都有相应于这两个坐标轴的两个坐标值;代表;因此每个观测值都有相应于这两个坐标轴的两个坐标值;如果这些数据形成一个椭圆形状的点阵(这在变量的二维正态如果这些数据形成一个椭圆形状的点阵(这在变量的二
6、维正态的假定下是可能的)的假定下是可能的)那么这个椭圆有一个长轴和一个短轴。在短轴方向上,数据变那么这个椭圆有一个长轴和一个短轴。在短轴方向上,数据变化很少;在极端的情况,短轴如果退化成一点,那只有在长轴化很少;在极端的情况,短轴如果退化成一点,那只有在长轴的方向才能够解释这些点的变化了;这样,由二维到一维的降的方向才能够解释这些点的变化了;这样,由二维到一维的降维就自然完成了。维就自然完成了。整理课件7-4-2024-4-2024整理课件8椭球的长短轴椭球的长短轴 当坐标轴和椭圆的长短轴平行,那么代表长轴的变量就描述当坐标轴和椭圆的长短轴平行,那么代表长轴的变量就描述了数据的主要变化,而代表
7、短轴的变量就描述了数据的次要了数据的主要变化,而代表短轴的变量就描述了数据的次要变化。变化。但是,坐标轴通常并不和椭圆的长短轴平行。因此,需要寻但是,坐标轴通常并不和椭圆的长短轴平行。因此,需要寻找椭圆的长短轴,并进行变换,使得新变量和椭圆的长短轴找椭圆的长短轴,并进行变换,使得新变量和椭圆的长短轴平行。平行。如果长轴变量代表了数据包含的大部分信息,就用该变量代如果长轴变量代表了数据包含的大部分信息,就用该变量代替原先的两个变量(舍去次要的一维),降维就完成了。替原先的两个变量(舍去次要的一维),降维就完成了。椭圆(球)的长短轴相差得越大,降维也越有道理。椭圆(球)的长短轴相差得越大,降维也越
8、有道理。整理课件9-4-2024-4-2024整理课件10主轴和主成分主轴和主成分 对于多维变量的情况和二维类似,也有高维的椭球,对于多维变量的情况和二维类似,也有高维的椭球,只不过无法直观地看见罢了。只不过无法直观地看见罢了。首先把高维椭球的主轴找出来,再用代表大多数数首先把高维椭球的主轴找出来,再用代表大多数数据信息的最长的几个轴作为新变量;这样,主成分据信息的最长的几个轴作为新变量;这样,主成分分析就基本完成了。分析就基本完成了。注意,和二维情况类似,高维椭球的主轴也是互相注意,和二维情况类似,高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性垂直的。这些互相正交的新变量
9、是原先变量的线性组合,叫做主成分组合,叫做主成分(principal component)。整理课件11主成分之选取主成分之选取 正如二维椭圆有两个主轴,三维椭球有三个主轴一正如二维椭圆有两个主轴,三维椭球有三个主轴一样,有几个变量,就有几个主成分。样,有几个变量,就有几个主成分。选择越少的主成分,降维就越好。什么是标准呢?选择越少的主成分,降维就越好。什么是标准呢?那就是这些被选的主成分所代表的主轴的长度之和那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议,所选占了主轴长度总和的大部分。有些文献建议,所选的主轴总长度占所有主轴长度之和的的主轴总长度占所有主轴
10、长度之和的大约大约85%即可,即可,其实,其实,这只是一个大体的说法这只是一个大体的说法;具体选几个,要看;具体选几个,要看实际情况而定。实际情况而定。整理课件12主成分分析的数学 要寻找方差最大的方向。即使得要寻找方差最大的方向。即使得向量向量X的线性组的线性组合合aX的方差最大的方向的方差最大的方向a.而而Var(aX)=aCov(X)a;由于由于Cov(X)未知;未知;于是于是用用X的样本相关阵的样本相关阵R来近似来近似.因此,要寻找向量因此,要寻找向量a使得使得aRa最大最大(注意相关阵和协方差阵差一个常注意相关阵和协方差阵差一个常数数 记得相关阵和特征值问题吗记得相关阵和特征值问题吗
11、?回顾一下吧回顾一下吧!选择几个主成分呢选择几个主成分呢?要看要看“贡献率贡献率.”整理课件13 对于我们的数据,对于我们的数据,SPSSSPSS输出为输出为 这里的这里的Initial Eigenvalues就是这里的六个主轴长度,又就是这里的六个主轴长度,又称特征值(数据相关阵的特征值)。称特征值(数据相关阵的特征值)。头两个成分特征值头两个成分特征值累积占了总方差的累积占了总方差的81.142%。后面的特征值的贡献越来。后面的特征值的贡献越来越少。越少。T To ot ta al l V Va ar ri ia an nc ce e E Ex xp pl la ai in ne ed d
12、3.73562.25462.2543.73562.25462.2541.13318.88781.1421.13318.88781.142.4577.61988.761.3235.37694.137.1993.32097.457.1532.543100.000Component123456Total%of VarianceCumulative%Total%of VarianceCumulative%Initial EigenvaluesExtraction Sums of Squared LoadingsExtraction Method:Principal Component Analysis
13、.整理课件14 特征值的贡献还可以从特征值的贡献还可以从SPSS的所谓碎石图看出的所谓碎石图看出Scree PlotComponent Number654321Eigenvalue43210整理课件15 怎么解释这两个主成分。前面说过主成分是原始六个变怎么解释这两个主成分。前面说过主成分是原始六个变量的线性组合。是怎么样的组合呢?量的线性组合。是怎么样的组合呢?SPSSSPSS可以可以输出下面输出下面的表。的表。C Co om mp po on ne en nt t M Ma at tr ri ix xa a-.806.353-.040.468.021.068-.674.531-.454-.2
14、40-.001-.006-.675.513.499-.181.002.003.893.306-.004-.037.077.320.825.435.002.079-.342-.083.836.425.000.074.276-.197MATHPHYSCHEMLITERATHISTORYENGLISH123456ComponentExtraction Method:Principal Component Analysis.6 components extracted.a.这里每一列代表一个主成分作为原来变量线性组合的系数(比这里每一列代表一个主成分作为原来变量线性组合的系数(比例)。比如第一主成分为
15、数学、物理、化学、语文、历史、英例)。比如第一主成分为数学、物理、化学、语文、历史、英语这六个变量的线性组合,系数(比例)为语这六个变量的线性组合,系数(比例)为-0.806,-0.674,-0.675,0.893,0.825,0.836。整理课件16 如用如用x x1 1,x x2 2,x x3 3,x x4 4,x x5 5,x x6 6分别表示原先的六个变量,而用分别表示原先的六个变量,而用y y1 1,y y2 2,y y3 3,y y4 4,y y5 5,y y6 6表示新的主成分,那么,第一和第二主表示新的主成分,那么,第一和第二主成分为成分为11234562123456-0.80
16、6-0.674-0.6750.8930.8250.8360.3530.5310.5130.3060.4350.425yxxxxxxyxxxxxx 这些系数称为主成分载荷(这些系数称为主成分载荷(loading),它表示主成分和相应的),它表示主成分和相应的原先变量的相关系数。原先变量的相关系数。比如比如y1表示式中表示式中x1的系数为的系数为-0.806,这就是说第一主成分和数学,这就是说第一主成分和数学变量的相关系数为变量的相关系数为-0.806。相关系数相关系数(绝对值)越大,主成分对该变量的代表性也越大。可绝对值)越大,主成分对该变量的代表性也越大。可以看得出,第一主成分对各个变量解释得
17、都很充分。而最后的以看得出,第一主成分对各个变量解释得都很充分。而最后的几个主成分和原先的变量就不那么相关了。几个主成分和原先的变量就不那么相关了。整理课件17可以把第一和第二主成分的载荷可以把第一和第二主成分的载荷点出一个二维图以直观地显示它点出一个二维图以直观地显示它们如何解释原来的变量的。这个们如何解释原来的变量的。这个图叫做载荷图。图叫做载荷图。整理课件18Component PlotComponent 11.0.50.0-.5-1.0Component 21.0.50.0-.5-1.0englishhistoryliteratchemphysmath该图该图左面三个点是数学、物理、化
18、学三科左面三个点是数学、物理、化学三科,右边三个点是语文、历史、外右边三个点是语文、历史、外语三科。语三科。图中的六个点由于比较挤,不易分清,但只要认识到这些点的坐图中的六个点由于比较挤,不易分清,但只要认识到这些点的坐标是前面的第一二主成分载荷,坐标是前面表中第一二列中的数目,还是标是前面的第一二主成分载荷,坐标是前面表中第一二列中的数目,还是可以识别的。可以识别的。整理课件19因子分析因子分析 主成分分析从原理上是寻找椭球的所有主轴。因此,原先有几个变量,主成分分析从原理上是寻找椭球的所有主轴。因此,原先有几个变量,就有几个主成分。就有几个主成分。而因子分析是事先确定要找几个成分,这里叫因
19、子(而因子分析是事先确定要找几个成分,这里叫因子(factor)(比如两)(比如两个),那就找两个。个),那就找两个。这使得在数学模型上,因子分析和主成分分析有不少区别。而且因子分这使得在数学模型上,因子分析和主成分分析有不少区别。而且因子分析的计算也复杂得多。根据因子分析模型的特点,它还多一道工序:因析的计算也复杂得多。根据因子分析模型的特点,它还多一道工序:因子旋转(子旋转(factor rotation);这个步骤可以使结果更好。);这个步骤可以使结果更好。当然,对于计算机来说,因子分析并不比主成分分析多费多少时间。当然,对于计算机来说,因子分析并不比主成分分析多费多少时间。从输出的结果
20、来看,因子分析也有因子载荷(从输出的结果来看,因子分析也有因子载荷(factor loading)的概念,)的概念,代表了因子和原先变量的相关系数。但是在因子分析公式中的因子载荷代表了因子和原先变量的相关系数。但是在因子分析公式中的因子载荷和主成分分析中的因子载荷位置不同。因子分析也给出了二维图;但解和主成分分析中的因子载荷位置不同。因子分析也给出了二维图;但解释和主成分分析的载荷图类似。释和主成分分析的载荷图类似。整理课件20 主成分分析与因子分析的公式上的区别主成分分析与因子分析的公式上的区别111 11221221 122221 122ppppppppppya xa xa xya xa
21、xaxya xaxa x1111122112211222221122mmmmppppmmpxafafafxafafafxafafaf 111 11221221 122221 122ppppmmmmppfxxxfxxxfxxx主成分分析主成分分析因子分析因子分析(m ex=eigen(cor(z);ex$values1 2.87331359 1.79666009 0.21483689 0.09993405 0.01525537$vectors house services employ school poppop 0.3427304-0.60162927 0.05951715-0.2040327
22、4 0.6894972617school 0.4525067 0.40641449 0.68882245 0.35357060 0.1748611748employ 0.3966948-0.54166500 0.24795775-0.02293716-0.6980136963services 0.5500565 0.07781686-0.66407565 0.50038572-0.0001235807house 0.4667384 0.41642892-0.13964890-0.76318182-0.0824254824 sweep(ex$ve,2,sqrt(ex$va),*)载荷载荷 hou
23、se services employ school poppop 0.5809571-0.8064212 0.02758650-0.064499538 8.516163e-02school 0.7670373 0.5447561 0.31927265 0.111771968 2.159757e-02employ 0.6724314-0.7260453 0.11492966-0.007250974-8.621352e-02services 0.9323926 0.1043054-0.30780239 0.158183675-1.526378e-05house 0.7911612 0.558179
24、5-0.06472796-0.241259690-1.018059e-02整理课件55正交性验证正交性验证 t(ex$ve)%*%ex$ve house services employ school pop house 1.00e+00 -5.55e-17 6.9e-17 -1.11e-16 0.00e+00 services -5.55e-17 1.00e+00 4.16e-17 0.00e+00 -8.33e-17 employ 6.94e-17 4.16e-17 1.00e+00 2.78e-17 5.38e-17 school -1.11e-16 0.00e+00 2.78e-17 1
25、.00e+00 -1.39e-17 pop 0.00e+00 -8.33e-17 5.38e-17 -1.39e-17 1.00e+00整理课件56相关阵的特征值相关阵的特征值:(R输出输出)2.8733 1.7967 0.2148 0.0999 0.0153特征向量矩阵特征向量矩阵(列向量列向量)A(R输出输出)0.343-0.6016 0.0595-0.2040 0.6894970.453 0.4064 0.6888 0.3536 0.1748610.397-0.5417 0.2480-0.0229-0.6980140.550 0.0778-0.6641 0.5004-0.0001240.
展开阅读全文