主成份分析因子分析课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《主成份分析因子分析课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 成份 分析 因子分析 课件
- 资源描述:
-
1、zf因子分析的重点因子分析的重点v1 1、什么是因子分析?、什么是因子分析?v2 2、理解因子分析的基本思想、理解因子分析的基本思想v3 3、因子分析的数学模型以及模型中公共因子、因子分析的数学模型以及模型中公共因子、因子载荷变量共同度的统计意义因子载荷变量共同度的统计意义v4 4、因子旋转的意义、因子旋转的意义 v5 5、结合、结合SPSSSPSS软件进行案例分析软件进行案例分析zf26.1 6.1 因子分析的基本理论因子分析的基本理论v1 1、什么是因子分析?、什么是因子分析?因子分析是主成分分析的推广,也是利用因子分析是主成分分析的推广,也是利用降维降维的的思想,由研究原始变量相关矩阵或
2、协方差矩阵的内部思想,由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发,把一些具有错综复杂关系的多个变量依赖关系出发,把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。归结为少数几个综合因子的一种多元统计分析方法。v2 2、因子分析的基本思想:、因子分析的基本思想:把每个研究变量分解为几个影响因素变量,将每把每个研究变量分解为几个影响因素变量,将每个原始变量分解成两部分因素,一部分是由所有变量个原始变量分解成两部分因素,一部分是由所有变量共同具有的少数几个共同具有的少数几个公共因子公共因子组成的,另一部分是每组成的,另一部分是每个变量独自具有的因素,即个变量独自
3、具有的因素,即特殊因子特殊因子。zf3v3 3、因子分析的目的:、因子分析的目的:l因子分析的目的之一,因子分析的目的之一,简化变量维数。简化变量维数。即要使因素结即要使因素结构简单化,希望以最少的共同因素(公共因子),能构简单化,希望以最少的共同因素(公共因子),能对总变异量作最大的解释,因而抽取得因子愈少愈好,对总变异量作最大的解释,因而抽取得因子愈少愈好,但抽取因子的累积解释的变异量愈大愈好。但抽取因子的累积解释的变异量愈大愈好。l在因子分析的公共因子抽取中,应最先抽取特征值最在因子分析的公共因子抽取中,应最先抽取特征值最大的公共因子,其次是次大者,最后抽取公共因子的大的公共因子,其次是
4、次大者,最后抽取公共因子的特征值最小特征值最小 通常会接近通常会接近0 0。zf4v例:在企业形象或品牌形象的研究中,消费者可以通过一个有例:在企业形象或品牌形象的研究中,消费者可以通过一个有2424个指标构成的评价体系,评价百货商场的个指标构成的评价体系,评价百货商场的2424个方面的优劣。个方面的优劣。v但消费者主要关心的是三个方面,即商店的环境、商店的服务但消费者主要关心的是三个方面,即商店的环境、商店的服务和商品的价格。因子分析方法可以通过和商品的价格。因子分析方法可以通过2424个变量,找出反映商个变量,找出反映商店环境、商店服务水平和商品价格的三个潜在的因子,对商店店环境、商店服务
5、水平和商品价格的三个潜在的因子,对商店进行综合评价。进行综合评价。而这三个公共因子可以表示为:而这三个公共因子可以表示为:v称称 是不可观测的潜在因子是不可观测的潜在因子,称为公共因子。称为公共因子。2424个变个变量共享这三个因子,但是每个变量又有自己的个性,不被量共享这三个因子,但是每个变量又有自己的个性,不被包含包含的部分的部分 ,称为特殊因子。,称为特殊因子。iiiiiiFFFx332211321FFF、izf5v4 4、主成分分析分析与因子分析的联系和差异:、主成分分析分析与因子分析的联系和差异:联系:联系:(1 1)因子分析是主成分分析的推广,是主成分分析的逆问)因子分析是主成分分
6、析的推广,是主成分分析的逆问题。(题。(2 2)二者都是以)二者都是以降维降维为目的,都是从协方差矩阵或相关系数为目的,都是从协方差矩阵或相关系数矩阵出发。矩阵出发。区别区别:(1 1)主成分分析模型是原始变量的线性组合,是将原始变主成分分析模型是原始变量的线性组合,是将原始变量加以综合、归纳,仅仅是变量变换;而因子分析是将原始变量加以量加以综合、归纳,仅仅是变量变换;而因子分析是将原始变量加以分解,描述原始变量协方差矩阵结构的模型;只有当提取的公因子个分解,描述原始变量协方差矩阵结构的模型;只有当提取的公因子个数等于原始变量个数时,因子分析才对应变量变换。(数等于原始变量个数时,因子分析才对
7、应变量变换。(2 2)主成分分析,)主成分分析,中每个主成分对应的系数是唯一确定的;因子分析中每个因子的相应中每个主成分对应的系数是唯一确定的;因子分析中每个因子的相应系数即因子载荷不是唯一的。(系数即因子载荷不是唯一的。(3 3)因子分析中因子载荷的不唯一性有)因子分析中因子载荷的不唯一性有利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能利于对公因子进行有效解释;而主成分分析对提取的主成分的解释能力有限。力有限。zf6v5 5、因子分析模型:、因子分析模型:设设 个变量,如果表示为个变量,如果表示为iX),2,1(pip11iiiimmiXa Fa F)(pm 111112111
8、22212222212mmpppppmpmXFXFXF或XAF或zf7(1 1)(2 2)称为称为 公共因子,是不可观测的变量,公共因子,是不可观测的变量,他们的系数称为因子载荷。他们的系数称为因子载荷。是特殊因子,是不能被是特殊因子,是不能被前前m m个公共因子包含的部分。其中:个公共因子包含的部分。其中:mFFF,21icov(,)0,F,F相互独立即不相关;相互独立即不相关;IFD111)(mFFF,21即即 互不相关,方差为互不相关,方差为1 1。zf8(3 3)22221)(pD即互不相关,方差不一定相等,即互不相关,方差不一定相等,。满足以上条件的,称为满足以上条件的,称为正交因子
9、模型正交因子模型如果()不成立,即如果()不成立,即 各公共因子之间不独立,各公共因子之间不独立,则因子分析模型为则因子分析模型为斜交因子模型斜交因子模型),0(2iiNIFD)(zf9公因子公因子F1公因子公因子F2共同度共同度hi特殊因子特殊因子ix1=代数代数10.8960.3410.9190.081x2=代数代数20.8020.4960.8890.111x3=几何几何0.5160.8550.9970.003x4=三角三角0.8410.4440.9040.096x5=解析几何解析几何0.8330.4340.8820.118特征值特征值 G3.1131.4794.9590.409方差贡献率
10、方差贡献率(变异量)(变异量)62.26%29.58%91.85%因子分析案例因子分析案例F F1 1 体现逻辑思维和运算能力,体现逻辑思维和运算能力,F F2 2 体现空间思维和推理能力体现空间思维和推理能力zf10v6 6、因子分析模型中的几个重要统计量的意义:、因子分析模型中的几个重要统计量的意义:(1 1)因子负荷量(或称因子载荷)因子负荷量(或称因子载荷)-是指因子结是指因子结构中原始变量与因子分析时抽取出的公共因子的相构中原始变量与因子分析时抽取出的公共因子的相关程度。关程度。imim2i21i1*iFFFxijijm1ijm1ij*i Fj),cov()F,cov()F,cov(
11、)F,Cov(xkikikikFF)var(*)var()*,cov(rijjijiFxFxrzf11 在各公共因子不相关的前提下,在各公共因子不相关的前提下,(载荷矩阵(载荷矩阵中第中第i i行,第行,第j j列的元素)列的元素)是随机变量是随机变量xi*与公共因与公共因子子F Fj j的相关系数,的相关系数,表示表示x xi i*依赖于依赖于F Fj j的程度。的程度。反映反映了第了第i i个原始变量在第个原始变量在第j j个公共因子上的相对重要性。个公共因子上的相对重要性。因此因此 绝对值越大,则公共因子绝对值越大,则公共因子F Fj j与原有变量与原有变量x xi i的关系越强。的关系
12、越强。ijijzf12(2 2)共同度共同度-又称又称共性方差或公因子方差共性方差或公因子方差(community或或common variance)就是变量与每个公共因子之负荷量就是变量与每个公共因子之负荷量的平方总和(一行中所有因素负荷量的平方和)。的平方总和(一行中所有因素负荷量的平方和)。变量变量 的共同度是因子载荷矩阵的第的共同度是因子载荷矩阵的第i i行的元素的平方和。记为行的元素的平方和。记为 从共同性的大小可以判断这个原始实测变量与公共因从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度。如因子分析案例中子间之关系程度。如因子分析案例中 共同度共同度h h1 12 2
13、=(0.896)=(0.896)平方平方+(0.341)+(0.341)平方平方=0.919=0.919o特殊因子方差(剩余方差)特殊因子方差(剩余方差)-各变量的特殊因素影响大小就各变量的特殊因素影响大小就是是1 1减掉该变量共同度的值。如减掉该变量共同度的值。如 =1-0.919=0.081=1-0.919=0.081iX。mjijiah1222izf13统计意义统计意义:imimiiFaFaX11*两边求方差两边求方差)()()()(2112imimiiVarFVaraFVaraXVar221221iimjiijha 所有的公共因子和特殊因子对变量所有的公共因子和特殊因子对变量 的贡献为
14、的贡献为1 1。h hi i2 2反映了全反映了全部公共因子对变量部公共因子对变量X Xi i*的影响,是全部公共因子对变量方差所做出的影响,是全部公共因子对变量方差所做出的贡献,或者说的贡献,或者说X Xi i*对公共因子的共同依赖程度,称为公共因子对对公共因子的共同依赖程度,称为公共因子对变量变量X Xi i*的方差贡献。的方差贡献。H Hi i2 2接近于接近于1 1,表明该变量的原始信息几乎都被选取的公共因子,表明该变量的原始信息几乎都被选取的公共因子说明了。说明了。特殊因子的方差,反映了原有变量方差中无法被公共因子特殊因子的方差,反映了原有变量方差中无法被公共因子描述的比例。描述的比
15、例。*iX2izf14(3 3)特征值特征值-是第是第j j个公共因子个公共因子F Fj j对于对于X X*的每一分量的每一分量X Xi i*所提所提供的方差的总和。又称第供的方差的总和。又称第j j个公共因子的方差贡献。即个公共因子的方差贡献。即每个每个变量与某一共同因素之因素负荷量的平方总和变量与某一共同因素之因素负荷量的平方总和(因子载荷矩(因子载荷矩阵中某一公共因子列所有因子负荷量的平方和)。阵中某一公共因子列所有因子负荷量的平方和)。如因子分析案例中如因子分析案例中 F1F1的特征值的特征值 G=G=(0.8960.896)平方平方+(0.8020.802)平方)平方+(0.5160
16、.516)平方)平方+(0.8410.841)平方)平方+(0.8330.833)平方平方=3.113=3.113(4 4)方差贡献率)方差贡献率-指公共因子对实测变量的贡献,又称变异指公共因子对实测变量的贡献,又称变异量量 方差贡献率方差贡献率=特征值特征值G/G/实测变量数实测变量数p p,是衡量公共因子相对重要性的指标,是衡量公共因子相对重要性的指标,G Gi i越大,表明公共越大,表明公共因子因子F Fj j对对X X*的贡献越大,该因子的重要程度越高的贡献越大,该因子的重要程度越高 如因子分析案例中如因子分析案例中 F1F1的贡献率为的贡献率为3.113/5=62.26%3.113/
17、5=62.26%zf156.2 6.2 因子的基本内容因子的基本内容v1 1、因子分析的基本步骤:、因子分析的基本步骤:(1 1)因子分析的前提条件鉴定)因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系,是否适考察原始变量之间是否存在较强的相关关系,是否适合进行因子分析。因为:合进行因子分析。因为:因子分析的主要任务之一就是对原有变量中信息重因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成因子,最终实现减少变量个数的叠的部分提取和综合成因子,最终实现减少变量个数的目的。所以要求原有变量之间应存在较强的相关关系。目的。所以要求原有变量之间应存在较强的相关关系。否则,
18、如果原有变量相互独立,不存在信息重叠,也就否则,如果原有变量相互独立,不存在信息重叠,也就无需进行综合和因子分析。无需进行综合和因子分析。(2 2)因子提取)因子提取 研究如何在样本数据的基础上提取综合因子。研究如何在样本数据的基础上提取综合因子。zf16(3 3)因子旋转)因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可通过正交旋转或斜交旋转使提取出的因子具有可解释性。解释性。(4 4)计算因子得分)计算因子得分 通过各种方法求解各样本在各因子上的得分,为通过各种方法求解各样本在各因子上的得分,为进一步分析奠定基础。进一步分析奠定基础。zf17v2 2、因子分析前提条件、因子分析前提条件
19、相关性分析:相关性分析:分析方法主要有:分析方法主要有:(1 1)计算相关系数矩阵)计算相关系数矩阵(correlation correlation coefficients matrix)coefficients matrix)如果相关系数矩阵中的大部分相关系数值如果相关系数矩阵中的大部分相关系数值均小于均小于0.30.3,即各变量间大多为弱相关,原,即各变量间大多为弱相关,原则上这些变量不适合进行因子分析。则上这些变量不适合进行因子分析。(2 2)计算反映象相关矩阵()计算反映象相关矩阵(Anti-image Anti-image correlation matrix)correlatio
20、n matrix)zf18 反映象相关矩阵,如果其主对角线外的元素大多绝反映象相关矩阵,如果其主对角线外的元素大多绝对值较小,对角线上的元素值较接近对值较小,对角线上的元素值较接近1 1,则说明这些变,则说明这些变量的相关性较强,适合进行因子分析。量的相关性较强,适合进行因子分析。其中主对角线上的元素为某变量的其中主对角线上的元素为某变量的MSA(Measure of MSA(Measure of Sample Adequacy)Sample Adequacy):是变量是变量 和变量和变量 ()间的简单相关系数,是间的简单相关系数,是变量变量 和变量和变量 ()在控制了其他变量影响下的偏在控制
21、了其他变量影响下的偏相关系数,即净相关系数。相关系数,即净相关系数。取值在取值在0 0和和1 1之间,越之间,越接近接近1 1,意味着变量,意味着变量 与其他变量间的相关性越强,越与其他变量间的相关性越强,越接近接近0 0则相关性越弱。则相关性越弱。ijijijijijijiprrMSA222ijrixjxijijpixjxijiMSAixzf19(3 3)巴特利特球度检验()巴特利特球度检验(Bartlett test of Bartlett test of sphericitysphericity)该检验以原有变量的相关系数矩阵为出发点,其零该检验以原有变量的相关系数矩阵为出发点,其零假设
22、假设H0H0是:相关系数矩阵为单位矩阵,即相关系数矩阵是:相关系数矩阵为单位矩阵,即相关系数矩阵主对角元素均为主对角元素均为1 1,非主对角元素均为,非主对角元素均为0 0。(即原始变量。(即原始变量之间无相关关系)。之间无相关关系)。依据相关系数矩阵的行列式计算可得其近似服从卡依据相关系数矩阵的行列式计算可得其近似服从卡方分布。如果统计量卡方值较大且对应的方分布。如果统计量卡方值较大且对应的sigsig值小于给值小于给定的显著性水平定的显著性水平a a时,零假设不成立。即说明相关系数时,零假设不成立。即说明相关系数矩阵不太可能是单位矩阵,变量之间存在相关关系,适矩阵不太可能是单位矩阵,变量之
23、间存在相关关系,适合做因子分析。合做因子分析。zf20(4 4)KMO(Kaiser-Meyer-KMO(Kaiser-Meyer-OlkinOlkin)检验检验 KMOKMO检验的统计量是用于比较变量间简单相关系数矩阵检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标,数学定义为:和偏相关系数的指标,数学定义为:KMO KMO与与MSAMSA区别是它将相关系数矩阵中的所有元素都加入区别是它将相关系数矩阵中的所有元素都加入到了平方和计算中。到了平方和计算中。KMOKMO值越接近值越接近1 1,意味着变量间的相,意味着变量间的相关性越强,原有变量适合做因子分析;越接近关性越强,原有变
24、量适合做因子分析;越接近0 0,意味,意味变量间的相关性越弱,越不适合作因子分析。变量间的相关性越弱,越不适合作因子分析。KaiserKaiser给出的给出的KMOKMO度量标准:度量标准:0.90.9以上非常适合;以上非常适合;0.80.8表示适合;表示适合;0.70.7表示一般;表示一般;0.60.6表示不太适合;表示不太适合;0.50.5以下表示极不适以下表示极不适合。合。ijijijijijijiprrKMO222zf21v3 3、因子提取和因子载荷矩阵的求解:、因子提取和因子载荷矩阵的求解:因子载荷矩阵求解的方法:因子载荷矩阵求解的方法:(1 1)基于主成分模型的主成分分析法)基于主
25、成分模型的主成分分析法 (2 2)基于因子分析模型的主轴因子法)基于因子分析模型的主轴因子法 (3 3)极大似然法极大似然法 (4 4)最小二乘法)最小二乘法 (5 5)a a因子提取法因子提取法 (6 6)映象分析法)映象分析法zf22(1 1)基于主成分模型的主成分分析法)基于主成分模型的主成分分析法Principal Principal componentscomponents 设随机向量 的均值为,协方差为,为的特征根,为对应的标准化特征向量,则pxxx,21x021pp21u,u,u12p=UUAA+Dzf23o上式给出的上式给出的 表达式是精确的,然而,它实际上是毫无表达式是精确的
展开阅读全文