第五讲因子分析(暑期学校)课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第五讲因子分析(暑期学校)课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第五 因子分析 暑期 学校 课件
- 资源描述:
-
1、1第五讲第五讲 因子分析因子分析2 主成分分析告诉我们原始变量可以由更少的一些不相关的指标来解释,这启发我们思考一个问题,一些有相关性的指标是否可以由少数的几个潜在的不相关的因子引起。例如,在企业形象或品牌形象的研究中,消费者可以通过一个有24个指标构成的评价体系,评价百货商场的24个方面的优劣。但消费者主要关心的是三个方面,即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量,找出反映商店环境、商店服务水平和商品价格的三个潜在的因子,对商店进行综合评价。而这三个公共因子可以表示为第一节第一节 什么是因子分析什么是因子分析3iiiiiiFFFx33221124,1i 称 是不可
2、观测的潜在因子。24个变量共享这三个因子,但是每个变量又有自己的个性,不被包含的部分 ,称为特殊因子。因子分析(factor analysis)是一种数据简化的技术。它通过研究众多变量之间的内部依赖关系,探求观测数据中的基本结构,并用少数几个假想变量来表示其基本的数据结构。这几个假想变量能够反映原来众多变量的主要信息。原始的变量是可观测的显在变量,而假想变量是不可观测的潜在变量,称为因子。321FFF、i4 为了客观评价全国各地区的竞争能力水平,现选择了8项竞争力评价指标。它们是X1城镇居民人均全年家庭可支配收入(元)X2财政收入(万元)X3地区生产总值(亿元)X4城市用水普及率(%)X5城市
3、燃气普及率(%)X6每万人拥有公共汽车车辆(标台)X7人均城市道路面积(平方米)X8人均公园绿地面积(平方米)。利用因子分析法对全国31个地区的竞争力水平进行综合评价。数据文件“竞争力”5 因子分析与回归分析不同,因子分析中的因子是一个比较抽象的概念,而回归因子有非常明确的实际意义;主成分分析分析与因子分析也有不同,主成分分析仅仅是变量变换,而因子分析需要构造因子模型。主成分分析:原始变量的线性组合表示新的综合变量,即主成分;因子分析:潜在的假想变量和随机影响变量的线性组合表示原始变量。因子分析(探索)与结构方程模型(验证)6第二节第二节 因子分析的数学模型因子分析的数学模型 一、数学模型一、
4、数学模型 1.R型因子分析数学模型(按列)设 个变量,如果表示为iX),2,1(pipimimiiFaFaX11)(pm 111121112212222212mmppppmpmXFXFXF或 AFX或7 称为 公共因子,是不可观测的变量,他们的系数称为因子载荷。是特殊因子,是不能被前m个公共因子包含的部分。并且满足:,即不相关;即 互不相关,方差为1。mFFF,21i0),cov(F,FIFD111)(mFFF,21822221)(pD即互不相关,方差不一定相等,。),0(2iiN9 2.Q型因子分析数学模型(按行)设 个样品,如果表示为iX),2,1(ninimimiiFaFaX11)(nm
5、 111121112212222212mmnnnnmmnXFXFXF AFX10 称为 公共因子,是不可观测的变量,他们的系数称为因子载荷。是特殊因子,是不能被前m个公共因子包含的部分。并且满足:mFFF,21i0),cov(F,FIFD111)(即不相关;mFFF,21即 互不相关,方差为1。11四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。称为 公共因子,是不可观测的变量,他们的系数称为因子载荷。1、变换后因子的共同度Cdiag(c1,c2,cn),ci0。图2 坐标轴旋转载荷图称为 公共因子,是不可观测的变量,他们的系数称为因子载荷。可见,要求得每个因子的得分,必须
6、求得分函数的系数,而由于pm,所以不能得到精确的得分,只能通过估计。年中国30个省、自治区、直辖市的数据。X3地区生产总值(亿元)24个变量共享这三个因子,但是每个变量又有自己的个性,不被包含的部分 ,称为特殊因子。3、公共因子 方差贡献的统计意义X5:人均生物量(吨/人)提取公共因子特征根为X5:人均生物量(吨/人)X6:万人拥有的大学生数(人)类推,在不同的约束条件下,可以求的载荷矩阵的其他列,一次为按降幂排列的特征根,其列为 。22221)(nD即互不相关,方差不一定相等,。),0(2iiN12 二、因子分析中的几个统计特征二、因子分析中的几个统计特征 1 1、因子载荷的统计意义、因子载
7、荷的统计意义 因子载荷 是第i个变量与第j个公共因子的相关系数 ija模型为 imimiiFaFaX11 在上式的左右两边乘以 jF,再求数学期望)()()()()(11jijmimjjijjijiFEFFEaFFEFFEaFXE 根据公共因子的模型性质,有ijFxji (载荷矩阵中第i行,第j列的元素)反映了第i个变量与第j个公共因子的相关重要性。绝对值越大,相关的密切程度越高。13 2 2、变量共同度的统计意义、变量共同度的统计意义定义:定义:变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记为iX统计意义统计意义:imimiiFaFaX11两边求方差)()()()(2112imimi
8、iVarFVaraFVaraXVarmjiija1221 所有的公共因子和特殊因子对变量 的贡献为1。如果 非常靠近1,非常小,则因子分析的效果好,从原变量空间到公共因子空间的转化性质好。iXmjija122imjija12。mjijiah12214 3 3、公共因子、公共因子 方差贡献的统计意义方差贡献的统计意义jF因子载荷矩阵中各列元素的平方和 称为 对 的方差贡献和。衡量 的相对重要性。),(1212jipipiijjFxraS),1(mjjFiXjF15(三)因子分析模型的性质 1、原始变量、原始变量X的协方差矩阵的分解的协方差矩阵的分解X-=AF+()()()VarVarVarX-=
9、AF A+x=AA+DA是因子模型的系数22212()(,)pVardiagD D的主对角线上的元素值越小,则公共因子共享的成分越多。162、模型不受计量单位的影响、模型不受计量单位的影响 将原始变量X做变换X*=CX,这里 Cdiag(c1,c2,cn),ci0。)C(X-)=C(AF+CXC+CAF+C*XC+CAF+C*X+A F+则*,FFXCX C ACAC令,17程度比例、城镇人口比例、人均国民收入。国家发展的最终目标,是为了全面提高全体国民的生活质量,满足广大国民日益增长的物质和文化的合理需求。不幸的是,评价因子分析质量的法则尚未很好量化,质量问题只好依赖一个V1 V2 Vs1
10、其他变量的信息就损失了。巴特莱特因子得分计算方法的思想铅球,铁饼和 标枪在 上有较大的载荷,可以称为爆发性臂力因子;当Vs 收敛了,或稳定了,则旋转停止了。衡量 的相对重要性。X1 0.Standardized Scoring CoefficientsCdiag(c1,c2,cn),ci0。Cdiag(c1,c2,cn),ci0。设 个样品,如果表示为指标体系中有如下指标:Cdiag(c1,c2,cn),ci0。例 假定某地固定资产投资率 ,通货膨胀率,失业率,相关系数矩阵为旋转矩阵则是这矩阵T1,T2,Ts1和 Ts 的乘积。国民生活质量的因素分析*()()EEFF0*()()()EEECC
11、0*()()VarVarFFI*()()VarVarC*cov()cov()()EF,F,CF C0()Var C C22212(,)pdiag原始变量变换后的因子也满足条件因子模型的条件18 3、因子载荷不是惟一的、因子载荷不是惟一的 设T为一个pp的正交矩阵,令A*=AT,F*=TF,则模型可以表示为*X+ATT F+A F+X-=AF+19*()()EEFT F0()E0*()()()VarVarVarFTFTF TI22212()(,)pVardiag*cov()()EF,F 0新的因子也满足条件因子模型的条件20第三节第三节 因子载荷矩阵的估计方法因子载荷矩阵的估计方法 设随机向量
12、的均值为,协方差为,为的特征根,为对应的标准化特征向量。pxxx,21x021pp21u,u,uUUp21一、主成分法一、主成分法21 上式给出的表达式是精确的,然而它实际上是毫无价值的,因为我们的目的是寻求用少数几个公共因子解释。考虑到后面的特征根均非常小,故略去后面的pm项的贡献。pp2211uuuuuup21p2uuuuuuppp2112211AA 22 1121122mmpm2uuuuuu 12mmm1122AAu uu uu u1122mmAuuu23 例 假定某地固定资产投资率 ,通货膨胀率,失业率,相关系数矩阵为试用主成分分析法求因子分析模型。1x2x3x11/51/51/512
13、/51/52/5124 特征根为 55.11 85.02 6.03 0.475 1.550.883 0.850.629 1.550.331 0.850.629 1.550.331 0.85A0.4750.88300.6290.3310.7070.6290.3310.707U0.5690.8140.7830.3050.7830.30525原始的变量是可观测的显在变量,而假想变量是不可观测的潜在变量,称为因子。提取公共因子Final Communality Estimates:Total=6.特征根为由因子模型可知R*=AA,即是特殊因子,是不能被前m个公共因子包含的部分。变换后因子的贡献发生了变
14、化!在实际的应用中,个性方差矩阵一般都是未知的,可以通过一组样本来估计。设 个变量,如果表示为(3)结论的“合理程度”。设使S1最大的向量为 ,显然向量必须满足p2个约束条件,则,我们有如下的方程组:四次方最大法、方差最大法和等量最大法。对我国31个省市自治区的要素状况作因子分析。276317 2.设使S1最大的向量为 ,显然向量必须满足p2个约束条件,因子载荷 是第i个变量与第j个公共因子的相关系数为R*=AA中的元素,ai(i=1,2,p)是载荷矩阵的第i行。衡量 的相对重要性。法,找出变量间的数据结构,在信息损失最少的情况下所有的公共因子和特殊因子对变量 的贡献为1。可取前两个因子F1和
15、F2为公共因子,第一公因子F1物价就业因子,对X的贡献为1.55。第一公因子F2为投资因子,对X的贡献为0.85。211814.0569.0FFx2120.7830.305xFF3120.7830.305xFF 26二、主因子法二、主因子法 主因子方法是对主成分方法的修正,假定我们首先对变量进行标准化变换。则 R=AA+D R*=AA=RD称R*为约相关矩阵,R*对角线上的元素是 ,而不是1。即21i272122*2pRRAA28 我们在前面已经讨论了因子载荷矩阵A的列平方和是 piijjaS12),1(mj29 称Sj为Fj对所有的Xi(i=1,2,p)的方差贡献,用来衡量Fj的相对重要性。
16、因此我们希望先求出贡献大的因子,然后在依次求出贡献相对较小的因子。由因子模型可知R*=AA,即即 为为R*=AA中的元素中的元素,ai(i=1,2,p)是载是载荷矩阵的第荷矩阵的第i行。行。*ijijr a a30 设使S1最大的向量为 ,显然向量必须满足p2个约束条件,因此这是一个条件极值的问题,用拉格朗日乘数法有目标函数111211pAaaa2*11111()22ppijijijijTSra a*ijijr a a31 可以证明,使目标函数T最大的 S S1 1是R*=AA的最大的特征根,其单位特征向量为u1,有 1111111A Auu 即列平方和是第一个最大的特征根。类推,在不同的约束
17、条件下,可以求的载荷矩阵的其他列,一次为按降幂排列的特征根,其列为 。jju32 若 ,。而有非零特征根对应得特征向量分别为 m101pmm21u,u,ummA21uuu21mmAuuu2121332112122122212111ppppprrrrRrrR-D 直接求R*的前p个特征根和对应的正交特征向量。得如下的矩阵:34*1122ppAuuu*1pR特征根:*12,pu uu正交特征向量:3521222pRR 当特殊因子当特殊因子 的方差的方差已知,问题非常好解决。i*11*221122*ppppuuuuuu36*1122mmAuuu2121100phhD221iih 37 在实际的应用中
18、,个性方差矩阵一般都是未知的,可以通过一组样本来估计。估计的方法有如下几种 首先,求 的初始估计值,构造出 2ih*R 1)取 ,在这个情况下主因子解与主成分解等价;12ih38 2)取 ,为xi与其他所有的原始变量xj的复相关系数的平方,即xi对其余的p-1个xj的回归方程的判定系数,这是因为xi 与公共因子的关系是通过其余的p-1个xj 的线性组合联系起来的;22iiRh 2iR 3)取 ,这意味着取xi与其余的xj的简单相关系数的绝对值最大者;)(|max2ijrhiji 4)取 ,其中 是 的对角元素。iiirh/12iir1R39 假定某地固定资产投资率 ,通货膨胀率 ,失业率 ,相
19、关系数矩阵为试用主因子分析法求因子分析模型。假定用代替初始的 ,。1x2x3x11/51/51/512/51/52/51)(|max2ijrhiji2ih52,52,51232221hhh*1/51/51/511111/52/52/512251/52/52/5122R40 特征根为:9123.010877.0203 对应的非零特征向量为:261.0657.0261.0657.0929.0369.00877.0261.09123.0657.00877.0261.09123.0657.00877.0929.09123.0369.0077.0628.0077.0628.0275.0352.04112
20、11275.0352.0FFx2212077.0625.0FFx3211077.0682.0FFx新的共同度为:18129.0275.352.02221oh3966.0077.0625.02222h4710.0077.0682.02223h42 第四节第四节 因子旋转(正交变换)建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组,更重要的要知道每个公共因子的意义,以便进行进一步的分析,如果每个公共因子的含义不清,则不便于进行实际背景的解释。由于因子载荷阵是不惟一的,所以应该对因子载荷阵进行旋转。目的是使因子载荷阵的结构简化,使载荷矩阵每列或行的元素平方值向0和1两极分化。有三种主要的
21、正交旋转法。四次方最大法、方差最大法和等量最大法。一、为什么要旋转因子一、为什么要旋转因子432f1f1f2f1f2f图1 因素载荷图图2 坐标轴旋转载荷图直角坐标系由两个因子张成。x1x2x5x9x4x3x7x8x10 x644 因素旋转的目的是想通过改变坐标轴的位置,重新分配各个因素所解释变异的比例,使因素结构更为简单,更易于解释。因素旋转不会改变模型对数据的拟合程度,也不会改变每个变量的共通性,但却会改变因素的变异数贡献。所谓简单的因素结构是指每个变量在尽可能少的因素上有比较高的负荷。以因素为轴,因素负荷为坐标而做图,则每个变量是该空间中的一个点,该图称为因素负荷图。如图1和图2所示。4
22、5帮助判断原始变量之间是否存在相关关系,这对因子分析2.3、公共因子 方差贡献的统计意义即互不相关,方差不一定相等,。因子载荷矩阵可以看出,除第一因子在所有的变量在公共因子上有较大的正载荷,可以称为一般运动因子。(3)结论的“合理程度”。X1 X2 X3 X4 X5前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关问题。相关系数矩阵描述了原始变量之间的相关关系。2、变量共同度的统计意义因素旋转不会改变模型对数据的拟合程度,也不会改变每个变量的共通性,但却会改变因素的变异数贡献。需要根据研究者的设计方案或有关的经验或知识事先确定。用新生成的因子对生育率进行分析。相关系数矩阵描述了原始
23、变量之间的相关关系。因子个数的确定可以根据因子方差的大小。Variance explained by each factor考虑到后面的特征根均非常小,故略去后面的pm项的贡献。X5:人均生物量(吨/人)2、变量共同度的统计意义而有非零特征根对应得特征向量分别为 百米跑成绩 跳远成绩 铅球成绩 跳高成绩 400米跑成绩 百米跨栏 铁饼成绩 撑杆跳远成绩 标枪成绩 1500米跑成绩 1X2X3X4X5X6X7X8X9X10X奥运会十项全能运动项目奥运会十项全能运动项目得分数据的因子分析得分数据的因子分析 46102.017.002.001.039.018.008.009.007.0124.034
24、.018.013.017.044.021.011.0124.033.023.039.024.036.020.0132.017.027.073.031.028.0134.046.036.052.040.0129.019.049.063.0138.051.034.0142.035.0159.0147变量共同度0.6910.217-0.58-0.2060.840.7890.184-0.1930.0920.70.7020.5350.047-0.1750.80.6740.1340.1390.3960.650.620.551-0.084-0.4190.870.6870.042-0.1610.3450.62
25、0.621-0.5210.109-0.2340.720.5380.0870.4110.440.660.434-0.4390.372-0.2350.570.1470.5960.658-0.2790.891F2F3F4F1X2X3X4X5X6X7X8X9X10X 因子载荷矩阵可以看出,除第一因子在所有的变量在公共因子上有较大的正载荷,可以称为一般运动因子。其他的3个因子不太容易解释。似乎是跑和投掷的能力对比,似乎是长跑耐力和短跑速度的对比。于是考虑旋转因子,得下表 48变量共同度0.844*0.1360.156-0.1130.840.631*0.1940.515*-0.0060.70.2430.8
展开阅读全文