1、STATA 从入门到精通第第13章章 主成分分析和因子分析主成分分析和因子分析Page 2STATA从入门到精通从入门到精通13.1 主成分分析主成分分析n1 13.1.1 3.1.1 主成分分析的主成分分析的基本原理基本原理n13.1.2 13.1.2 主成分分析的主成分分析的数学模型数学模型n13.1.3 13.1.3 主成分分析的步骤主成分分析的步骤n13.1.4 13.1.4 主成分分析的主成分分析的StataStata命令命令Page 3STATA从入门到精通从入门到精通n主成分的概念由主成分的概念由Karl PearsonKarl Pearson在在19011901年提出年提出n考
2、察多个变量间相关性一种多元统计方法考察多个变量间相关性一种多元统计方法n研究如何通过少数几个主成分研究如何通过少数几个主成分(principal component)(principal component)来来解释多个变量间的内部结构。即从原始变量中导出少数解释多个变量间的内部结构。即从原始变量中导出少数几个主分量，使它们尽可能多地保留原始变量的信息，几个主分量，使它们尽可能多地保留原始变量的信息，且彼此间互不相关且彼此间互不相关n主成分分析的目的：数据的压缩；数据的解释主成分分析的目的：数据的压缩；数据的解释l常被用来寻找判断事物或现象的综合指标，并对综常被用来寻找判断事物或现象的综合指标
3、，并对综合指标所包含的信息进行适当的解释合指标所包含的信息进行适当的解释什么是主成分分析？什么是主成分分析？(principal component analysis)Page 4STATA从入门到精通从入门到精通n对这两个相关变量所携带的信息对这两个相关变量所携带的信息( (在统计上信息往往是指在统计上信息往往是指数据的变异数据的变异) )进行浓缩处理进行浓缩处理n假定只有两个变量假定只有两个变量x x1 1和和x x2 2，从散点图可见两个变量存在相，从散点图可见两个变量存在相关关系，这意味着两个变量提供的信息有重叠关关系，这意味着两个变量提供的信息有重叠主成分分析的基本思想主成分分析的基
4、本思想 (以两个变量为例以两个变量为例)n如果把两个变量用一如果把两个变量用一个变量来表示，同时个变量来表示，同时这一个新的变量又尽这一个新的变量又尽可能包含原来的两个可能包含原来的两个变量的信息，这就是变量的信息，这就是降维的过程降维的过程Page 5STATA从入门到精通从入门到精通n数学上的处理是将原始的数学上的处理是将原始的p p个变量作线性组合，作为新的个变量作线性组合，作为新的变量变量n设设p p个原始变量为个原始变量为 ，新的变量，新的变量( (即主成分即主成分) )为为 ，主成分和原始变量之间的关系表示为，主成分和原始变量之间的关系表示为主成分分析的数学模型主成分分析的数学模型
5、ppppppppppxaxaxayxaxaxayxaxaxay22112222121212121111主成分分析的数学模型主成分分析的数学模型aij为第为第i个主成分个主成分yi和原和原来的第来的第j个变量个变量xj之间的之间的线性相关系数，称为载线性相关系数，称为载荷荷(loading)。比如，。比如，a11表示第表示第1主成分和原来的主成分和原来的第第1个变量之间的相关系个变量之间的相关系数，数，a21表示第表示第2主成分主成分和原来的第和原来的第1个变量之间个变量之间的相关系数的相关系数Page 6STATA从入门到精通从入门到精通n对原来的对原来的p p个指标进行标准化，以消除变量在水
6、平和量纲个指标进行标准化，以消除变量在水平和量纲上的影响上的影响n根据标准化后的数据矩阵求出相关系数矩阵根据标准化后的数据矩阵求出相关系数矩阵n求出协方差矩阵的特征根和特征向量求出协方差矩阵的特征根和特征向量n确定主成分，并对各主成分所包含的信息给予适当的解确定主成分，并对各主成分所包含的信息给予适当的解释释主成分分析的步骤主成分分析的步骤Page 7STATA从入门到精通从入门到精通Stata命令命令n pca、pcamatn estatn screeplotn scoreplot、loadingplotn rotaten predictPage 8STATA从入门到精通从入门到精通【例例】
7、根据根据20082008年一季度沪深两市农业板上市公司年一季度沪深两市农业板上市公司的的9 9项主要指标项主要指标数据，数据，进行主成分分析，找出主成分并进行适当的进行主成分分析，找出主成分并进行适当的解释解释主成分分析主成分分析 (实例分析实例分析)基本情况基本情况公司成长性指标公司成长性指标公司盈利能力性指标公司盈利能力性指标公司股本扩张能力指标公司股本扩张能力指标公司名称ROA主营收入增长率净利润增长率主营业务利润率ROEEPS每股净资产每股公积金总资产增长率禾嘉股份0.0630.2320.8220.2580.0090.011.110.050亚盛集团-0.0080.1610.7090.1
8、430.0060.0061.1440.0060.047冠农股份0.4380.7550.2840.1070.0030.0041.6210.4210.096St中农-0.02-0.4210.9830.209001.5650.757-0.206敦煌种业0.112-0.1587.1440.3670.0250.0773.0961.988-0.057新农开发0.2770.041-2.3760.251-0.005-0.0163.461.860.392香梨股份0.107-0.0542.101-0.1480.0120.032.511.516-0.234新赛股份0.820.1940.0580.1130.020.1
9、013.832.2850.392Page 9STATA从入门到精通从入门到精通Stata的输出结果的输出结果estat smc 变量之间的存在较强的相关关系，适合作主成分分析变量之间的存在较强的相关关系，适合作主成分分析 Page 10STATA从入门到精通从入门到精通Stata的输出结果的输出结果(选择主成分选择主成分)该表是选则主成分的主要依据该表是选则主成分的主要依据Page 11STATA从入门到精通从入门到精通n“Initial Initial EigenvaluesEigenvalues”( (初始特征根初始特征根) ) l实际上就是本例中实际上就是本例中的的9 9个个主轴的长度主
10、轴的长度l特征根反映了主成分对原始变量的影响程度，表示特征根反映了主成分对原始变量的影响程度，表示引入该主成分后可以解释原始变量的信息引入该主成分后可以解释原始变量的信息l特征根又叫特征根又叫方差方差，某个特征根占总特征根的比例称，某个特征根占总特征根的比例称为主成分方差贡献率为主成分方差贡献率l设特征根为设特征根为 ，则第，则第i i个主成分的方差贡献率为个主成分的方差贡献率为l比如，第一个主成分的特征根为比如，第一个主成分的特征根为3.543543.54354，占总特征占总特征根的的比例根的的比例( (方差贡献率方差贡献率) )为为39.37%39.37%，这表示第一个，这表示第一个主成分
11、解释了主成分解释了原始原始9 9个变量个变量39.37%39.37%的信息，可见第一的信息，可见第一个主成分对原来个主成分对原来的的9 9个个变量解释变量解释的还不是很充分的还不是很充分根据什么选择主成分？根据什么选择主成分？Page 12STATA从入门到精通从入门到精通n根据主成分贡献率根据主成分贡献率l一般来说，主成分的累计方差贡献率达到一般来说，主成分的累计方差贡献率达到80%80%以上的以上的前几个主成分，都可以选作最后的主成分前几个主成分，都可以选作最后的主成分l比如比如表中前表中前3 3个个主成分的累计方差贡献率主成分的累计方差贡献率为为78.13%78.13%n根据特特征根的大
12、小根据特特征根的大小l一般情况下，当特征根小于一般情况下，当特征根小于1 1时，就不再选作主成分时，就不再选作主成分了，因为该主成分的解释力度还不如直接用原始变了，因为该主成分的解释力度还不如直接用原始变量解的释力度大量解的释力度大l比如比如表中表中除除前前3 3个个外，其他主成分的特征根都小于外，其他主成分的特征根都小于1 1。所以只所以只选择选择了了3 3个主成分个主成分根据什么选择主成分？根据什么选择主成分？Page 13STATA从入门到精通从入门到精通nStataStata还还提供了一个更为提供了一个更为直观的图形工具来帮助选直观的图形工具来帮助选择 主 成 分 ， 即 碎 石 图择
13、 主 成 分 ， 即 碎 石 图( (ScreeScree Plot) Plot)n从碎石图可以从碎石图可以看到看到9 9个个主主轴长度变化的趋势轴长度变化的趋势n实践中，通常结合具体情实践中，通常结合具体情况，选择碎石图中变化趋况，选择碎石图中变化趋势出现拐点的前几个主成势出现拐点的前几个主成分作为原先变量的代表，分作为原先变量的代表，该例中选择该例中选择前前3 3个个主成分主成分即可即可根据什么选择主成分？根据什么选择主成分？ (Scree Plot)Page 14STATA从入门到精通从入门到精通怎样解释主成分？怎样解释主成分？主成分的因子载荷矩阵主成分的因子载荷矩阵 l表表1中的每一列
14、表示一个主成分作为原来变量线性组中的每一列表示一个主成分作为原来变量线性组合的系数，也就是主成分分析模型中的系数合的系数，也就是主成分分析模型中的系数aijl比如，第一主成分所在列的系数比如，第一主成分所在列的系数-0.0364表示第表示第1个个主成分和原来的第一个变量主成分和原来的第一个变量(ROA)之间的线性相关之间的线性相关系数。这个系数越大，说明主成分对该变量的代表系数。这个系数越大，说明主成分对该变量的代表性就越大性就越大Page 15STATA从入门到精通从入门到精通n 载荷图(Loading Plot)直观显示主成分对原始9变量的解释情况n 图中横轴表示第一个主成分与原始变量间的
15、相关系数；纵轴表示第二个主成分与原始变量之间的相关系数n 每一个变量对应的主成分载荷就对应坐标系中的一个点n 第一个主成分很充分地解释了原始的后4个变量(与每个原始变量都有较强的正相关关系)，第二个主成分则较好地var2,var3,var5,var6这2个变量(与它们的相关关系较高)，而与其他变量的关系则较弱(相关系数的点靠近坐标轴)怎样解释主成分？怎样解释主成分？ (Loading Plot)Page 16STATA从入门到精通从入门到精通13.2 因子分析因子分析n1 13.2.1 3.2.1 因子分析的基本原理因子分析的基本原理n13.2.2 13.2.2 因子因子分析分析的的数学模型数
16、学模型n13.2.3 13.2.3 因子分析的步骤因子分析的步骤n13.2.4 13.2.4 因子分析的因子分析的StataStata命令命令Page 17STATA从入门到精通从入门到精通n因子分析可以看作是主成分分析的推广和扩展，但它对问题的研究更深入、更细致一些。实际上，主成分分析可以看作是因子分析的一个特例n简言之，因子分析是通过对变量之间关系的研究，找出能综合原始变量的少数几个因子，使得少数因子能够反映原始变量的绝大部分信息，然后根据相关性的大小将原始变量分组，使得组内的变量之间相关性较高，而不同组的变量之间相关性较低。因此，因子分析属于多元统计中处理降维的一种统计方法，其目的就是要
17、减少变量的个数，用少数因子代表多个原始变量什么是因子分析？什么是因子分析？ (factor analysis)Page 18STATA从入门到精通从入门到精通n原始的原始的p个变量表达为个变量表达为k个因子的线性组合变量个因子的线性组合变量n设设p个原始变量为个原始变量为 ，要寻找的，要寻找的k个因子个因子(kp)为为 ，主成分和原始变量之间的关系表示为，主成分和原始变量之间的关系表示为因子分析的数学模型因子分析的数学模型因子分析的数学模型因子分析的数学模型系数系数aij为第个为第个i变量与第变量与第k个个因子之间的线性相关系数，因子之间的线性相关系数，反映变量与因子之间的相反映变量与因子之间
18、的相关 程 度 ， 也 称 为 载 荷关 程 度 ， 也 称 为 载 荷(loading)。由于因子出现。由于因子出现在每个原始变量与因子的在每个原始变量与因子的线性组合中，因此也称为线性组合中，因此也称为公因子。公因子。 为特殊因子，代为特殊因子，代表公因子以外的因素影响表公因子以外的因素影响pkpkpppkkkkfafafaxfafafaxfafafax2211222221212112121111Page 19STATA从入门到精通从入门到精通n共同度量共同度量(Communality)(Communality)n因子因子的方差贡献率的方差贡献率 因子分析的数学模型因子分析的数学模型(共同
19、度量共同度量Communality和公因子的方差贡献率和公因子的方差贡献率 )21(122kjahpiiji， )21(122piagkjijj， 变量变量xi的信息能够被的信息能够被k个个公因子解释的程度，用公因子解释的程度，用 k个公因子对第个公因子对第i个变量个变量xi的方差贡献率表示的方差贡献率表示第第j个公因子对变量个公因子对变量xi的的提供的方差总和，反映提供的方差总和，反映第第j个公因子的相对重要个公因子的相对重要程度程度Page 20STATA从入门到精通从入门到精通Stata命令命令n factorn estatn screeplotn scoreplot、loadingplotn rotaten predict21本章结束，谢谢观看！本章结束，谢谢观看！
