统计学典型相关分析课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《统计学典型相关分析课件.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 统计学 典型 相关 分析 课件
- 资源描述:
-
1、统计学从数据到结论第十三章 典型相关分析13.1两组变量的相关问题两组变量的相关问题 n我们知道如何衡量两个变量之间是我们知道如何衡量两个变量之间是否相关的问题;这是一个简单的公否相关的问题;这是一个简单的公式就可以解决的问题式就可以解决的问题(Pearson相关相关系数、系数、 Kendalls t t、 Spearman 秩相关系数秩相关系数)。公式。公式n如果我们有两组变量,如何能够表如果我们有两组变量,如何能够表明它们之间的关系呢?明它们之间的关系呢? 寻找代表寻找代表 n如直接对这六个变量的相关进行两两分如直接对这六个变量的相关进行两两分析,很难得到关于这两组变量之间关系析,很难得到
2、关于这两组变量之间关系的一个清楚的印象。的一个清楚的印象。n希望能够把多个变量与多个变量之间的希望能够把多个变量与多个变量之间的相关化为相关化为两个两个变量之间的相关。变量之间的相关。n现在的问题是为每一组变量现在的问题是为每一组变量选取一个综选取一个综合变量作为代表;合变量作为代表;n而一组变量最简单的综合形式就是该组而一组变量最简单的综合形式就是该组变量的变量的线性组合线性组合。13.2 典型相关分析典型相关分析n由于一组变量可以有无数种线性组合由于一组变量可以有无数种线性组合(线性组合由相应的系数确定),因此(线性组合由相应的系数确定),因此必须找到必须找到既有意义又可以确定的线性组既有
3、意义又可以确定的线性组合。合。n典型相关分析典型相关分析(canonical correlation analysis)就是要找到这两组变量线性组就是要找到这两组变量线性组合的系数使得这两个由线性组合生成的合的系数使得这两个由线性组合生成的变量(和其他线性组合相比)之间的变量(和其他线性组合相比)之间的相相关系数最大。关系数最大。 典型变量典型变量n假定两组变量为假定两组变量为X1,X2,Xp和和Y1,Y2,Yq,那么,那么,问题就在于要寻找系数问题就在于要寻找系数a1,a2,ap和和b1,b2,bq,和 使 得 新 的 综 合 变 量 ( 亦 称 为 典 型 变 量和 使 得 新 的 综 合
4、 变 量 ( 亦 称 为 典 型 变 量(canonical variable))11221 122ppqqVa Xa Xa XWbYb Yb Y 之间的相关关系最大。这种相关关系是用典之间的相关关系最大。这种相关关系是用典型相关系数(型相关系数(canonical correlation coefficient)来衡量的。来衡量的。 典型相关系数典型相关系数 n这里所涉及的主要的数学工具还是这里所涉及的主要的数学工具还是矩阵的特征值和特征向量问题。而矩阵的特征值和特征向量问题。而所得的特征值与所得的特征值与V和和W的典型相关系的典型相关系数有直接联系。数有直接联系。n由于特征值问题的特点,实
5、际上找由于特征值问题的特点,实际上找到的是多组典型变量到的是多组典型变量(V1, W1), (V2, W2),,其中,其中V1和和W1最相关,而最相关,而V2和和W2次之等等,次之等等,典型相关系数典型相关系数 n而且而且V1, V2, V3,之间及而且之间及而且W1, W2, W3,之间互不相关。这样又出现了选之间互不相关。这样又出现了选择多少组典型变量择多少组典型变量(V, W)的问题了。实的问题了。实际上,只要选择特征值累积总贡献占主际上,只要选择特征值累积总贡献占主要部分的那些即可。要部分的那些即可。n软件还会输出一些检验结果;于是只要软件还会输出一些检验结果;于是只要选择显著的那些选
6、择显著的那些(V, W)。n对实际问题,还要看选取的对实际问题,还要看选取的(V, W)是否是否有意义,是否能够说明问题才行。至于有意义,是否能够说明问题才行。至于得到得到(V, W)的计算,则很简单,下面就的计算,则很简单,下面就tv.txt数据进行分析。数学原理?数据进行分析。数学原理?计算结果计算结果 n第一个表为判断这两组变量相关性的若干检验,第一个表为判断这两组变量相关性的若干检验,包括包括Pillai迹检验,迹检验,Hotelling-Lawley迹检验,迹检验,Wilks l l检验和检验和Roy的最大根检验;它们都是有的最大根检验;它们都是有两个自由度的两个自由度的F检验。该表
7、给出了每个检验的检验。该表给出了每个检验的F值,两个自由度和值,两个自由度和p值(均为值(均为0.000)。)。计算结果计算结果 n下面一个表给出了特征根下面一个表给出了特征根(Eigenvalue),特征根所占的,特征根所占的百分比百分比(Pct)和累积百分比和累积百分比(Cum. Pct)和典型相关系数和典型相关系数(Canon Cor)及其平方及其平方(Sq. Cor)。看来,头两对典型变。看来,头两对典型变量量(V, W)的累积特征根已经占了总量的的累积特征根已经占了总量的99.427%。它们。它们的典型相关系数也都在的典型相关系数也都在0.95之上。之上。 计算结果计算结果 n对于众
8、多的计算机输出挑出一些来介绍。下面表格对于众多的计算机输出挑出一些来介绍。下面表格给出的是第一组变量相应于上面三个特征根的三个给出的是第一组变量相应于上面三个特征根的三个典 型 变 量典 型 变 量 V1、 V2和和 V3的 系 数 , 即 典 型 系 数的 系 数 , 即 典 型 系 数(canonical coefficient)。注意,。注意,SPSS把第一组变把第一组变量称为因变量量称为因变量(dependent variables),而把第二组,而把第二组称为协变量称为协变量(covariates);显然,这两组变量是完;显然,这两组变量是完全对称的。这种命名仅仅是为了叙述方便。全对
9、称的。这种命名仅仅是为了叙述方便。n这些系数以两种方式给出;一种是没有标准化的原这些系数以两种方式给出;一种是没有标准化的原始变量的线性组合的典型系数始变量的线性组合的典型系数(raw canonical coefficient),一种是,一种是标准化标准化之后的典型系数之后的典型系数(standardized canonical coefficient)。标准化的。标准化的典型系数直观上对典型变量的构成给人以更加清楚典型系数直观上对典型变量的构成给人以更加清楚的印象。的印象。可以看出,头一个典型变量可以看出,头一个典型变量V1相应于前相应于前面第一个(也是最重要的)特征值,主面第一个(也是最
10、重要的)特征值,主要代表高学历变量要代表高学历变量hed;而相应于前面;而相应于前面第二个(次要的)特征值的第二个典型第二个(次要的)特征值的第二个典型变量变量V2主要代表低学历变量主要代表低学历变量led和部分的和部分的网民变量网民变量net,但高学历变量在这里起负,但高学历变量在这里起负面作用。面作用。 计算结果计算结果 n类似地,也可以得到被称为协变量类似地,也可以得到被称为协变量(covariate)的的标准化的第二组变量的相应于头三个特征值得三标准化的第二组变量的相应于头三个特征值得三个典型变量个典型变量W1、W2和和W2的系数:的系数: 。例子结论例子结论 n从这两个表中可以看出,
11、从这两个表中可以看出,V1主要和变量主要和变量hed相关,相关,而而V2主要和主要和led及及net相关;相关;W1主要和变量主要和变量arti及及man相关,相关,而而W2主要和主要和com相关;这和它们的相关;这和它们的典型系数是一致的。典型系数是一致的。n由于由于V1和和W1最相关,这说明最相关,这说明V1所代表的高学历所代表的高学历观众和观众和W1所主要代表的艺术家所主要代表的艺术家(arti)及各部门经及各部门经理理(man)观点相关;而由于观点相关;而由于V2和和W2也相关,这说也相关,这说明明V2所代表的低学历所代表的低学历(led)及以年轻人为主的网及以年轻人为主的网民民(ne
12、t)观众和观众和W2所主要代表的看重经济效益的所主要代表的看重经济效益的发行人发行人(com)观点相关,但远远不如观点相关,但远远不如V1和和W1的相的相关那么显著(根据特征值的贡献率)。关那么显著(根据特征值的贡献率)。 SPSS的的实现实现n对例对例tv.sav,首先打开例,首先打开例14.1的的SPSS数据数据tv.sav,n通过通过FileNewSyntax打开一个空白文件(默认打开一个空白文件(默认文件名为文件名为Syntax1.sps),再在其中键入下面命令),再在其中键入下面命令行:行:nMANOVA led hed net WITH arti com mann/DISCRIM
13、ALL ALPHA(1) n/PRINT=SIG(EIGEN DIM).n再点击一个向右的三角形图标再点击一个向右的三角形图标(运行目前程序,运行目前程序,Run current),就可以得到所需结果了。,就可以得到所需结果了。n还可以把还可以把Syntax1.sps另以其他名字(比如另以其他名字(比如tv.sps)存入一个文件夹。下次使用时就可以通过存入一个文件夹。下次使用时就可以通过FileOpenSyntax来打开这个文件了。来打开这个文件了。SPSS的的实现实现n注意注意1:典型相关分析是本书内容中唯:典型相关分析是本书内容中唯一不能用一不能用SPSS的点击鼠标的的点击鼠标的“傻瓜傻瓜
14、”方式,而必须用写入程序行来运行的模方式,而必须用写入程序行来运行的模型。读者不必要再去研究语法的细节,型。读者不必要再去研究语法的细节,只要能够举一反三,套用这个例子的程只要能够举一反三,套用这个例子的程序即可。序即可。n当然,如果读者愿意学习当然,如果读者愿意学习SPSS的语法,的语法,则在处理数据时,肯定会更方便。则在处理数据时,肯定会更方便。SPSS的的实现实现n注意注意2:一些:一些SPSS的输出很长,这时输出窗的输出很长,这时输出窗口截去了一些内容没有显示(这有些随意口截去了一些内容没有显示(这有些随意性)。这时输出窗口性)。这时输出窗口(SPSS Viewer)中结果的中结果的左
15、下角有一个红色的三角型。左下角有一个红色的三角型。n如果想要看全部内容,可以先点击鼠标左键,如果想要看全部内容,可以先点击鼠标左键,选中输出结果,然后从点右键得到的菜单中选中输出结果,然后从点右键得到的菜单中选择选择Export,就可以把全部结果(包括截去,就可以把全部结果(包括截去的部分)存入一个的部分)存入一个htm形式的文件了供研究和形式的文件了供研究和打印之用。打印之用。附录附录 两个变量时两个变量时,用线性相关系数用线性相关系数研究两研究两个变量之间的线性相关性个变量之间的线性相关性:22(, )(, )()( )()()()()iiixyiiiiCov X YCorr X YVar
16、 X Var Yxxyyrxxyy返回返回典型相关分析典型相关分析n目的目的:研究多个变量之间的相关性研究多个变量之间的相关性n方法方法:利用主成分思想利用主成分思想,可以把多个可以把多个变量与多个变量之间的相关化为两变量与多个变量之间的相关化为两个变量之间的相关个变量之间的相关. 即找一组系数即找一组系数(向量向量)l和和m, 使新变量使新变量U=lX(1)和和V=mX(2)有最大可能的相关关系有最大可能的相关关系.数学数学: 设两组随机变量设两组随机变量而而(1)(2)XXX1112(1)(2)111212(,.,),(,.,),ppppXXXXXXppp pp的协方差阵的协方差阵S S0
17、,均值向量均值向量m m=0, S S的剖分为的剖分为:11122122SSS SS对于前面的新变量对于前面的新变量U=lX(1)和和V=mX(2)Var(U)=Var(lX(1) )=lS S11lVar(V)=Var(mX(2) )=mS S22mCov(U,V)=lS S12m, r rUV=lS S12m/(lS S11l)(mS S22m) 我们试图在约束条件我们试图在约束条件Var(U)=1, Var(V)=1下寻求下寻求l和和m使使r rUV= Cov(U,V)=lS S12m达到最大达到最大.这是这是Lagrange乘数法求下面乘数法求下面f f的极大值的极大值经过求偏导数和解
18、方程经过求偏导数和解方程, , 得到得到lnln=lS S12m=Cov(U,V), 及及2211111112222122211112,(,)All BmmABll S S S S S S S S121122( 1)(1)22lmllmmlnfSSS因此因此l l2 2既是既是A又是又是B的特征值的特征值, 而相应的特征而相应的特征向量为向量为l,m可得到可得到p1对线性组合对线性组合Ui=l(i)X(1), Vi=m(i)X(2),称称每一对变量为每一对变量为典型变量典型变量. 其极大值其极大值称为称为第一典型相关系数第一典型相关系数. 一般只取前几个影响一般只取前几个影响大的典型变量和典型
19、相关系数来分析大的典型变量和典型相关系数来分析.111()()222(1)(1)120;,;,pppllmmlllA和和B的特征根有如下性质的特征根有如下性质: (1)A和和B有相同有相同的非零特征根的非零特征根, (2)其数目为其数目为p1. A和和B的特征的特征根非负根非负. (3) A和和B的特征根均在的特征根均在0和和1之间之间. 我们表示这些称为我们表示这些称为典型相关系数典型相关系数的非零特的非零特征值和相应的特征向量为征值和相应的特征向量为1 11U Vrl典型变量的性质典型变量的性质: (1)X(1)和和X(2)中的一切典型变量都不相关中的一切典型变量都不相关. (2) X(1
20、)和和X(2)的同一对典型变量的同一对典型变量Ui和和Vi之间的之间的相关系数为相关系数为l li, 不同对的不同对的Ui和和Vj(ij)之间不之间不相关相关. 样本情况样本情况, 只要把只要把S S用样本协差阵或样本相关阵用样本协差阵或样本相关阵R代替代替.下面回到我们的例子。下面回到我们的例子。典型相关系数的显著性检验典型相关系数的显著性检验: 首先看首先看X(1)和和X(2)是否相关是否相关,如不相关如不相关, 就不必讨论就不必讨论.如果如果12(1)(2)(1)(2)012(,)( , ).:(,)0ppXXXNHCov XXmS S这是为检验第这是为检验第1个典型相关系数的显著性个典
展开阅读全文