计量经济第六章多重共线性课件.ppt

1、Multi-CollinearityMulti-Collinearity 第第 六六 章章 多多 重重 共共 线线 性性 什么是什么是多重共线性多重共线性 多重共线性产生的多重共线性产生的原因原因、后果后果 多重共线性的多重共线性的检验检验 多重共线性的多重共线性的修正修正案例分析案例分析 本章讨论本章讨论第六章第六章 多重共线性多重共线性第一节第一节 什么是多重共线性什么是多重共线性一一.多重共线性的概念多重共线性的概念 多重共线性：在多元线性回归模型中，解解释变量之间存在着完全的线性关系或释变量之间存在着完全的线性关系或近似近似的线性关系的线性关系 eg01122iiiiYXXu12132

2、+0iiXX12132+0iiiXXv完全多重共线性完全多重共线性不完全不完全多重共线性多重共线性 P105P105【经典实例经典实例】能源消费量与能源消费量与收入、消费支出的例子收入、消费支出的例子 可支配收入与可支配收入与消费支出消费支出之间有明显之间有明显的共线性关系，他们的相关系数高的共线性关系，他们的相关系数高达达0.9998.0.9998.P108P108【经典实例经典实例】消费支出与消费支出与收入、家庭财富的例子收入、家庭财富的例子可支配收入与可支配收入与家庭财富家庭财富之间有明之间有明显的共线性关系，他们的相关系显的共线性关系，他们的相关系数高达数高达0.9990.0.9990

3、.不存在多重共线性只说明解不存在多重共线性只说明解释变量之间没有线性关系释变量之间没有线性关系,而不而不排除他们之间存在某种非线性排除他们之间存在某种非线性关系关系 up 二、多重共线性的原因二、多重共线性的原因1 1、经济变量的共同变化趋势、经济变量的共同变化趋势 许多变量在随时间的变化过程中往往许多变量在随时间的变化过程中往往存在共同的变动趋势。例如在经济繁存在共同的变动趋势。例如在经济繁荣时期，收入、消费、储蓄、投资、荣时期，收入、消费、储蓄、投资、就业都趋向于增长；在经济衰退时期，就业都趋向于增长；在经济衰退时期，都趋向于下降。都趋向于下降。2 2、数据采集的范围有限，或采集、数据采集

4、的范围有限，或采集的样本量小于模型的自变量个数。的样本量小于模型的自变量个数。如在罕见疾病的研究过程中，由于病如在罕见疾病的研究过程中，由于病情罕见、病因又相当复杂，而只能在情罕见、病因又相当复杂，而只能在少数的患者身上采集大量的变量信息。少数的患者身上采集大量的变量信息。3 3、模型中采用滞后变量、模型中采用滞后变量 在计量经济模型中，往往需要引入在计量经济模型中，往往需要引入滞后变量来反映真实的经济关系。滞后变量来反映真实的经济关系。例如例如，消费消费=f(=f(当期收入当期收入,前期收入）前期收入）显然，两期收入间有较强的线性相显然，两期收入间有较强的线性相关性。关性。4 4、用截面数据

5、建立模型也可能出现、用截面数据建立模型也可能出现多重共线性多重共线性 例如建立一个服装需求模型，模型以例如建立一个服装需求模型，模型以消费者收入与服装价格为解释变量。消费者收入与服装价格为解释变量。收入较高的消费者购买的服装价格也收入较高的消费者购买的服装价格也相对较高；反之亦然。说明消费者收相对较高；反之亦然。说明消费者收入与服装价格之间存在较强的线性相入与服装价格之间存在较强的线性相关性，模型存在多重共线性问题。关性，模型存在多重共线性问题。一般来讲，多重共线性难以避一般来讲，多重共线性难以避免，所以我们关心的不是多重免，所以我们关心的不是多重共线性的有无，而是多重共线共线性的有无，而是多

6、重共线性的程度。性的程度。up（1 1）参数估计值不确定参数估计值不确定三、三、多重共线性产生的后果多重共线性产生的后果1、完全多重共线性下的后果、完全多重共线性下的后果例：以例：以二元线性回归模型为例二元线性回归模型为例0112201221212()YXXXXX和无法估计出来如两个解释变量完全相关:例如设，2 2、参数估计值的方差无限大、参数估计值的方差无限大22212221212()()xVarxxx x 即：即：22212112221111()()()()0 xxVarxxxx 2()Var 同理易得12xx由第三章可知回归系数由第三章可知回归系数 的方差为：的方差为：1 EVIEWS遇

7、到完全多重共线性时，会显示 Near singular matrix，无法进行估计（1）估计量的方差增大估计量的方差增大2221121(1)x由于由于22323121xxrVar、的线性相关性越高，越接近，（）会增大。对有同样的结论。1/1/（1-r1-r2 2)称为方差膨胀因子称为方差膨胀因子(Variance(Variance Inflating Factor)Inflating Factor)，记成，记成VIFVIF。方差膨胀因子方差膨胀因子 2 2、不完全多重共线性下的后果、不完全多重共线性下的后果22212221212()()xVarxxx x （2 2）难以区分每个解释变量的单）难

8、以区分每个解释变量的单独影响独影响（3 3）当多重共线性严重时，变量）当多重共线性严重时，变量的显著性检验可能失去意义的显著性检验可能失去意义 P108【相关链接相关链接】P111【经典实例经典实例】up习题习题up 第第二二节节 多重共线性的检验多重共线性的检验up一一、相关系数检验法、相关系数检验法二二、综合判断法、综合判断法三三、方差膨胀因子法方差膨胀因子法一、相关系数检验法一、相关系数检验法 含义含义：相关系数检验法是利用解释变量之：相关系数检验法是利用解释变量之间的线性相关程度去判断是否存在严重多间的线性相关程度去判断是否存在严重多重共线性的一种简便方法。重共线性的一种简便方法。判断

9、规则判断规则：一般而言，如果每两个解释变：一般而言，如果每两个解释变量的简单相关系数量的简单相关系数(零阶相关系数零阶相关系数)比较高，比较高，例如大于例如大于0.80.8，则可认为存在着较严重的多，则可认为存在着较严重的多重共线性。重共线性。例如（经典实例1）X1 X1 X2 X2 X1X1 1 1 0.9998 0.9998 X2X2 0.9998 0.9998 1 1 说明说明 X1X1、X2X2近似完全线性关系。可以判定近似完全线性关系。可以判定模型存在严重的多重共线性模型存在严重的多重共线性例如例如（经典实例（经典实例P111P111）说明说明 X1X1和和X2X2、X3 X3和和X

10、4X4近似完全线性关系。近似完全线性关系。可以判定模型存在严重的多重共线性可以判定模型存在严重的多重共线性 注意：注意：较高的简单相关系数只是多重共线性存在的较高的简单相关系数只是多重共线性存在的充分条件充分条件，而不是必要条件。特别是在多于，而不是必要条件。特别是在多于两个解释变量的回归模型中，有时较低的相两个解释变量的回归模型中，有时较低的相关系数也可能存在多重共线性。因此并不能关系数也可能存在多重共线性。因此并不能简单地依据相关系数进行多重共线性的准确简单地依据相关系数进行多重共线性的准确判断。判断。212123112233222121323123,12 24925 4825123 24

11、160.7825,0.3193,0.7825,iiiiiiXXXXXXXXXXXXrrrXXX设：各有三个样本值。，；2，；，；则可以发现，它们两两相关系数不大，但是严格共线性。所以，用简单相关系数判断系数是否存在多重共线性，适用于两个解释变量的情况。up二二、综合判断法、综合判断法22(RRFt或）大，值大；值小，说明模型存在多重共线性2295%0.95RFRYtYt这是因为：和 值大，表明总离差中（假定）是由回归解释的，各解释变量对 的联合线性作用显著。在此前提下，若各个 值很小，说明各解释变量之间存在共线性，对 的独立作用不能分辨，故 检验不显著。另外判断参数估计值的符号，如果不符合另外

12、判断参数估计值的符号，如果不符合经济理论或实际情况，可能存在多重共线性。经济理论或实际情况，可能存在多重共线性。P111 P111 【经典实例经典实例】根据图根据图6-2-1的回归结果可知，模型回归的回归结果可知，模型回归的可决系数为的可决系数为 ，总体的，总体的F检检验显著，说明模型总体的拟合效果很好。验显著，说明模型总体的拟合效果很好。但是模型四个自变量的但是模型四个自变量的 t统计量均不显统计量均不显著著,且且X1经济含义不符合，该结果表明模经济含义不符合，该结果表明模型可能存在较严重的多重共线性问题。型可能存在较严重的多重共线性问题。20.99370.8R up三、方差膨胀因子法 自变

13、量间的共线性程度越大时自变量间的共线性程度越大时,VIF值也随之值也随之增大。所以也可利用方差膨胀因子来检验增大。所以也可利用方差膨胀因子来检验多重共线性问题。多重共线性问题。一般来说，当一般来说，当VIF 10时，表明时，表明 涉及的两个涉及的两个变量存在高度线性相关，模型存在不完全变量存在高度线性相关，模型存在不完全多重共线性。多重共线性。计算得到的方差膨胀因子值分别为计算得到的方差膨胀因子值分别为 可以看出，除了可以看出，除了 ，其余的方，其余的方差膨胀因子值均大于差膨胀因子值均大于10,表明模型中表明模型中存在较严重的多重共线性问题。存在较严重的多重共线性问题。P111 P111 【经

14、典实例经典实例】1234=10000,=10000,=9.6525,=11.5875VIFVIFVIFVIF310VIF up第第三三节节 多重共线性的多重共线性的修正修正一一、改变模型的形式改变模型的形式二二、删除自变量、删除自变量三三、减少参数估计量的方差、减少参数估计量的方差四四、其它方法、其它方法习题习题up 一、改变模型的形式一、改变模型的形式（一）变换模型的函数形式（一）变换模型的函数形式 例如将线性回归模型转化为对数模例如将线性回归模型转化为对数模型或者多项式模型。型或者多项式模型。（二）改变模型的自变量的形式（二）改变模型的自变量的形式 1.1.相对数变量相对数变量横截面数据横

15、截面数据 2.2.差分变量差分变量时间序列数据时间序列数据up（一）删除不重要的自变量（一）删除不重要的自变量 直接删除模型中对因变量没有显著影响或直接删除模型中对因变量没有显著影响或能够被其他自变量所替代的自变量。能够被其他自变量所替代的自变量。需注意的是需注意的是，删除自变量时必须确定该自，删除自变量时必须确定该自变量相对不重要或可被替代。如果自变量变量相对不重要或可被替代。如果自变量删除不当，将会导致模型设定误差问题，删除不当，将会导致模型设定误差问题，从而严重影响模型参数估计结果。从而严重影响模型参数估计结果。二、二、删除自变量删除自变量（二）逐步回归法逐步回归法 首先，首先，用因变量

16、用因变量Y Y对每一个解释变量对每一个解释变量X Xi i分别进分别进行回归，从中确定一个基本回归方程。行回归，从中确定一个基本回归方程。然后，然后，逐一引入其它解释变量，重新再作回归，逐一引入其它解释变量，重新再作回归，逐步扩大模型的规模。逐步扩大模型的规模。引入每个新变量之后，如果 1)1)拟合优度得以改进拟合优度得以改进(提高提高)，而且，而且每个参数统计检验显著，则引入的变量保留每个参数统计检验显著，则引入的变量保留;2)2)拟合优度无明显提高甚至下降，对其他拟合优度无明显提高甚至下降，对其他参数无明显影响，则舍弃该变量参数无明显影响，则舍弃该变量.3 3）拟合优度提高，但方程内其他参

17、数的符）拟合优度提高，但方程内其他参数的符号和数值明显变化，可以肯定产生了严重多号和数值明显变化，可以肯定产生了严重多重共线性。重共线性。2R注意注意:这时对于这时对于3),3),需考察变量间线性相需考察变量间线性相关的形式和程度，经过经济意义的综合权关的形式和程度，经过经济意义的综合权衡，在线性相关程度最高的两个变量中，衡，在线性相关程度最高的两个变量中，略去其中对因变量影响较小，经济意义相略去其中对因变量影响较小，经济意义相对次要的一个，保留影响较大，经济意义对次要的一个，保留影响较大，经济意义相对重要的一个。此时不宜轻率舍去新引相对重要的一个。此时不宜轻率舍去新引入变量，否则会造成模型设

18、定偏误和随机入变量，否则会造成模型设定偏误和随机项与解释变量相关的后果。项与解释变量相关的后果。P118【经典实例经典实例】我国各地区房地产销售价格模型我国各地区房地产销售价格模型 逐步回归法修正多重共线性逐步回归法修正多重共线性up三、减少参数估计量的方差三、减少参数估计量的方差（一）增加样本量（一）增加样本量 减轻多重共线性引起的参数估计量方差变减轻多重共线性引起的参数估计量方差变大的后果。大的后果。（二）岭回归法（二）岭回归法 它是在普通最小二乘法的基础上，牺牲其它是在普通最小二乘法的基础上，牺牲其无偏性，引入偏误，从而降低参数估计量无偏性，引入偏误，从而降低参数估计量的方差，以此来处理

19、多重共线性产生的后的方差，以此来处理多重共线性产生的后果。果。up四、其它方法四、其它方法 先验信息法先验信息法 主成分分析法主成分分析法up习题习题1 1、关于线性回归模型中、关于线性回归模型中F F检验与检验与t t检验的关检验的关系，描述错误的是系，描述错误的是A.A.一元模型中一元模型中F F检验与检验与t t检验是等价的检验是等价的B.B.多元模型中，多元模型中，t t检验全部通过时，检验全部通过时，F F检验检验 一定通过一定通过C.C.多元模型中，至少有一个变量的多元模型中，至少有一个变量的t t检验通检验通 过时，过时，F F检验一定通过检验一定通过D.D.多元模型中，多元模型

20、中，F F检验通过时，检验通过时，t t检验一定检验一定 全部通过全部通过2、在对多元线性计量经济学模型进行经济意、在对多元线性计量经济学模型进行经济意义检验时，发现某些参数估计量的符号是反义检验时，发现某些参数估计量的符号是反号的，违背经济常识，同时，发现解释变量号的，违背经济常识，同时，发现解释变量间相关程度较高，这说明模型很可能存在（间相关程度较高，这说明模型很可能存在（）A.异方差性异方差性 B.多重共线性多重共线性 C.序列相关性序列相关性 D.设定误差设定误差3、下列各项中，不属于解决多重共线性的方、下列各项中，不属于解决多重共线性的方法的是（）法的是（）A.删除不必要的解释变量删

21、除不必要的解释变量 B.增大样本容量增大样本容量 C.加权最小二乘法加权最小二乘法 D.逐步回归法逐步回归法 回答下列问题回答下列问题（1）请根据上表中已由数据，填写表中画）请根据上表中已由数据，填写表中画线处缺失结果（注意给出计算步骤）；线处缺失结果（注意给出计算步骤）；（2）模型是否存在多重共线性？为什么？）模型是否存在多重共线性？为什么？2.房地产价格问题一直是人们关注的焦点，以我国房地产价格问题一直是人们关注的焦点，以我国1995-2009房房地产价格（地产价格（Y）为因变量，城镇居民人均可支配收入（）为因变量，城镇居民人均可支配收入（X2），），物价指数（物价指数（X3），城镇化水平

22、（），城镇化水平（X4，城镇人口，城镇人口/总人口）为解总人口）为解释变量，回归结果如下释变量，回归结果如下：已知，已知，F0.05(3，11)=3.59，F0.05(212)=3.89，t0.025(11)=2.201，t0.025(12)=2.179，t0.025(13)=2.160，请回答下列问题：，请回答下列问题：（1）模型1中是否存在多重共线性？请用两种方法判断。（2）分别做Y对X2、X3、X4进行一元回归，发现X2对Y的影响最大，因此以X2为基础，顺次引入X3，X4，如模型2、模型3所示，请说明这种方法的名称？比较三个回归模型，哪个更合理，为什么？up案例分析案例分析12345下表

23、是天津市1974年-1987年粮食销售量Y（万吨 年）、常住人口数X（万人）、人均收入X（元 年）、肉销售量X（万吨 年）、蛋销售量X（万吨 年）、鱼虾销售量X（万吨 年）的数据资料。天津市粮食需求的数据天津市粮食需求的数据3.4970.1250.0742.6783.4534.49112345(0.1)(2.1)(1.9)(2.1)(1.4)(2.0)220.02520.97,0.95,52.53(8)2.306,0.95YXXXXXteviewsRRFR 利用表中的数据，用进行最小二乘估计得其中括号内的数字是t值。给定显著性水平=0.05，t回归系数估计值都没有显著性。拟合程度较高。0.05

24、FF查分布表，得临界值（5，8）=3.69，故F=52.533.69,回归方程显著。模型可能存在多重共线性。12345121314152324253435450.8760.8820.8520.8210.9460.9650.9830.9410.9480.982X X X X X分别计算的两两相关系数，得，可见解释变量之间是高度相关的。为了处理多重共线性，采用逐步回归法。12345122222322(4.7)(12.2)0.925,0.919,147.619(15.5)(7.6)0.828,0.813,57.564(9.0)(8.7)0.863,0.851,75.369X X X X XXRRFX

25、RRFXRRF1.对Y分别关于作最小二乘回归（1）Y=-90.921+0.317（2）Y=99.614+0.0815（3）Y=74.648+4.89342252213245(18.3)(6.8)0.796,0.779,46.829(18.7)(6.0)0.75,0.73,36.16XRRFXRRFXX X X X（4）Y=108.865+5.740（5）Y=113.375+3.081其中括号内数字是t值。根据回归结果，易知该市常住人口是最重要的解释变量，所以选第一个方程为基本回归方程，再逐步加入313132231321.909(1.6)(4.7)0.946,113.922XYXXXXRFXRX

26、X加入肉销售量，对 关于，做最小二乘回归 Y=-39.795+0.212（2.6）可以看出，加入后，有所增加，参数估计值的符号也正确，并且没有影响系数的显著性，所以在模型中保留。21231232222323320.0091.456(1.3)(4.3)0.942,70.839XYXXXXXXRFXRXXXXXX3加入人均收入，对 关于，做最小二乘回归得：Y=-34.377+0.207（0.5）（1.2）可以看出，加入后，有所减小，参数估计值，系数均不显著，说明存在严重的多重共线性。比较和，肉销售量比人均收入对粮食销售量的影响大，所以在模型中保留，略去。41341342244334341.7460

27、.235(1.4)(4.4)0.940,69.281XYXXXXXXRFXRXXXXXX4加入蛋销售量，对 关于，做最小二乘回归得：Y=-37.999+0.210（1.5）（0.2）可以看出，加入后，有所减小，参数估计值，系数均不显著，说明存在严重的多重共线性。比较和，肉销售量比蛋销售量对粮食销售量的影响大，所以在模型中保留，略去。51351352253551.90913(1.6)(4.7)2.1450.157(1.5)(4.4)0.940,69.352XXXYXXXXXXRFXRXXX Y=-39.795+0.212（2.65加入鱼虾销售量，对 关于，做最小二乘回归得：Y=-40.823+0

28、.211（1.6）（-0.2）可以看出，加入后，有所减小，参数估计值，系数均不显著，应略去。综上所述，得到方程20.946,113.922RF）该模型中的解释变量均显著且符号正确，虽然解释变量之间仍存在高度线性关系，但多重共线性并没有造成不利后果，所以该模型是较好的粮食需求方程。软件操作：软件操作：P122 课后习题课后习题三、计算分析题三、计算分析题 2up 违反三个假定的总结对于模型对于模型Y Yi i=0 0+1 1X X1i1i+2 2X X2i2i+k kX Xkiki+i i i=1,2,i=1,2,n,n 其基本假设之一其基本假设之一是解释变量是互是解释变量是互相独立的相独立的。

29、如果如果某两个或多个解某两个或多个解释变量之间出现释变量之间出现了相关性了相关性，则称则称为为多重共线性多重共线性。定义要点多重共线性多重共线性序列相关性序列相关性异方差性异方差性随机误差项互相独随机误差项互相独立的基本假设表现立的基本假设表现为：为：Covij(,)0如果出现如果出现Covij(,)0即即对于不同的样本对于不同的样本点，随机误差项之点，随机误差项之间不再是完全互相间不再是完全互相独立，而是存在某独立，而是存在某种相关性种相关性后果多重共线性多重共线性序列相关性序列相关性异方差性异方差性检检验验解解释释变变量量之之间间的的相相关关性性1 1 采采 用用 普普 通通 最最 小小

30、二二 乘乘 法法估估 计计 模模 型型，以以 求求 得得 随随 机机误误 差差 项项 的的“近近 似似 估估 计计 量量”ei2 2 分分 析析 这这 些些“近近 似似 估估 计计 量量”之之 间间 的的 相相 关关 性性检验随机误差项的检验随机误差项的方差与解释变量观方差与解释变量观测值之间的相关性测值之间的相关性检验思路异方差异方差序列相关序列相关多重共线性多重共线性检验方法1图示检验法图示检验法2戈德菲尔特戈德菲尔特夸特检验夸特检验3怀特检验怀特检验4戈里瑟检验戈里瑟检验1图示检验法图示检验法2D.W.检验检验3LM检验法检验法1相关系数检验法2逐步回归法3扩大因子法4综合判断法解决方法加权最小二乘法广义差分法逐步回归法逐步回归法