3+多元回归模型hf课件.ppt

1、第三章第三章 经典单方程计量经济学模型：经典单方程计量经济学模型：多元线性回归模型多元线性回归模型The Classical Single Equation Econometric Model:Multiple Linear Regression Model本章内容本章内容 3.1 多元线性回归模型概述多元线性回归模型概述 3.2 多元线性回归模型的参数估计多元线性回归模型的参数估计 3.3 多元线性回归模型的统计检验多元线性回归模型的统计检验 3.4 多元线性回归模型的预测多元线性回归模型的预测 3.5 可化为线性的非线性模型可化为线性的非线性模型 3.6 受约束回归受约束回归3.1 3.1

2、 多元线性回归模型概述多元线性回归模型概述(Regression Analysis)一、多元线性回归模型一、多元线性回归模型二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设一、多元线性回归模型一、多元线性回归模型 总体回归函数：总体回归函数：描述在给定解释变量描述在给定解释变量Xi条件下条件下被解释变量被解释变量Yi的条件均值。的条件均值。j称为称为偏回归系数偏回归系数(partial regression coefficients)，表示在其他解释变量保持不变，表示在其他解释变量保持不变的情况下，的情况下，Xj每变化每变化1个单位时，个单位时，Y的均值的均值E(Y)的变化。的变化

3、。或者说或者说j给出了给出了Xj的单位变化对的单位变化对Y均值的均值的“直直接接”或或“净净”（不含其他变量）影响。（不含其他变量）影响。总体回归函数总体回归函数(PRF)(PRF)ikkiiikiiXXXXXYE221101),(总体回归模型总体回归模型(PRM)(PRM)i=1,2,n 总体回归模型：总体回归模型：是总体回归函数的是总体回归函数的随机表达形式随机表达形式说明：说明：k为解释变量的数目。为解释变量的数目。但习惯上，把常数项看成为虚变量的系数，该但习惯上，把常数项看成为虚变量的系数，该虚变量的样本观测值始终取虚变量的样本观测值始终取1 1。于是，模型中解释变量的数目为于是，模型

4、中解释变量的数目为（k+1+1）。iikkiiiXXXY22110总体回归模型的矩阵表示总体回归模型的矩阵表示121nnYYYY1)1(210kk121nnXY)1(212222111211111knnknnkkXXXXXXXXXX样本回归函数与样本回归模型样本回归函数与样本回归模型 从一次抽样中获得的总体回归函数的近似，称为从一次抽样中获得的总体回归函数的近似，称为样样本回归函数（本回归函数（sample regression function）。样本回归函数的随机形式，称为样本回归函数的随机形式，称为样本回归模型样本回归模型（sample regression model）。i=1,2,n

5、iikkiiieXXXY22110i=1,2,nikkiiiXXXY22110样本回归函数与样本回归模型的矩阵表示样本回归函数与样本回归模型的矩阵表示XYeXYk10neee21e二、多元线性回归模型的基本假设二、多元线性回归模型的基本假设对一元回归模型基本假设对一元回归模型基本假设的回忆与扩展的回忆与扩展 假设假设1：模型设定假设模型设定假设 正确性。正确性。The regression model is correctly specified.线性性。线性性。The regression model is linear in the parameters.iikkiiiXXXY22110

6、假设假设2：解释变量解释变量X假设假设 确定性。确定性。X values are fixed in repeated sampling.More technically,X is assumed to be nonstochastic.各解释变量各解释变量X之间之间不存在严格线性关系。不存在严格线性关系。There is no perfect multicollinearity among the explanatory variables.对于对于n k+1，rank(X)=k+1)1(212222111211111knnknnkkXXXXXXXXXX 假设假设3：X样本方差假设样本方差假设

7、 各解释变量的样本具有足够的变异性；各解释变量的样本具有足够的变异性；随着样本容量的无限增加，解释变量随着样本容量的无限增加，解释变量X的的样本方差趋于一有限常数。样本方差趋于一有限常数。nknknijijniijxxxxQnQXXnxnn11111212)(11xxx其中，或时，当 假设假设4：随机扰动项假设随机扰动项假设 0均值假设。均值假设。The conditional mean value of i is zero.由模型设定正确假设推断。由模型设定正确假设推断。同方差与无序列相关假设。同方差与无序列相关假设。Homoscedasticity,the conditional vari

8、ances of i are identical.是否满足需要检验。是否满足需要检验。()0,1,2,iiEXin()E X0IXX2)()(EVar15/100 假设假设5：X与随机项与随机项不相关。不相关。The covariances between Xi and i are zero.由确定性假设可以推断。由确定性假设可以推断。0XX)(EkjXXXCovkiij,10),(1 假设假设6：服从多维正态分布。服从多维正态分布。The s follow the normal distribution.)0(,21,NXXki),(2I0XN3.2 3.2 多元线性回归模型的估计多元线性回

9、归模型的估计 一、普通最小二乘估计一、普通最小二乘估计 二、参数估计量的性质二、参数估计量的性质 三、样本容量问题三、样本容量问题四、例题四、例题 补充：变量相对重要性比较补充：变量相对重要性比较说说 明明估计方法：估计方法：3大类方法：大类方法：OLS、ML或者或者MM 在经典模型中多应用在经典模型中多应用OLS 在非经典模型中多应用在非经典模型中多应用ML或者或者MM ML和和MM基本思路基本思路2章已介绍，本章略章已介绍，本章略一、普通最小二乘估计一、普通最小二乘估计(OLS)(OLS)kjniXYjii,2,1,0,2,1),(KikiiiiXXXY221102112)(niiinii

10、YYeQ2122110)(nikikiiiXXXY观测值观测值已知已知SRF形式形式 步骤：步骤：1 1、普通最小二乘估计及其矩阵表述、普通最小二乘估计及其矩阵表述残差平残差平方和方和kiikikikiiiiikikiiiiiikikiiikikiiXYXXXXXYXXXXXYXXXXYXXX)()()()(221102222110112211022110kjj,2,1,0,0000210QQQQkQMinnknkknkkiikikikiiiikiiYYYXXXXXXXXXXXXXXXXn212111211102112111111YXXX1)(条件？条件？YXX)X(由散式到矩阵：由散式到矩阵

11、：XXe=011121121110001in2iik1kknnkiieeXXXeX e=.XXXeX e X eX X=X YXY=XX+XeY=X+eXe因为样本回归函数为因为样本回归函数为 两边乘两边乘 有：有：因为因为 ，则正规方程为：，则正规方程为：2 2、正规方程组的另一种、正规方程组的另一种等价等价表达表达3 3、随机误差项、随机误差项 的方差的方差2的无偏估计的无偏估计 记住结论即可，证明不作要求！记住结论即可，证明不作要求！XYeMXXXXIXXXXXXXXXX)()()()(111e e M M MM为等幂矩阵为等幂矩阵)1()()()()(212121kntrtrtrEEX

12、XXXIXXXXIXXXXIee1)(2knEee12kneetr()为矩阵的迹，为矩阵的迹，满足交换律满足交换律Tr(AB)=tr(BA)二、参数估计量的性质二、参数估计量的性质说明说明 在满足基本假设的情况下，多元线性模型结构在满足基本假设的情况下，多元线性模型结构参数参数 的的普通最小二乘估计普通最小二乘估计具有具有线性性线性性、无偏无偏性性、有效性有效性。同时，随着样本容量增加，参数估计量具有同时，随着样本容量增加，参数估计量具有一一致性致性。利用矩阵表达，可以很方便地证明。利用矩阵表达，可以很方便地证明。注意证明过程中利用的基本假设。注意证明过程中利用的基本假设。理解其思路，记住结论

13、即可。理解其思路，记住结论即可。1、线性性、线性性利用假设利用假设5:5:E(X)=0XXXXXXXYXXX11)()()()()()(1EEEE2、无偏性、无偏性由估计量表达式直观得到由估计量表达式直观得到YXXX1)(3、有效性（最小方差性）、有效性（最小方差性）证明略证明略I2)(E三三、样本容量问题、样本容量问题1 1、最小样本容量最小样本容量 所谓所谓“最小样本容量最小样本容量”，即从最小二乘原理和，即从最小二乘原理和最大或然原理出发，欲得到参数估计量（不管其最大或然原理出发，欲得到参数估计量（不管其质量如何），所要求的样本容量的下限。质量如何），所要求的样本容量的下限。样本最小容量

14、，必须不少于模型中解释变量样本最小容量，必须不少于模型中解释变量的数目（包括常数项）的数目（包括常数项）,即 n k+1+1为什么？为什么？2 2、满足基本要求的样本容量、满足基本要求的样本容量 从统计检验的角度从统计检验的角度：n30 时，Z检验才能应用；n-k8时,t分布较为稳定。一般经验认为一般经验认为:当n30或者至少n3(k+1)时，才能说满足模型估计的基本要求。模型的良好性质，只有在大样本下才能得到模型的良好性质，只有在大样本下才能得到理论上的证明。理论上的证明。四、例题四、例题教材例题：地区城镇居民消费模型教材例题：地区城镇居民消费模型 被解释变量：地区城镇居民人均消费被解释变量

15、：地区城镇居民人均消费Y 解释变量：解释变量：地区城镇居民人均可支配收入地区城镇居民人均可支配收入X1 前一年地区城镇居民人均消费前一年地区城镇居民人均消费X2 样本：样本：2006年，年，31个地区个地区数据数据地区 2006年消费支出 Y 2006年可支配收入 X1 2005年消费支出 X2 地区 2006年消费支出 Y 2006年可支配收入 X1 2005年消费支出 X2 北 京 14825.4 19977.5 13244.2 湖 北 7397.3 9802.7 6736.6 天 津 10548.1 14283.1 9653.3 湖 南 8169.3 10504.7 7505.0 河 北

16、 7343.5 10304.6 6699.7 广 东 12432.2 16015.6 11809.9 山 西 7170.9 10027.7 6342.6 广 西 6792.0 9898.8 7032.8 内蒙古 7666.6 10358.0 6928.6 海 南 7126.8 9395.1 5928.8 辽 宁 7987.5 10369.6 7369.3 重 庆 9398.7 11569.7 8623.3 吉 林 7352.6 9775.1 6794.7 四 川 7524.8 9350.1 6891.3 黑龙江 6655.4 9182.3 6178.0 贵 州 6848.4 9116.6 61

17、59.3 上 海 14761.8 20667.9 13773.4 云 南 7379.8 10069.9 6996.9 江 苏 9628.6 14084.3 8621.8 西 藏 6192.6 8941.1 8617.1 浙 江 13348.5 18265.1 12253.7 陕 西 7553.3 9267.7 6656.5 安 徽 7294.7 9771.1 6367.7 甘 肃 6974.2 8920.6 6529.2 福 建 9807.7 13753.3 8794.4 青 海 6530.1 9000.4 6245.3 江 西 6645.5 9551.1 6109.4 宁 夏 7205.6

18、9177.3 6404.3 山 东 8468.4 12192.2 7457.3 新 疆 6730.0 8871.3 6207.5 河 南 6685.2 9810.3 6038.0 变量间关系变量间关系6000800010000120001400016000500010000150002000025000X1Y600080001000012000140001600040006000800010000 12000 14000X2YOLSOLS估计结果估计结果37/100补充：补充：BetaBeta系数、系数、弹性弹性系数系数及偏相关系数及偏相关系数变量变量相对重要性相对重要性比较比较38/100

19、多元线性回归模型中，有时需要比较各个解释变多元线性回归模型中，有时需要比较各个解释变量的量的相对重要性相对重要性。因为偏回归系数因为偏回归系数的取值，受解释变量计量单位的取值，受解释变量计量单位影响。如果各解释变量的影响。如果各解释变量的计量单位不同计量单位不同，就不能直接，就不能直接应用偏回归系数应用偏回归系数比较。比较。因此，需要对偏回归系数加以调整。常用方法包因此，需要对偏回归系数加以调整。常用方法包括括 BetaBeta 系数系数、弹性系数弹性系数、偏偏相关系数相关系数。39/100BetaBeta 系数系数的计算如下：的计算如下：*/jjXYjjjXYSY SXSS（j=1,2,k）

20、*j表示表示jX变化一个标准差时，将使变化一个标准差时，将使Y变化多少标准差。变化多少标准差。它通过它通过解释变量的标准差解释变量的标准差与与被解释变量的标准差被解释变量的标准差的的比例比例对估计的偏回归系数进行对估计的偏回归系数进行调整调整，可用于直接比较多，可用于直接比较多元回归模型中各解释变量的相对重要性。元回归模型中各解释变量的相对重要性。40/100前例中，可知前例中，可知 122388.53294.52183.3YXXSSS 10.556 20.25。则。则 X1 及及 X2的的 Beta 系数：系数：1*110.766XYSS 2*220.229XYSS*1统计意义统计意义：解释

21、变量：解释变量 X1变化一个标准差时，将使变化一个标准差时，将使被解释变量被解释变量 Y 有有 0.70.76666 个标准差的变化。个标准差的变化。经济意义经济意义：20062006 年，年，我国各省区可支配收入我国各省区可支配收入变化一个变化一个标准差时，会使标准差时，会使消费消费支出支出变化变化 0.7050.705 个标准差。个标准差。可见，就该样本数据而言，可见，就该样本数据而言，消费支出对当期可支配收消费支出对当期可支配收入入变化变化的敏感程度，的敏感程度，大于大于对对前一期消费支出前一期消费支出变化变化的敏的敏感程度。感程度。41/100 弹性系数弹性系数及及平均弹性系数平均弹性

22、系数：/1 2,jjjjjjjjjXXdY YdYdXXdXYYjkXY 平均弹性系数平均弹性系数j表明，表明，在变量在变量平均值平均值周围周围,jX每变每变动动 1%,1%,将使将使Y变动？变动？%。其与解释变量的计量单位无。其与解释变量的计量单位无关，适宜进行多元回归模型中各解释变量相对重要关，适宜进行多元回归模型中各解释变量相对重要性的比较。性的比较。42/100在前例中，利用有关数据，计算平均弹性系数在前例中，利用有关数据，计算平均弹性系数 11111363.70.5560.7528401.5jXY 2227773.20.250.2318401.5XY 10.752表明在变量平均值周围

23、表明在变量平均值周围,可支配收入可支配收入（X1）每变动每变动 1%1%，将使，将使消费支出（消费支出（Y）变动变动 0.752%0.752%。可见，就该样本数据而言，可见，就该样本数据而言，消费支出对当期可支消费支出对当期可支配收入配收入变化变化的敏感程度，的敏感程度，大于大于对对前一期消费支出前一期消费支出变化变化的敏感程度。的敏感程度。43/100总结：比较各解释变量的相对重要性总结：比较各解释变量的相对重要性 偏回归系数偏回归系数 Beta 系数系数 弹性系数弹性系数 偏相关系数偏相关系数 当其它解释变当其它解释变量保持不变时，量保持不变时，某一解释变量某一解释变量变化一个单位变化一个

24、单位而使被解释变而使被解释变量平均改变的量平均改变的数值。数值。如计量单位不如计量单位不同，则不能直接同，则不能直接比较比较 kiSSyxjYXjjjj,2,122*表示表示jX变化变化一个标准差一个标准差时，将使时，将使Y变变化多少标准化多少标准差。差。可直接比较可直接比较 kjYXjj,2,1 表明在变量平均表明在变量平均值周围值周围,X每变每变动动 1%,将使将使Y变动？变动？%。与解释变量的计与解释变量的计量单位无任何关量单位无任何关系，适宜回答上系，适宜回答上述问题。述问题。在消除其它变量在消除其它变量影响的情况下影响的情况下,衡衡量多元回归模型量多元回归模型中某两个变量之中某两个变

25、量之间的相关程度。间的相关程度。用来确定多元回用来确定多元回归模型中不同变归模型中不同变量的相对重要性。量的相对重要性。21XYXr表示当表示当 X2不变时，不变时，Y 与与 X1的真实相关程度。的真实相关程度。3.3 3.3 多元线性回归模型的统计检验多元线性回归模型的统计检验 Statistical Test of Multiple Linear Regression Model 一、拟合优度检验一、拟合优度检验 二、方程的显著性检验二、方程的显著性检验(F(F检验检验)三、变量的显著性检验三、变量的显著性检验(t(t检验检验)四、参数的置信区间四、参数的置信区间 一、拟合优度检验一、拟合

26、优度检验 Goodness of Fit 多元多元可决系数可决系数（Multiple Coefficient of Determination）TSSRSSTSSESSR12越接近于越接近于1，模型的拟合优度越高。，模型的拟合优度越高。从从R2的表达式的表达式中发现，如果在模型中增加解中发现，如果在模型中增加解释变量，释变量，R2往往增大。往往增大。这就给人一个错觉：要使得模型拟合得好，只要这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即可。但是，由增加解释变量引起增加解释变量即可。但是，由增加解释变量引起的的R2的增大与拟合好坏无关的增大与拟合好坏无关，所以所以R2需调整。需调整。1

27、12222.iiiikkiiix yx yx yRy 调整的可决系数调整的可决系数（adjusted coefficient of determination）)1/()1/(12nTSSknRSSR其中：其中：n-k-1为残差平方和的自由度，为残差平方和的自由度，n-1为总体平方和的自由度。为总体平方和的自由度。理论上，其取值可以为负数；但理论上，其取值可以为负数；但实际很难遇到！实际很难遇到！调整思路：调整思路：用自由度去校正所计算的变差，可纠正解用自由度去校正所计算的变差，可纠正解释变量个数不同引起的对比困难。释变量个数不同引起的对比困难。（比较性价比！）（比较性价比！）2211(1)1

28、nRRnk 3、赤池信息准则和施瓦茨准则、赤池信息准则和施瓦茨准则（略）（略）为比较为比较解释变量个数不同解释变量个数不同的多元回归模型的拟合优度，的多元回归模型的拟合优度，常用标准还有（与调整可决系数常用标准还有（与调整可决系数思路相似思路相似）:赤池信息准则赤池信息准则（Akaike information criterion,AIC）nknAIC)1(2lnee施瓦茨准则施瓦茨准则（Schwarz criterion，SC，BIC）这两准则均要求这两准则均要求仅当所增加的解释变量能够减少仅当所增加的解释变量能够减少AICAIC值或值或SCSC值时，才在原模型中增加该解释变量值时，才在原模

29、型中增加该解释变量。nnknSClnlneeThe F distribution for various d.f.二、方程的显著性检验二、方程的显著性检验(F(F检验检验)Testing the Overall Significance of a Multiple Regression(the F test)1、方程显著性的、方程显著性的F检验检验 方程的显著性检验，旨在对模型中被解释变量方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系与解释变量之间的线性关系在总体上在总体上是否显著成是否显著成立作出推断。立作出推断。在多元模型中，即检验模型在多元模型中，即检验模型中的中的回归

30、系数回归系数 j是是否全部显著不为否全部显著不为0。ikikiiiXXXY22110Hk012000:,0),2,1(:1不全为kjHj F F检验的思想检验的思想来自于总离差平方和的分解来自于总离差平方和的分解 TSS=ESS+RSS由于回归平方和2iyESS是解释变量X的联合体对被解释变量 Y的线性作用的结果，考虑比值 22/iieyRSSESS 如果这个比值较大，则如果这个比值较大，则X的联合体对的联合体对Y的解释程的解释程度高，可认为总体存在线性关系；反之，总体上度高，可认为总体存在线性关系；反之，总体上可能不存在线性关系。可能不存在线性关系。可通过该比值的大小对总体线性关系进行推断可

31、通过该比值的大小对总体线性关系进行推断。在原假设在原假设H0成立的条件下成立的条件下，统计量，统计量 给定显著性水平给定显著性水平，可得到临界值，可得到临界值F(k,n-k-1)，由样本求出统计量由样本求出统计量F的数值，通过的数值，通过 F F F(k,n-k-1)或或 F F F(k,n-k-1)判断是否拒绝原假设判断是否拒绝原假设H0，以判定原方程，以判定原方程总体上总体上的的线性关系是否显著成立。线性关系是否显著成立。)1,()1/(/knkFknRSSkESSF 2、拟合优度检验与拟合优度检验与F检验关系讨论检验关系讨论)1/()1/(12nTSSknRSSR)1/(/knRSSkE

32、SSF)1/()1(/22knRkRFkFknkFR)1(22222211)1/()1(/)1()1(RknRkRRkkknRF)1()1()1()1(112FknFkkFknnRFRFnkRRFRFknkRR11)1/(010)1/(0222222 可见，可见，F检验的原假设等同于检验的原假设等同于H0：R2=0 通常，在通常，在5%的显著性水平下，的显著性水平下，F统计量的临界统计量的临界值所对应的值所对应的R2的水平是的水平是较低较低的。的。F是傻瓜统计量！很难构造通不过是傻瓜统计量！很难构造通不过F检验的模型检验的模型 不宜过分注重不宜过分注重R2值，应注重模型的经济意义；值，应注重模

33、型的经济意义；在进行总体显著性检验时，显著性水平应该控制在进行总体显著性检验时，显著性水平应该控制在在5%以内。以内。一元线性回归中，一元线性回归中，t检验与检验与F检验是一致的检验是一致的F 检验与检验与 t 检验检验的假设均为：的假设均为：0111:0:0HH 55/100另一方面，两个统计量之间有如下关系：22212221222122)2()2()2()2(iiiiiiiixnexnenexneyF 2222112txneii但在多元回归情况下，两种检验说明的问题不同、但在多元回归情况下，两种检验说明的问题不同、作用不同，不能相互取代。作用不同，不能相互取代。三、变量的显著性检验（三、变

34、量的显著性检验（t t检验）检验）Testing the Significance of Variables(the t test)多元回归模型中，方程的多元回归模型中，方程的总体线性总体线性关系显著，关系显著，不等于不等于每个解释变量每个解释变量对被解释变量的影响都是对被解释变量的影响都是显著的。显著的。必须对每个解释变量进行显著性检验，以决定必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。是否作为解释变量被保留在模型中。这一检验是由对变量的这一检验是由对变量的 t 检验完成的。检验完成的。1、t统计量统计量 12)()(XXCov以以cii表示矩阵表示矩阵(XX)-

35、1 主对角线主对角线上的第上的第i个元素个元素iiicVar2)(1122knkneiee),(2iiiicN)1(1kntkncstjjjjjjjee2 2、t t检验检验 提出原假设与备择假设：提出原假设与备择假设：H1：j 0 0 给定显著性水平给定显著性水平，可得到临界值，可得到临界值t/2(n-k-1)，由样本求出统计量由样本求出统计量t的数值，通过的数值，通过|t|t|t/2(n-k-1)或或|t|t|t/2(n-k-1)判断是否拒绝原假设判断是否拒绝原假设H0，从而，从而判定对应的解释变判定对应的解释变量是否应包括在模型中。量是否应包括在模型中。H0：j=0=0 （j=1,2k）

36、3、关于常数项的显著性检验、关于常数项的显著性检验 T T检验同样可以进行。检验同样可以进行。一般不以一般不以t t检验决定常数项是否保留在模型中，检验决定常数项是否保留在模型中，而是从经济意义方面分析回归线是否应该通过而是从经济意义方面分析回归线是否应该通过原点。原点。四、参数的置信区间四、参数的置信区间 Confidence Interval of Parameter1、参数的置信区间、参数的置信区间在在(1-(1-)的的置信水平下置信水平下(,)iitstsii22)1(1kntkncstjjjjjjjee2 2、如何才能缩小置信区间？、如何才能缩小置信区间？（再次讨论）（再次讨论）增大

37、样本容量增大样本容量n n，因为在同样的样本容量下，因为在同样的样本容量下，n n越越大，大，t t分布表中的分布表中的临界值越小临界值越小；同时，增大样本容；同时，增大样本容量，还可使样本参数估计量的量，还可使样本参数估计量的标准差减小标准差减小。提高模型的拟合优度提高模型的拟合优度（复相关系数）（复相关系数），因为样本因为样本参数估计量的方差与残差平方和呈正比，模型拟合参数估计量的方差与残差平方和呈正比，模型拟合优度越高，残差平方和应越小。优度越高，残差平方和应越小。提高样本观测值的分散度提高样本观测值的分散度（回忆（回忆X X变异性假设）变异性假设）,一般情况下，样本观测值越分散一般情况

38、下，样本观测值越分散，(XX)-1的分母的的分母的|XX|的值越大，的值越大，cii越小，致使区间缩小。越小，致使区间缩小。3.4 3.4 多元线性回归模型的预测多元线性回归模型的预测 一、一、E(Y0)的置信区间的置信区间 二、二、Y0的置信区间的置信区间一、一、E(Y0)的置信区间的置信区间)()()()(00YEEEYEXXX000)()()(20()X(XXX0000EEYVar0102000)()()(XXXXX)(XX)(X00EEYVar),(020XX)X(XX100NY)1(knt)E(YY00010XX)X(X于是，得到(1-)的置信水平下E(Y0)的置信区间置信区间：01

39、0000100)()()(22XXXXXXXXtYYEtY其中，t/2为(1-)的置信水平下的临界值临界值。二、二、Y0的置信区间的置信区间000YYe0)()()()(100000000XXXXXXXEEEeE)(1()()()(01022100200XXXXXXXXEeEeVar)(1(,0(01020XXXXNe)(1(010220XXXXe)1(000kntYYte010000100)(1)(122XXXXXXXXtYYtY3.5 3.5 回归模型的其他函数形式回归模型的其他函数形式 一、模型的类型与变换一、模型的类型与变换 二、非线性回归实例二、非线性回归实例 三、非线性最小二乘估计

40、三、非线性最小二乘估计（略）（略）说说 明明 实际经济活动中，经济变量的关系是复杂的，实际经济活动中，经济变量的关系是复杂的，直接表现为线性关系的情况并不多见。直接表现为线性关系的情况并不多见。如著名的如著名的恩格尔曲线恩格尔曲线(Engle curves)表现为表现为幂函幂函数曲线数曲线形式、宏观经济学中的形式、宏观经济学中的菲利普斯曲线菲利普斯曲线（Pillips cuves）表现为）表现为双曲线双曲线形式等。形式等。但是，大部分但是，大部分（变量（变量或或参数参数）非线性关系可以非线性关系可以通过一些简单的数学处理，化为通过一些简单的数学处理，化为（参数）（参数）线性线性关系，从而可以运

41、用线性回归模型的理论方法。关系，从而可以运用线性回归模型的理论方法。不可化为不可化为（参数）（参数）线性关系的情形，不予讨论。线性关系的情形，不予讨论。一、模型的类型与变换一、模型的类型与变换 1 1、倒数模型、多项式模型与、倒数模型、多项式模型与变量直接置换法变量直接置换法 例如，例如，描述税收与税率关系的拉弗曲线拉弗曲线：抛物线 s=a+b r+c r2 c0 s：税收；r：税率设X1=r，X2=r2，则原方程变换为 s=a+b X1+c X2 c0 回忆：此前将线性定义为参数的线性；回忆：此前将线性定义为参数的线性；解释变量的非线性，并不违背该假设。解释变量的非线性，并不违背该假设。2、

42、幂函数模型、指数函数模型与、幂函数模型、指数函数模型与对数变换法对数变换法 例如，例如，Cobb-Dauglas生产函数生产函数：幂函数：幂函数 Q=AK L euQ：产出量，：产出量，K：投入资本；：投入资本；L：投入劳动：投入劳动 方程两边取对数：方程两边取对数：ln Q=ln A+ln K+ln L+u思考，为何如下思考，为何如下生产函数生产函数无法线性化？无法线性化？Q=AK L+u3、复杂函数模型与级数展开法、复杂函数模型与级数展开法 方程两边取对数后，得到：方程两边取对数后，得到：eLKAQ1)(21(1+2=1)Q:产出量，产出量，K：资本投入，：资本投入，L：劳动投入：劳动投入

43、 ：替代参数，：替代参数，1、2：分配参数：分配参数)(211LKLnLnALnQ例如，例如，常替代弹性常替代弹性CES生产函数生产函数 将式中将式中ln(1K-+2L-)在在=0处展开处展开Taylor级数级数,取关取关于于 的线性项，即得到一个线性近似式。的线性项，即得到一个线性近似式。如取如取0阶、阶、1阶、阶、2阶项，可得阶项，可得 22121ln21lnlnlnlnLKmLmKmAY二、可化为线性的非线性回归实例二、可化为线性的非线性回归实例 例例3.5.1 建立中国城镇居民食品消费需求函数模型。建立中国城镇居民食品消费需求函数模型。根据需求理论，居民对食品的消费需求函数为根据需求理

44、论，居民对食品的消费需求函数为),(01PPXfQ Q:居民对食品的需求量，居民对食品的需求量，X：消费者的消费支出总额消费者的消费支出总额P1：食品价格指数，：食品价格指数，P0：居民消费价格总指数。：居民消费价格总指数。零阶齐次性零阶齐次性，当所有商品和消费者货币支出总额按同，当所有商品和消费者货币支出总额按同一比例变动时，需求量保持不变一比例变动时，需求量保持不变)/,/(010PPPXfQ(*)(*)为了进行比较，将同时估计（为了进行比较，将同时估计（*）式与（）式与（*）式。）式。根据根据恩格尔定律恩格尔定律，居民对，居民对食品的消费支出食品的消费支出与居民的与居民的总总支出支出间呈

45、间呈幂函数幂函数的变化关系的变化关系:首先首先,确定具体的函数形式确定具体的函数形式32101PPAXQ 对数变换对数变换:031210lnlnln)ln(PPXQ考虑到考虑到零阶齐次性零阶齐次性时时)/ln()/ln()ln(012010PPPXQ(*)(*)(*)式也可看成是对（式也可看成是对（*）式施加如下约束而得）式施加如下约束而得0321因此，因此，对（对（*）式进行回归，就意味着原需）式进行回归，就意味着原需求函数满足零阶齐次性条件求函数满足零阶齐次性条件。X：人均消费：人均消费X1：人均食品：人均食品消费消费GP：居民消：居民消费价格指数费价格指数FP：居民食品：居民食品消费价格

46、指数消费价格指数Q：人均食品：人均食品消费（消费（90年价）年价）P0：居民消费：居民消费价格缩减指数价格缩减指数（1990=100）P1：居民食品：居民食品消费价格缩减消费价格缩减指数指数（1990=100）77/100 按（按（*）式估计）式估计10ln()5.530.540ln()0.258ln()0.288ln()QXPP具体解释估计结果及其经济含义。具体解释估计结果及其经济含义。78/100 按（按（*）式估计）式估计具体解释估计结果及其经济含义。具体解释估计结果及其经济含义。)/ln(275.0)/ln(534.052.5)ln(010PPPXQ3.6 3.6 受约束回归受约束回归

47、 Restricted Regression 一、模型参数的线性约束一、模型参数的线性约束 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量 三、参数的稳定性三、参数的稳定性 四、非线性约束四、非线性约束说说 明明 在建立回归模型时，有时根据经济理论需要对在建立回归模型时，有时根据经济理论需要对模型中的参数施加一定的约束条件。例如：模型中的参数施加一定的约束条件。例如：需求函数的需求函数的0阶齐次性阶齐次性条件条件 生产函数的生产函数的1阶齐次性阶齐次性条件条件 模型施加约束条件后进行回归模型施加约束条件后进行回归，称为受约束回受约束回归归（restricted regress

48、ion）;未加任何约束的回归称未加任何约束的回归称为无约束回归无约束回归（unrestricted regression）。）。一、模型参数的线性约束一、模型参数的线性约束1 1、参数的线性约束、参数的线性约束kkXXXY22110121kk1*11121110)1(kkkkXXXXY*1133*110*kkXXXY1310,k1211kkkkkXXXXXXXYY1*121*12*2 2、参数线性约束检验、参数线性约束检验 对所考查的具体问题对所考查的具体问题能否施加约束？能否施加约束？需进一步需进一步进行相应的检验。进行相应的检验。常用的检验有：常用的检验有：F检验、检验、2检验与检验与t检

49、验。检验。F检验检验 构造统计量；构造统计量；检验施加约束后模型的解释能力是否发生显检验施加约束后模型的解释能力是否发生显著变化。著变化。eXY*eXY)X(eXeXXYe*)X(X)(eeee*受约束受约束样本回归模型的残差平方和样本回归模型的残差平方和RSSR大于大于无无约束约束样本回归模型的残差平方和样本回归模型的残差平方和RSSU。这意味着这意味着，通常情况下，对模型施加约束条件会通常情况下，对模型施加约束条件会降低模型的解释能力降低模型的解释能力。如果约束条件为真，则受约束回归模型与无约如果约束条件为真，则受约束回归模型与无约束回归模型具有相同的解释能力，束回归模型具有相同的解释能力

50、，RSSRSSR R 与与 RSSRSSU U的差异较小。的差异较小。可用可用（RSSR RSSU）的大小来检验约束的真的大小来检验约束的真实性。实性。)1(/22UUknRSS)1(/22RRknRSS)(/)(22RUURkkRSSRSS)1,()1/()/()(URUUURUURknkkFknRSSkkRSSRSSF 例例3.6.13.6.1 中国城镇居民对食品的人均消费需求中国城镇居民对食品的人均消费需求实例中实例中，对零阶齐次性零阶齐次性检验：取=5%，查得临界值临界值F0.05(1,18)=4.41 结论结论：不能拒绝中国城镇居民对食品的人不能拒绝中国城镇居民对食品的人均消费需求函