第三章-多元线性回归模型课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第三章-多元线性回归模型课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第三 多元 线性 回归 模型 课件
- 资源描述:
-
1、第三章第三章 多元线性回归模型多元线性回归模型3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定一、多元回归模型及其表示一、多元回归模型及其表示二、多元回归模型的基本假定二、多元回归模型的基本假定3-3 多元线性回归模型的统计检验多元线性回归模型的统计检验3-2 多元线性回归模型的参数估计多元线性回归模型的参数估计二、二、OLSOLS估计量的统计性质及其分布估计量的统计性质及其分布三、随机误差项方差三、随机误差项方差 2 2的估计的估计一、拟合优度检验一、拟合优度检验二、回归参数的显著性检验(二、回归参数的显著性检验(t t检验)检验)三、回归方程的显著性检验(三、回归方程的显著
2、性检验(F F检验)检验)3-4 多元线性回归模型的置信区间多元线性回归模型的置信区间一、参数的最小二乘估计一、参数的最小二乘估计一、参数估计量的置信区间一、参数估计量的置信区间二、应变量预测值的置信区间二、应变量预测值的置信区间3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定一、多元回归模型及其表示一、多元回归模型及其表示第三章第三章 多元线性回归模型多元线性回归模型含有两个及以上解释变量含有两个及以上解释变量的回归模型称为多元回归模型。的回归模型称为多元回归模型。多元线性回归模型的一般式为:多元线性回归模型的一般式为:n,2,1iXXXYikiki22i 110ik k为解
3、释变量的个数,如果将常数项看成取值始终为为解释变量的个数,如果将常数项看成取值始终为1 1的虚的虚变量,则解释变量的数目为变量,则解释变量的数目为(k+1)(k+1)。模型中的回归系数模型中的回归系数 j j(j=1,2,(j=1,2,k),k)表示:当其它解释变量表示:当其它解释变量保持不变时,第保持不变时,第j j个解释变量变动一个单位对应变量的影个解释变量变动一个单位对应变量的影响。多元线性回归模型中的回归系数称为响。多元线性回归模型中的回归系数称为偏回归系数偏回归系数。3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定一、多元回归模型及其表示一、多元回归模型及其表示第三章
4、第三章 多元线性回归模型多元线性回归模型含有两个及以上解释变量含有两个及以上解释变量的回归模型称为多元回归模型。的回归模型称为多元回归模型。多元线性回归模型的一般式为:多元线性回归模型的一般式为:kiki22i 110iXXXYn,2,1iXXXYikiki22i 110ikiki22i 110kii2i 1XXX)X,X,X|Y(Eikiki22i 110iiieXXXeYYikiki22i 110ikii2i 1iXXX)X,X,X|Y(EY多元线性样多元线性样本回归模型本回归模型多元线性样多元线性样本回归方程本回归方程多元线性总多元线性总体回归方程体回归方程多元线性总多元线性总体回归模型
5、体回归模型3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定一、多元回归模型及其表示一、多元回归模型及其表示第三章第三章 多元线性回归模型多元线性回归模型多元线性回归模型的矩阵表示形式:多元线性回归模型的矩阵表示形式:n,2,1iXXXYikiki22i 110i将将n n组观测样本值代组观测样本值代入模型一般式,得:入模型一般式,得:nknkn22n110n22kk2221210211kk21211101XXXYXXXYXXXY1nn211kk10)1k(nknn2n12k22121k21111nn21XXX1XXX1XXX1YYYUXY多元线性总体回归多元线性总体回归模型的矩
6、阵表示模型的矩阵表示eXY多元线性样本回归多元线性样本回归模型的矩阵表示模型的矩阵表示YXU3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定二、多元回归模型的基本假定二、多元回归模型的基本假定第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110iE(E(i i)=0 01 1、随机误差、随机误差项具有项具有零均值零均值表明:平均地看,随机误表明:平均地看,随机误差项有互相抵消的趋势。差项有互相抵消的趋势。2 2、随机误差、随机误差项具有项具有同方差同方差Var(Var(i i)=2 2表明:对每个表明:对每个X Xi i,随机误差项,随机误
7、差项 i i的方差等于一个常数的方差等于一个常数 2 2。即。即解释变量取不同值时,解释变量取不同值时,i i相相对各自均值(零均值)的分散对各自均值(零均值)的分散程度是相同的。应变量程度是相同的。应变量Y Yi i具有具有与与 i i相同的方差。应变量相同的方差。应变量Y Yi i可可能取值的分散程度也是相同的。能取值的分散程度也是相同的。22i2i10ii102iii)(E)X(XE)Y(EYE)Y(Var22i2iii)(E)(EE)(Var3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定二、多元回归模型的基本假定二、多元回归模型的基本假定第三章第三章 多元线性回归模型
8、多元线性回归模型n,2,1iXXXYikiki22i 110iCov(Cov(i,i,j j)=0 0 i ij 3 3、随机误差项在不同、随机误差项在不同样本点之间是独立的,样本点之间是独立的,不存在序列相关不存在序列相关无自相关假定表明:产生无自相关假定表明:产生误差(干扰)的因素是完误差(干扰)的因素是完全随机的,此次干扰与彼全随机的,此次干扰与彼次干扰互不相关,互相独次干扰互不相关,互相独立。由此立。由此应变量应变量Y Yi i的序列的序列值之间也互不相关。值之间也互不相关。0)(E)(E)(Ejiji因为因为 i i与与 j j相互独立,有:相互独立,有:0)(E)Y(EY)Y(EY
9、E)Y,Y(Covjijjiiji0)(E)(E)(EE),(Covjijjiijin,2,1j,i3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定二、多元回归模型的基本假定二、多元回归模型的基本假定第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110iCov(XCov(Xji,ji,i i)=0 04 4、随机误差项、随机误差项与解释变量之与解释变量之间不相关间不相关X Xjiji与与 i i相互独立,互不相互独立,互不相关,即随机误差项相关,即随机误差项 i i和解释变量和解释变量X Xjiji是各自独是各自独立对立对应变量应变量Y Y
10、i i产生影响。产生影响。事实上,在回归分析中,事实上,在回归分析中,X Xjiji在重复抽样(观测)在重复抽样(观测)中固定取值,中固定取值,是确定性是确定性变量变量,该假定自动满足。,该假定自动满足。5 5、随机误差项、随机误差项服从正态分布服从正态分布(结合假定结合假定1 1、2 2)i iN(0,N(0,2 2)随机误差项随机误差项 i i正态分布的假定正态分布的假定对模型的统计检验是很重要的。对模型的统计检验是很重要的。k,2,1j3-1 多元线性回归模型及其基本假定多元线性回归模型及其基本假定二、多元回归模型的基本假定二、多元回归模型的基本假定第三章第三章 多元线性回归模型多元线性
11、回归模型n,2,1iXXXYikiki22i 110i6 6、各解释变量之间互不相关,、各解释变量之间互不相关,即不存在线性关系即不存在线性关系在此条件下,解释变量观测值在此条件下,解释变量观测值矩阵矩阵X X满秩,满秩,Rank(X)=k+1Rank(X)=k+1,方阵方阵X XX X也满秩,也满秩,Rank(XRank(XX)=k+1X)=k+1,行列式行列式|X|XX|0X|0,方阵,方阵X XX X可逆,可逆,(X(XX)X)-1-1存在。存在。knn2n12k22121k2111XXX1XXX1XXX1X3-2 多元线性回归模型多元线性回归模型的参数估计的参数估计一、一、参数的最小二
12、乘估计参数的最小二乘估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110i2kiki22i 110i2ii2i)XXX(Y()YY(eQ0Q0Q0Qk100)XXX(Y(X0)XXX(Y(X0)XXX(Y(X0)XXX(Y(kiki22i 110ikikiki22i 110ii2kiki22i 110ii 1kiki22i 110i0eX0eX0eX0eikiii2ii 1i3-2 多元线性回归模型多元线性回归模型的参数估计的参数估计一、一、参数的最小二乘估计参数的最小二乘估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki
13、22i 110i2kiki22i 110i2ii2i)XXX(Y()YY(eQ0eX0eX0eX0eikiii2ii 1i0eeeeXXXXXXXXX111n321kn2k1kn22221n11211Xe0eXeXY多元线性样本回归多元线性样本回归模型的矩阵表示模型的矩阵表示e XXXYX(极值条件)(极值条件)YX)XX(1XXYX3-2 多元线性回归模型多元线性回归模型的参数估计的参数估计一、一、参数的最小二乘估计参数的最小二乘估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110iYX)XX(1二、二、OLSOLS估计量的统计性质及其分布估计量的统
14、计性质及其分布1 1、线性:、线性:指参数估计量指参数估计量 是观测值是观测值Y Yi i的线性函数。的线性函数。j2 2、无偏性:、无偏性:指参数估计量的期望等于模型参数值。指参数估计量的期望等于模型参数值。)k,2,1,0j()(Ejj3 3、有效性(最小方差性):、有效性(最小方差性):指在所有线性、无偏估计量中,指在所有线性、无偏估计量中,OLSOLS参数估计量的参数估计量的方差最小。方差最小。4 4、服从正态分布,即:服从正态分布,即:j),(Var,(Njjjjj2jC)(Var其中,其中,2 2是随机误差项的方差,是随机误差项的方差,C Cjjjj是矩阵是矩阵(X(XX)X)-1
15、-1中第中第j j行第行第j j列位置上的元素。列位置上的元素。3-2 多元线性回归模型多元线性回归模型的参数估计的参数估计一、一、参数的最小二乘估计参数的最小二乘估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110iYX)XX(1二、二、OLSOLS估计量的统计性质及其分布估计量的统计性质及其分布三、随机误差项方差三、随机误差项方差 2 2的估计的估计参数估计的另一项任务是:参数估计的另一项任务是:求随机误差项求随机误差项 i的分布参数的分布参数1kne2i2 i iN(0,N(0,2 2)随机误差项随机误差项 i的的方差的估计量为:方差的估计量为:
16、可以可以证明:证明:22i2)1kne(E)(E称作称作回归标准差回归标准差(standard standard error of regressionerror of regression),),常作为对所估计回归线的拟常作为对所估计回归线的拟合优度的简单度量。合优度的简单度量。1kne2i2说明说明 是是 2的无偏估计量。的无偏估计量。1kne2i23-2 多元线性回归模型多元线性回归模型的参数估计的参数估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110i四、样本容量问题四、样本容量问题1 1、最小样本容量、最小样本容量从从OLSOLS原理出发,
17、欲得到参数估计量,原理出发,欲得到参数估计量,不管其质量如何,所要求的样本容量的下限。不管其质量如何,所要求的样本容量的下限。欲使欲使 存在,必须使得存在,必须使得(X(XX)X)-1-1存在。存在。欲使欲使(X(XX)X)-1-1存在,必须满足存在,必须满足|X|XX|0X|0,即,即(X(XX)X)为为(k+1k+1)阶满秩矩阵。)阶满秩矩阵。矩阵乘积的秩不超过各个因子矩阵的秩。即:矩阵乘积的秩不超过各个因子矩阵的秩。即:R(XR(XX)min(R(XX)min(R(X),R(X),R(X)。只有当。只有当R(X)k+1R(X)k+1时,时,矩阵矩阵(X(XX)X)才为(才为(k+1k+1
18、)阶满秩矩阵。)阶满秩矩阵。X X为为n n(k+1)(k+1)阶矩阵,其秩最大为(阶矩阵,其秩最大为(k+1k+1),此时必),此时必须有须有nk+1nk+1,即样本容量必须不少于模型中解释变,即样本容量必须不少于模型中解释变量的数目(包括常数项)。量的数目(包括常数项)。YX)XX(1knn2n12k22121k2111XXX1XXX1XXX1X3-2 多元线性回归模型多元线性回归模型的参数估计的参数估计第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110i四、样本容量问题四、样本容量问题1 1、最小样本容量、最小样本容量从从OLSOLS原理出发,欲得
19、到参数估计量,原理出发,欲得到参数估计量,不管其质量如何,所要求的样本容量的下限。不管其质量如何,所要求的样本容量的下限。2 2、满足基本要求的样本容量、满足基本要求的样本容量nk+1nk+1虽然当虽然当nk+1nk+1时可以得到参数估计量,但除了参数时可以得到参数估计量,但除了参数估计量质量不好以外,一些建立模型所必须的后续估计量质量不好以外,一些建立模型所必须的后续工作也无法进行。例如,参数的统计检验要求样本工作也无法进行。例如,参数的统计检验要求样本容量必须足够大,容量必须足够大,Z Z检验在检验在n30n0k0,则,则 即:随着模型中解释变量个数的增加,调整的可决即:随着模型中解释变量
20、个数的增加,调整的可决系数越来越小于可决系数,这似乎是对增加解释变量的系数越来越小于可决系数,这似乎是对增加解释变量的“惩罚惩罚”。总总为正,但为正,但 可能为负。可能为负。22RR 2R2R3-3 多元线性回归模型多元线性回归模型的统计检验的统计检验第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110i二、回归参数的显著性检验(二、回归参数的显著性检验(t t检验)检验)检验步骤:检验步骤:(1 1)对总体参数提出假设:)对总体参数提出假设:H H0 0:j j=0 0,H H1 1:j j 0 0(j=0,1,(j=0,1,k),k)(2 2)以原假设
21、)以原假设H H0 0构造构造t t统计量,并由观测值计算其值;统计量,并由观测值计算其值;)2n(t)(se)(setjjjjj若若|t|t|t t/2/2(n-2)(n-2),则拒绝,则拒绝H H0 0,接受,接受H H1 1,即,即 j j与与0 0有显著差异;说明有显著差异;说明在其它解释变量不变的情况下,在其它解释变量不变的情况下,j j对应的解释变量对应变量的影对应的解释变量对应变量的影响是显著的;响是显著的;(此时犯此时犯“弃真弃真”错误的概率不超过错误的概率不超过)若若|t|t|t t/2/2(n-2)(n-2),则接受,则接受H H0 0,即,即 j j与与0 0的差异不显著
22、;说明在其它解的差异不显著;说明在其它解释变量不变的情况下,释变量不变的情况下,j j对应的解释变量对应变量没有显著影响。对应的解释变量对应变量没有显著影响。(3 3)给定显著性水平)给定显著性水平 (一般取一般取0.010.01,0.050.05,0.1)0.1),查自由度为(查自由度为(n-2n-2)的)的t t分布表分布表,得临界值得临界值t t/2/2(n-2)(n-2);3-3 多元线性回归模型多元线性回归模型的统计检验的统计检验第三章第三章 多元线性回归模型多元线性回归模型n,2,1iXXXYikiki22i 110i二、回归参数的显著性检验(二、回归参数的显著性检验(t t检验)
展开阅读全文