[数学]简单线性回归模型课件.ppt

1、计量经济学简单介绍计量经济学简单介绍引子引子关于计量经济学关于计量经济学 定义定义 “用数学方法探讨经济学可以从好几个方面着手，用数学方法探讨经济学可以从好几个方面着手，但任何一个方面都不能和计量经济学混为一谈。但任何一个方面都不能和计量经济学混为一谈。计量经济学与经济统计学绝非一码事；它也不同计量经济学与经济统计学绝非一码事；它也不同于我们所说的一般经济理论，尽管经济理论大部于我们所说的一般经济理论，尽管经济理论大部分具有一定的数量特征；计量经济学也不应视为分具有一定的数量特征；计量经济学也不应视为数学应用于经济学的同义语。经验表明，统计学、数学应用于经济学的同义语。经验表明，统计学、经济理

2、论和数学这三者对于真正了解现代经济生经济理论和数学这三者对于真正了解现代经济生活的数量关系来说，都是必要的，但本身并非是活的数量关系来说，都是必要的，但本身并非是充分条件。三者结合起来，就是力量，这种结合充分条件。三者结合起来，就是力量，这种结合便构成了计量经济学。便构成了计量经济学。”第一节第一节 计量经济学的研究方法计量经济学的研究方法 需要做的工作需要做的工作 选择变量和数学关系式选择变量和数学关系式 模型设定模型设定 确定变量间的数量关系确定变量间的数量关系 估计参数估计参数 检验所得结论的可靠性检验所得结论的可靠性 模型检验模型检验 作经济分析和经济预测作经济分析和经济预测 模型应用

3、模型应用 一、模型设定一、模型设定经济模型及设定经济模型及设定模型：模型：对经济现象或过程的一种数学模拟对经济现象或过程的一种数学模拟设定设定（Specification）:模型只能抓主要因素和主要特征模型只能抓主要因素和主要特征,不得不舍弃不得不舍弃某些因素某些因素 对所研究经济变量之间的关系选用适当的数对所研究经济变量之间的关系选用适当的数学关系式近似地、简化地表达出来学关系式近似地、简化地表达出来 模型的设计和形式的取舍具有一定主观性模型的设计和形式的取舍具有一定主观性 构成计量经济模型的基本要素构成计量经济模型的基本要素经济变量经济变量 不同时间、不同空间的表现不同，取值不同，不同时间

4、、不同空间的表现不同，取值不同，是可以观测的因素。是模型的研究对象或影是可以观测的因素。是模型的研究对象或影响因素。响因素。经济参数经济参数 表现经济变量相互依存程度的、决定经济结表现经济变量相互依存程度的、决定经济结构和特征的、相对稳定的因素，通常不能直构和特征的、相对稳定的因素，通常不能直接观测。接观测。设定计量经济模型的基本要求设定计量经济模型的基本要求要有科学的理论依据要有科学的理论依据选择适当的数学形式选择适当的数学形式 类型类型:单一方程、联立方程单一方程、联立方程 线性形式、非线性形式线性形式、非线性形式 模型要兼顾真实性和实用性模型要兼顾真实性和实用性 两种不好的模型：两种不好

5、的模型：太过复杂太过复杂真实但不实用真实但不实用 过分简单过分简单不真实不真实 包含随机误差项包含随机误差项 经济模型与计量经济模型的重要区别经济模型与计量经济模型的重要区别 方程中的变量要具有可观测性方程中的变量要具有可观测性 二、估计参数为什么要对参数作估计？为什么要对参数作估计？一般来说参数是未知的，又是不可直接观测的。一般来说参数是未知的，又是不可直接观测的。由于随机项的存在，参数也不能通过变量值去由于随机项的存在，参数也不能通过变量值去精确计算。只能通过变量样本观测值选择适当精确计算。只能通过变量样本观测值选择适当方法去估计。方法去估计。（如何通过变量样本观测值去科学地估计总体模（如

6、何通过变量样本观测值去科学地估计总体模型的参数是计量经济学的核心内容）型的参数是计量经济学的核心内容）两个概念两个概念 参数的估计值参数的估计值：所估计参数的具体数值：所估计参数的具体数值 参数的估计式参数的估计式：估计参数数值的公式：估计参数数值的公式参数估计的常用方法参数估计的常用方法 普通最小二乘、广义最小二乘、极大似然估计、普通最小二乘、广义最小二乘、极大似然估计、二段最小二乘、三段最小二乘、其它估计方法二段最小二乘、三段最小二乘、其它估计方法 三、模型检验三、模型检验为什么要检验？为什么要检验？建模的理论依据可能不充分建模的理论依据可能不充分 统计数据或其他信息可能不可靠统计数据或其

7、他信息可能不可靠 样本可能较小，结论只是抽样的某种偶然样本可能较小，结论只是抽样的某种偶然 结果结果 可能违反计量经济方法的某些基本假定可能违反计量经济方法的某些基本假定对模型检验什么？对模型检验什么？对模型和所估计的参数加以评判，判定在理对模型和所估计的参数加以评判，判定在理 论上是否有意义，在统计上是否可靠论上是否有意义，在统计上是否可靠 对计量经济模型检验的方式对计量经济模型检验的方式 经济意义检验经济意义检验 所估计的模型与经济理论是否相符所估计的模型与经济理论是否相符 统计推断检验统计推断检验 检验参数估计值是否抽样的偶然结果检验参数估计值是否抽样的偶然结果 计量经济学检验计量经济学

8、检验 是否符合计量经济方法的基本假定是否符合计量经济方法的基本假定 预测检验预测检验 将模型预测的结果与经济运行的实际对比将模型预测的结果与经济运行的实际对比四、模型应用 经济结构分析经济结构分析 分析变量之间的数量比例关系分析变量之间的数量比例关系（如：如：边际分析、边际分析、弹性分析、乘数分析）弹性分析、乘数分析）例：分析消费增加对例：分析消费增加对GDPGDP的拉动作用的拉动作用 经济预测经济预测 由预先测定的解释变量去预测应变量在样本以由预先测定的解释变量去预测应变量在样本以外的数据外的数据 （动态预测、空间预测）（动态预测、空间预测）例：预测股票市场价格的走势例：预测股票市场价格的走

9、势政策评价政策评价 用模型对政策方案作模拟测算，对政策方案作用模型对政策方案作模拟测算，对政策方案作评价评价把计量经济模型作为经济活动的实验室）把计量经济模型作为经济活动的实验室）例：分析道路收费政策对汽车市场的影响例：分析道路收费政策对汽车市场的影响简单线性回归模型简单线性回归模型 主要讨论主要讨论:回归分析与回归函数回归分析与回归函数 简单线性回归模型参数的估计简单线性回归模型参数的估计 拟合优度的度量拟合优度的度量 回归系数的区间估计和假设检验回归系数的区间估计和假设检验 回归模型预测回归模型预测经济计量模型的一般形式也服从正态分布。服从正态分布，的随机性。的随机性导致正是由于变量：服从

10、正态分布的随机：参数，：解释变量被解释变量YYYYiiniiixx010:1、回归分析与回归方程基本内容基本内容:回归与相关回归与相关 总体回归函数总体回归函数 随机扰动项随机扰动项 样本回归函数样本回归函数 18 1.经济变量间的相互关系经济变量间的相互关系 确定性的函数关系确定性的函数关系 不确定性的统计关系不确定性的统计关系相关关系相关关系 (为随机变量为随机变量)没有关系没有关系 一、回归与相关一、回归与相关 （对统计学的回顾）（对统计学的回顾）()Yf X()Yf X192.2.相关关系相关关系 相关关系的描述相关关系的描述 相关关系最直观的描述方式相关关系最直观的描述方式坐标图坐标

11、图（散布图）散布图）YX20 3.3.相关程度的度量相关程度的度量相关系数相关系数 总体线性相关系数总体线性相关系数：其中：其中：X 的方差；的方差；Y的方差的方差 X和和Y的协方差的协方差样本线性相关系数样本线性相关系数：其中：其中：和和 分别是变量分别是变量 和和 的样本观测值的样本观测值 和和 分别是变量分别是变量 和和 样本值的平均值样本值的平均值Cov(,)Var()Var()X YXYVar()XVar()YCov(,)X Y_22()()()()iiXYiiXX YYXXYY_YiXiYXXYXY21 和和 都是相互对称的随机变量都是相互对称的随机变量 线性线性相关系数只反映变量

12、间的线性相关程度，不相关系数只反映变量间的线性相关程度，不 能说明非能说明非 线性相关关系线性相关关系 样本相关系数是总体相关系数的样本估计值，由样本相关系数是总体相关系数的样本估计值，由 于抽样波动，样本相关系数是个随机变量，其统于抽样波动，样本相关系数是个随机变量，其统 计显著性有待检验计显著性有待检验 相关系数只能反映线性相关程度，不能确定因果相关系数只能反映线性相关程度，不能确定因果 关系，不能说明相关关系具体接近哪条直线关系，不能说明相关关系具体接近哪条直线 计量经济学关心：计量经济学关心：变量间的因果关系及隐藏在随变量间的因果关系及隐藏在随机性后面的统计规律性，这有赖于回归分析方法

13、机性后面的统计规律性，这有赖于回归分析方法 使用相关系数时应注意使用相关系数时应注意XY224.4.回归分析回归分析回归的回归的古典意义古典意义：高尔顿遗传学的回归概念高尔顿遗传学的回归概念 (父母身高与子女身高的关系父母身高与子女身高的关系)回归的回归的现代意义现代意义：一个应变量对若干解释变量一个应变量对若干解释变量 依存关系依存关系 的研究的研究回归的回归的目的（实质）目的（实质）：由固定的解释变量去由固定的解释变量去 估计应变量的平均值估计应变量的平均值23 的的条件分布条件分布 当解释变量当解释变量 取某固定值时（条件），取某固定值时（条件），的值不的值不确定，确定，的不同取值形成一

14、定的分布，即的不同取值形成一定的分布，即 的条的条件分布。件分布。的的条件期望条件期望 对于对于 的每一个取值，的每一个取值，对对 所形成的分布确所形成的分布确 定其期望或均值，称定其期望或均值，称 为为 的条件期望或条的条件期望或条 件均值件均值 注意几个概念注意几个概念iXXYYYYYYYXYXE()iY X24 iXYX回归线回归线:对于每一个对于每一个 的取值，的取值，都有都有 的条件期望的条件期望 与之对应，与之对应，代表这些代表这些 的条件期的条件期 望的点的轨迹所形成望的点的轨迹所形成 的直线或曲线，称为的直线或曲线，称为 回归线。回归线。回归线与回归函数回归线与回归函数XYYE

15、()iY X25 回归函数：回归函数：应变量应变量 的条件期望的条件期望 随解释随解释变量变量 的的变化而有规律的变化，如果把的的变化而有规律的变化，如果把 的条件期望的条件期望 表现为表现为 的某种函数的某种函数 这个函数称为回归函数。这个函数称为回归函数。回归函数分为：回归函数分为：总体回归函数和样本回归函数总体回归函数和样本回归函数举例：假如已知举例：假如已知100个家庭构成的总体。个家庭构成的总体。回归线与回归函数回归线与回归函数YXXE()()iiYXfXYE()iY XE()iY X26每每 月月 家家 庭庭 可可 支支 配配 收收 入入 X X100015002000250030

16、003500400045005000550082096211081329163218422037227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每每960121013101432183510682319248828563201月月125913401520188520662321258729003288家家132414001615194321852365265030213399庭庭1448165020372210239827893064消消1489171220782

17、289248728533142费费1538177821792313251329343274支支160018412298239825383110出出17021886231624232567Y1900238724532610201224982487271025892586900115014001650190021502400265029003150E()iY X例例:100个家庭构成的总体个家庭构成的总体 (单位单位:元元)27 1.1.总体回归函数的概念总体回归函数的概念 前提：前提：假如已知所研究的经济现象的总体应变假如已知所研究的经济现象的总体应变量量 和解释变量和解释变量 的每个观测值的每

18、个观测值,可以计算出总体可以计算出总体应变量应变量 的条件均值的条件均值，并将其表现为解释并将其表现为解释变量变量 的某种函数的某种函数 这个函数称为总体回归函数（这个函数称为总体回归函数（PRF）二、总体回归函数二、总体回归函数（PRFPRF）E()()iiY X=f XYYXXE()iY X28 iuiXXY)(iXYEiY （1）条件均值条件均值表现形式表现形式 假如假如 的条件均值的条件均值 是解是解 释变量释变量 的线性函数，可表示为：的线性函数，可表示为：（2）个别值个别值表现形式表现形式 对于一定的对于一定的 ，的各个别值的各个别值 分布分布 在在 的周围，若令各个的周围，若令各

19、个 与条件与条件 均值均值 的偏差为的偏差为 ,显然显然 是随机变量是随机变量,则有则有 或或 2.2.总体回归函数的表现形式总体回归函数的表现形式iXE()iY X12E()()iiiiY Xf XXiYE()iY XiYE()iY Xiuiu12E()iiiiiiuYY XYX12iiiYXuYYX29实际的经济研究中总体回归函数通常是实际的经济研究中总体回归函数通常是未知未知的，的，只能根据经济理论和实践经验去只能根据经济理论和实践经验去设定设定。“计量计量”的目的就是寻求的目的就是寻求PRFPRF。总体回归函数中总体回归函数中 与与 的关系可是的关系可是线性线性的，也可是的，也可是非线

20、性非线性的。的。对线性回归模型的对线性回归模型的“线性线性”有两种解释有两种解释 就变量而言就变量而言是线性的是线性的 的条件均值是的条件均值是 的线性函数的线性函数 就参数而言就参数而言是线性的是线性的 的条件均值是参数的条件均值是参数 的线性函数的线性函数 3.3.如何理解总体回归函数如何理解总体回归函数YXYYX30计量经济学中计量经济学中:线性回归模型主要指就参数而言是线性回归模型主要指就参数而言是“线性线性”,因为只要对参数而言是线性的因为只要对参数而言是线性的,都可以用类似的方法都可以用类似的方法估计其参数。估计其参数。12E()iiiY XX212E()iiiY XX12E()i

21、iiY XX“线性线性”的判断的判断31三、随机扰动项三、随机扰动项概念概念:各个各个 值与条件均值值与条件均值 的偏差的偏差 代表代表 排除在模型以外的所有排除在模型以外的所有 因素对因素对 的影响。的影响。性质：性质：是期望为是期望为0有一定分布的随机变量有一定分布的随机变量 重要性：重要性：随机扰动项的性质决定着计量经济方随机扰动项的性质决定着计量经济方法的选择法的选择uiYiuYXiXuE()iY XYiu32 未知未知影响因素的代表影响因素的代表 无法取得数据无法取得数据的已知影响因素的代表的已知影响因素的代表 众多细小影响因素众多细小影响因素的综合代表的综合代表 模型的模型的设定误

22、差设定误差 变量的变量的观测误差观测误差 变量内在变量内在随机性随机性引入随机扰动项的原因引入随机扰动项的原因33四、样本回归函数四、样本回归函数（SRFSRF）样本回归线样本回归线：对于对于 的一定值，取得的一定值，取得 的样本观测值，可计算其条的样本观测值，可计算其条件均值，样本观测值条件均值的轨迹称为样本回归线。件均值，样本观测值条件均值的轨迹称为样本回归线。样本回归函数：样本回归函数：如果把应变量如果把应变量 的样本条件均值表示为解释变量的样本条件均值表示为解释变量 的某的某种函数，这个函数称为样本回归函数（种函数，这个函数称为样本回归函数（SRF）。）。XYYYX34SRF 的特点的

23、特点每次抽样都能获得一个样本，就可以拟合一条每次抽样都能获得一个样本，就可以拟合一条样本回样本回 归线，所以样本回归线随抽样波动而变归线，所以样本回归线随抽样波动而变化，可以有许多条化，可以有许多条（SRF不唯一）。不唯一）。SRF2SRF1YX35样本回归函数的函数形式应与设定的总体回归样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。函数的函数形式一致。样本回归线还不是总体回归线，至多只是未知样本回归线还不是总体回归线，至多只是未知总体回归线的近似表现。总体回归线的近似表现。3612iiYX 样本回归函数如果为线性函数，可表示为样本回归函数如果为线性函数，可表示为 其中：其中：是

24、与是与 相对应的相对应的 的样本条件均值的样本条件均值 和和 分别是样本回归函数的参数分别是样本回归函数的参数 应变量应变量 的实际观测值的实际观测值 不完全等于样本条件不完全等于样本条件均值，二者之差用均值，二者之差用 表示表示,称为称为剩余项剩余项或或残差项残差项：或者或者 样本回归函数的表现形式样本回归函数的表现形式21iiiYXeiiieYYieiXiYiY12ieYY37 对样本回归的理解对样本回归的理解 如果能够获得如果能够获得 和和 的数值，显然的数值，显然:和和 是对总体回归函数参数是对总体回归函数参数 和和 的估计的估计 是对总体条件期望是对总体条件期望 的估计的估计 在概念

25、上类似总体回归函数中的在概念上类似总体回归函数中的 ，可，可 视为对视为对 的估计。的估计。ieiYiuE()iY X12iiiYXe122112iu38iY 样本回归函数与总体回归函数的关系 SRF PRF A iuieiY()iiE Y XiYYiXX391 回归分析的目的回归分析的目的 用样本回归函数用样本回归函数SRF去估计总体回归函数去估计总体回归函数PRF。由于样本对总体总是存在代表性误差，由于样本对总体总是存在代表性误差，SRF 总会过总会过 高或过低估计高或过低估计PRF。要解决的问题：要解决的问题：寻求一种规则和方法，使得到的寻求一种规则和方法，使得到的SRF的参数的参数 和

26、和 尽可能尽可能“接近接近”总体回归函数中的参数总体回归函数中的参数 和和 。这样的这样的“规则和方法规则和方法”有多种，最常用的是最小二有多种，最常用的是最小二乘法乘法21240 简单线性回归模型的最小二乘估计简单线性回归模型的最小二乘估计基本内容基本内容:简单线性回归的基本假定简单线性回归的基本假定 普通最小二乘法普通最小二乘法 OLSOLS回归线的性质回归线的性质 参数估计式的统计性质参数估计式的统计性质41 一、简单线性回归的基本假定一、简单线性回归的基本假定 1.为什么要作基本假定？为什么要作基本假定？模型中有随机扰动，估计的参数是随机变量，模型中有随机扰动，估计的参数是随机变量，只

27、有对随机扰动的分布作出假定，才能确定只有对随机扰动的分布作出假定，才能确定 所估计参数的分布性质，也才可能进行假设所估计参数的分布性质，也才可能进行假设 检验和区间估计检验和区间估计 只有具备一定的假定条件，所作出的估计才只有具备一定的假定条件，所作出的估计才 具有较好的统计性质。具有较好的统计性质。42 （1 1）对模型和变量的假定对模型和变量的假定如如假定解释变量假定解释变量 是非随机的，或者虽然是随机的，但与扰动是非随机的，或者虽然是随机的，但与扰动项项 是不相关的是不相关的假定解释变量假定解释变量 在重复抽样中为固定值在重复抽样中为固定值假定变量和模型无设定误差假定变量和模型无设定误差

28、2、基本假定的内容、基本假定的内容12iiiYXuXuX43又称高斯假定、古典假定又称高斯假定、古典假定假定假定1 1：零均值假定零均值假定 在给定在给定 的条件下的条件下，的条件期望为零的条件期望为零假定假定2 2：同方差假定同方差假定 在给定在给定 的条件下，的条件下，的条件方差为某个常数的条件方差为某个常数iuiu（2）对随机扰动项）对随机扰动项 的假定的假定uiuXXE()0iiu X2iu22Var()EE()iiiiiu Xuu X44 假定假定3 3：无自相关假定无自相关假定 随机扰动项随机扰动项 的逐次值互不相关的逐次值互不相关 假定假定4 4：随机扰动随机扰动 与解释变量与解

29、释变量 不相关不相关 iuiuX(,)()()ijiijjCov u uE uE uuE u()0()ijE uuij(,)()()0iiiiiiCov u XE uE uXE X45 假定假定5 5：对随机扰动项分布的正态性假定对随机扰动项分布的正态性假定即假定即假定服从均值为零、方差为服从均值为零、方差为的正态分布的正态分布（说明：正态性假定不影响对参数的点估计，但对（说明：正态性假定不影响对参数的点估计，但对确定所估计参数的分布性质是需要的。且根据中心确定所估计参数的分布性质是需要的。且根据中心极限定理，当样本容量趋于无穷大时，极限定理，当样本容量趋于无穷大时，的分布会的分布会趋近于正态

30、分布。所以正态性假定是合理的）趋近于正态分布。所以正态性假定是合理的）iu2(0,)iuNiu2iu46的分布性质的分布性质 由于由于 的分布性质决定了的分布性质决定了 的分布性质。的分布性质。对对 的一些假定可以等价地表示为对的一些假定可以等价地表示为对 的假定：的假定：假定假定1：零均值假定：零均值假定 假定假定2：同方差假定：同方差假定 假定假定3：无自相关假定：无自相关假定 假定假定5：正态性假定：正态性假定iYCov(,)0()ijY YijiiiuXY21iuiuiY12E()iiiY XX2Var()iY X212(,)iiYNXY47OLS的基本思想的基本思想二、普通最小二乘法

31、二、普通最小二乘法 （rdinary Least Squares）12iYiYiYieie2ie2212min()min()iiieYX48 正规方程和估计式正规方程和估计式用克莱姆法则求解得观测值形式的用克莱姆法则求解得观测值形式的OLS估计式：估计式：2122()iiiiiiiXYXX YnXX取偏导数为取偏导数为0，得正规方程，得正规方程222()iiiiiinX YXYnXX12iiYnX212iiiiX YXX49 为表达得更简洁，或者用离差形式为表达得更简洁，或者用离差形式OLS估计式估计式：注意注意其中：其中：而且样本回归函数可写为而且样本回归函数可写为 22_2)()(iiii

32、iixyxXXYYXXXY2_1XXxiiYYyii用离差表现的用离差表现的OLSOLS估计式估计式iiixy 50三、OLSOLS回归线的性质回归线的性质可以证明可以证明：回归线通过样本均值回归线通过样本均值估计值估计值 的均值等于实的均值等于实 际观测值际观测值 的均值的均值 XYXYiYiY12YXiYYn51 剩余项剩余项 的均值为零的均值为零应变量估计值应变量估计值 与剩余项与剩余项 不不相关相关 解释变量解释变量 与剩余项与剩余项 不相关不相关 ie0neeiCov(,)0iiY eiYieieiXCov(,)0iiX e52 参数估计式的统计性质参数估计式的统计性质(一一)参数估

33、计式的评价标准参数估计式的评价标准 1.无偏性无偏性前提：前提：重复抽样中估计方法固定、样本数不变、经 重复抽样的观测值，可得一系列参数估计值参数估计值参数估计值 的分布称为的分布称为 的抽样分布，密度函的抽样分布，密度函数记为数记为 如果如果 ，称，称 是参数是参数 的无偏估计式，否的无偏估计式，否则称则称 是有偏的，其偏倚为是有偏的，其偏倚为 ()fE()E()53前提：前提：样本相同、用不同的方法估计参数，样本相同、用不同的方法估计参数，可以找到若干个不同的估计式可以找到若干个不同的估计式目标：目标：努力寻求其抽样分布具有最小方差的努力寻求其抽样分布具有最小方差的估计式估计式最小方差准则

34、，或称最佳最小方差准则，或称最佳性准则性准则 既是无偏的同时又具有最小方差的估计式，称为既是无偏的同时又具有最小方差的估计式，称为 最佳无偏估计式。最佳无偏估计式。2.最小方差性最小方差性54 4.4.渐近性质渐近性质（大样本性质）（大样本性质）nP)lim(思想思想:当样本容量较小时，有时很难找到最佳无偏估计，需要考当样本容量较小时，有时很难找到最佳无偏估计，需要考虑样本扩大后的性质虑样本扩大后的性质一致性：一致性：当样本容量当样本容量 n 趋于无穷大时，如果估计式趋于无穷大时，如果估计式 依概率收敛于总体依概率收敛于总体参数的真实值，就称这个估计式参数的真实值，就称这个估计式 是是 的一致

35、估计式。即的一致估计式。即 或或 渐近有效性：渐近有效性：当样本容量当样本容量 n 趋于无穷大时，在所有的一致估趋于无穷大时，在所有的一致估计式中，具有最小的渐近方差。计式中，具有最小的渐近方差。1)(limP55（二）（二）OLS估计式的统计性质估计式的统计性质 由由OLS估计式可以看出估计式可以看出 由可观测的样本值由可观测的样本值 和和 唯一表示。唯一表示。因存在抽样波动，因存在抽样波动，OLS估计估计 是随机变量是随机变量 OLS估计式是点估计式估计式是点估计式 iYiX2122()iiiiiiiXYXX YnXX222()iiiiiinX YXYnXXkk561.线性特征线性特征 是

36、是 的线性函数的线性函数 2.无偏特性无偏特性 3.最小方差特性最小方差特性 在所有的线性无偏估计中，在所有的线性无偏估计中，OLS估计估计 具有最小方差具有最小方差结论：在古典假定条件下结论：在古典假定条件下,OLS,OLS估计式是最佳线性无估计式是最佳线性无 偏估计式（偏估计式（BLUEBLUE）kOLSOLS估计式的统计性质估计式的统计性质高斯定理高斯定理kkE)(iiiiiiiiykxyxXXYYXX222)()(2iiixkxkY57拟合优度的度量拟合优度的度量本节基本内容本节基本内容:什么是拟合优度什么是拟合优度 总变差的分解总变差的分解 可决系数可决系数58 一、一、什么是拟合优

37、度?概念概念：样本回归线是对样本数据样本回归线是对样本数据的一种拟合，不同估计方的一种拟合，不同估计方法可拟合出不同的回归线，法可拟合出不同的回归线，拟合的回归线与样本观测拟合的回归线与样本观测值总有偏离。值总有偏离。样本回归线对样本观测数据拟合的优劣程度样本回归线对样本观测数据拟合的优劣程度 拟合优度拟合优度拟合优度的度量建立在对总变差分解的基础上拟合优度的度量建立在对总变差分解的基础上XY59二、总变差的分解二、总变差的分解 分析分析Y Y 的观测值、估计值与平均值的关系的观测值、估计值与平均值的关系将上式两边平方加总，可证得将上式两边平方加总，可证得 （TSSTSS）（ESSESS）（R

38、SSRSS）)()(iiiiYYYYYY222)()()(iiiiYYYYYY60 总变差总变差 （TSSTSS）：应变量）：应变量Y Y的观测值与其平均的观测值与其平均值的离差平方和（总平方和）值的离差平方和（总平方和）解释了的变差解释了的变差 （ESSESS）：应变量）：应变量Y Y的估计值与的估计值与其平均值的离差平方和（回归平方和）其平均值的离差平方和（回归平方和）剩余平方和剩余平方和 （RSSRSS）：应变量观测值与估计）：应变量观测值与估计值之差的平方和（未解释的平方和）值之差的平方和（未解释的平方和）2iy2iy2ie61iY 总变差i(Y-Y)SRFi(Y-Y)来自回归ie来自

39、残差iXY变差分解的图示变差分解的图示YX62 三、可决系数三、可决系数 以TSS同除总变差等式两边：或 定义：定义：回归平方和（解释了的变差回归平方和（解释了的变差ESS）在总变在总变 差（差（TSS）中所占的比重称为可决系数，用中所占的比重称为可决系数，用 表示表示:或 222iyyrTSSRSSTSSESSTSSTSS2iy2r2iy2221iiyer22221iiiyeyy63作用：作用：可决系数越大，说明在总变差中由模型作出可决系数越大，说明在总变差中由模型作出了解释的部分占的比重越大，模型拟合优度越好。了解释的部分占的比重越大，模型拟合优度越好。反之可决系数小，说明模型对样本观测值

40、的拟合反之可决系数小，说明模型对样本观测值的拟合程度越差。程度越差。特点：特点：可决系数取值范围：可决系数取值范围：随抽样波动，样本可决系数随抽样波动，样本可决系数 是随抽样是随抽样 而变动的随机变量而变动的随机变量 可决系数是非负的统计可决系数是非负的统计可决系数的作用和特点可决系数的作用和特点102 r2r64运用可决系数时应注意运用可决系数时应注意 可决系数只是说明列入模型的所有解释变量对可决系数只是说明列入模型的所有解释变量对 因变量的联合的影响程度，不说明模型中每个因变量的联合的影响程度，不说明模型中每个 解释变量的影响程度（在多元中）解释变量的影响程度（在多元中）回归的主要目的如果

41、是经济结构分析，不能只回归的主要目的如果是经济结构分析，不能只 追求高的可决系数，而是要得到总体回归系数追求高的可决系数，而是要得到总体回归系数 可信的估计量，可决系数高并不表示每个回归可信的估计量，可决系数高并不表示每个回归 系数都可信任系数都可信任 如果建模的目的只是为了预测因变量值，不是如果建模的目的只是为了预测因变量值，不是 为了正确估计回归系数，一般可考虑有较高的为了正确估计回归系数，一般可考虑有较高的 可决系数可决系数65 回归系数的区间估计和假设检验回归系数的区间估计和假设检验 本节基本内容：本节基本内容：OLSOLS估计的分布性质估计的分布性质 回归系数的区间估计回归系数的区间

42、估计 回归系数的假设检验回归系数的假设检验66问题的提出问题的提出 为什么要作区间估计？为什么要作区间估计？OLSOLS估计只是通过样本得到的点估计，不一定等于估计只是通过样本得到的点估计，不一定等于真实参数，还需要找到真实参数的可能范围，并真实参数，还需要找到真实参数的可能范围，并说明其可靠性说明其可靠性为什么要作假设检验？为什么要作假设检验？OLS 估计只是用样本估计的结果，是否可靠？估计只是用样本估计的结果，是否可靠？是否抽样的偶然结果？还有待统计检验。是否抽样的偶然结果？还有待统计检验。区间估计和假设检验都是建立在确定参数估计值区间估计和假设检验都是建立在确定参数估计值概率分布性质的基

43、础上。概率分布性质的基础上。67 一、一、OLSOLS估计的分布性质估计的分布性质 基本思想基本思想 是随机变量，必须确定其分布性质才可能是随机变量，必须确定其分布性质才可能进行区间估计和假设检验进行区间估计和假设检验 是服从正态分布的随机变量是服从正态分布的随机变量,决定了决定了 也是也是服从正态分布的随机变量，服从正态分布的随机变量，是是 的线性函的线性函数，决定了数，决定了 也是服从正态分布的随机变量，也是服从正态分布的随机变量，只要确定只要确定 的期望和方差，即可确定的期望和方差，即可确定 的分布性质的分布性质 iYkkkiukkiYiY68的期望：的期望：(无偏估计）无偏估计）的方差

44、和标准误差的方差和标准误差(标准误差是方差的算术平方根标准误差是方差的算术平方根)注意：注意：以上各式中以上各式中 未知，其余均是样本观测值未知，其余均是样本观测值 的期望和方差的期望和方差2212Var()iiXNx2E()kk222Var()ix22SE()ix212SE()iiXNx69 可以证明可以证明 的无偏估计为的无偏估计为 (n-2为自由度为自由度,即可自由变化的样本观测值个数即可自由变化的样本观测值个数)2对随机扰动项方差对随机扰动项方差 的估计的估计2222ien70在在 已知时已知时将将 作标准化变换作标准化变换2)1,0()(22111111NxnXSEzii)1,0()

45、(2222222NxSEzi71 （1）当样本为大样本时，用估计的参数标准误差对）当样本为大样本时，用估计的参数标准误差对 作标准化变换，所得作标准化变换，所得Z 统计量仍可视为标准正统计量仍可视为标准正 态变量（根据中心极限定理）态变量（根据中心极限定理）（2）当样本为小样本时，可用）当样本为小样本时，可用 代替代替 ，去估去估 计参数的标准误差，用估计的参数标准误差对计参数的标准误差，用估计的参数标准误差对 作标准化变换，所得的作标准化变换，所得的 t 统计量不再服从正态分布统计量不再服从正态分布（这时分母也是随机变量），而是服从（这时分母也是随机变量），而是服从 t 分布：分布：2(2)

46、()kkktt nSE22当当 未知时未知时 72二、回归系数的区间估计二、回归系数的区间估计概念：概念：对参数作出的点估计是随机变量，虽然是无偏估对参数作出的点估计是随机变量，虽然是无偏估计，但还不能说明估计的可靠性和精确性，需要找计，但还不能说明估计的可靠性和精确性，需要找到包含真实参数的一个范围，并确定这个范围包含到包含真实参数的一个范围，并确定这个范围包含参数真实值的可靠程度。参数真实值的可靠程度。在确定参数估计式概率分布性质的基础上，可找到在确定参数估计式概率分布性质的基础上，可找到两个正数两个正数和和（），使得区间），使得区间 包含真实包含真实 的概率为的概率为 ，即，即 这样的区

47、间称为所估计参数的置信区间。这样的区间称为所估计参数的置信区间。k1),(kk1)(kkkP0173 一般情况下一般情况下,总体方差总体方差 未知，用无偏估计未知，用无偏估计 去代替去代替，由于样本容量较小，统计量，由于样本容量较小，统计量 t 不再服不再服从正态分布，而服从从正态分布，而服从 t 分布。可用分布。可用 t 分布去建立分布去建立参数估计的置信区间。参数估计的置信区间。回归系数区间估计的方法回归系数区间估计的方法22*222(2)()tt nSE74 选定选定，查，查 t 分布表得显著性水平为分布表得显著性水平为 ，自，自 由度为由度为 的临界值的临界值，则有，则有即 22n1)

48、(22222tSEtP1)()(2222222SEtSEtP75三、回归系数的假设检验1.1.假设检验的基本思想假设检验的基本思想为什么要作假设检验？为什么要作假设检验？所估计的回归系数所估计的回归系数 、和方差和方差 都是通过都是通过 样本估计的，都是随抽样而变动的随机变量，样本估计的，都是随抽样而变动的随机变量，它们是否可靠？是否抽样的偶然结果呢？还需它们是否可靠？是否抽样的偶然结果呢？还需 要加以检验。要加以检验。21276 对回归系数假设检验的方式对回归系数假设检验的方式计量经济学中，主要是针对变量的参数真值是否为计量经济学中，主要是针对变量的参数真值是否为零来进行显著性检验的。零来进

49、行显著性检验的。目的：目的：对简单线性回归，判断解释变量对简单线性回归，判断解释变量 是否是被是否是被解释变量解释变量 的显著影响因素。在一元线性模型中，的显著影响因素。在一元线性模型中，就是要判断就是要判断 是否对是否对 具有显著的线性影响。这具有显著的线性影响。这就需要进行变量的显著性检验。就需要进行变量的显著性检验。XYXY77一般情况下，总体方差一般情况下，总体方差 未知，未知，只能用只能用 去去代替，可利用代替，可利用 t 分布作分布作 t 检验检验给定给定 ,查查 t 分布表得分布表得如果如果 或者或者 则拒绝原假则拒绝原假设设 ,而接受备择假设而接受备择假设如果如果 则接受原假设

50、则接受原假设*2(2)ttn*2(2)ttn*2 2-t(n-2)t t(n-2)2t(n-2)22*22222(2)()()tt nSESE02H:012H:002H:02.回归系数的检验方法回归系数的检验方法78 P用用 P P 值判断参数的显著性值判断参数的显著性假设检验的假设检验的 p p 值：值：p 值是基于值是基于既定的样本数据既定的样本数据所计算的统计量，是拒绝所计算的统计量，是拒绝原假设的最低显著性水平。原假设的最低显著性水平。统计分析软件中通常都给出了检验的统计分析软件中通常都给出了检验的 p p 值值统计量 t由样本计算的统计量为:相对于显著性水平 的临界值:或t2t2t2