一元线性回归结果的显著性检验课件.ppt

1、将回归均方(MSR)同残差均方(MSE)加以比较，应用F 检验来分析二者之间的差别是否显著回归均方：回归平方和SSR除以相应的自由度(自变量的个数) 残差均方(MSE) ：残差平方和SSE除以相应的自由度(n-2).线性关系的检验的步骤线性关系的检验的步骤 1.提出假设nH0：1=0 线性关系不显著(以前面资料以前面资料)1.提出假设nH0： 1=0 不良贷款与贷款余额之间的线性关系不显著2.计算检验统计量FExcel 输出的方差分析表输出的方差分析表3. 在一元线性回归中，等价于线性关系的在一元线性回归中，等价于线性关系的显著性检验显著性检验1. 检验检验 x 与与 y 之间是否具有线性关系

2、，或之间是否具有线性关系，或者说，检验自变量者说，检验自变量 x 对因变量对因变量 y 的影响的影响是否显著是否显著2. 理论基础是回归系数理论基础是回归系数 的抽样分布的抽样分布样本统计量样本统计量 的分布的分布1. 是根据最小二乘法求出的样本统计量，它有自是根据最小二乘法求出的样本统计量，它有自己的分布己的分布2. 的的分布具有如下性质分布具有如下性质分布形式：正态分布分布形式：正态分布数学期望：数学期望：标准差：标准差：由于由于 未知，需用其估计量未知，需用其估计量s sy y来代替得到来代替得到 的估计的的估计的标准差标准差回归系数的检验检验步骤回归系数的检验检验步骤 1.提出假设nH

3、0: 1 = 0 (没有线性关系) nH1: 1 0 (有线性关系) 2.计算检验的统计量对例题的回归系数进行显著性检验(0.05)1.提出假设nH0：1 = 0 nH1：1 0 2.计算检验的统计量P 值的应用值的应用在一元线性回归分析中，回归系数显著在一元线性回归分析中，回归系数显著性的性的t检验、回归方程显著性的检验、回归方程显著性的F检验，检验，相关系数显著性相关系数显著性 t检验，三者等价的，检验，三者等价的，检验结果是完全一致的。检验结果是完全一致的。对一元线性回归，只做其中对一元线性回归，只做其中 的一种检验即可。的一种检验即可。l建立的模型是否合适？或者说，这个拟合的模型有多建

4、立的模型是否合适？或者说，这个拟合的模型有多“好好”？要回答这些问题，可以从以下几个方面入手？要回答这些问题，可以从以下几个方面入手1.所估计的回归系数所估计的回归系数 的符号是否与理论或事先预期相的符号是否与理论或事先预期相一致一致n在不良贷款与贷款余额的回归中，可以预期贷款余额越多在不良贷款与贷款余额的回归中，可以预期贷款余额越多不良贷款也可能会越多，也就是说，回归系数的值应该是不良贷款也可能会越多，也就是说，回归系数的值应该是正的，在上面建立的回归方程中，我们得到的回归系数正的，在上面建立的回归方程中，我们得到的回归系数 为正值为正值2.如果理论上认为如果理论上认为x与与y之间的关系不仅

5、是正的，而且是之间的关系不仅是正的，而且是统计上显著的，那么所建立的回归方程也应该如此统计上显著的，那么所建立的回归方程也应该如此n在不良贷款与贷款余额的回归中，二者之间为正的线性关在不良贷款与贷款余额的回归中，二者之间为正的线性关系，而且，对回归系数的系，而且，对回归系数的t检验结果表明二者之间的线性关检验结果表明二者之间的线性关系是统计上显著的系是统计上显著的3.回归模型在多大程度上解释了因变量回归模型在多大程度上解释了因变量y取值的取值的差异？可以用判定系数差异？可以用判定系数R2来回答这一问题来回答这一问题n在不良贷款与贷款余额的回归中，得到的在不良贷款与贷款余额的回归中，得到的R2=

6、71.16%，解释了不良贷款变差的，解释了不良贷款变差的2/3以以上，说明拟合的效果还算不错上，说明拟合的效果还算不错4.考察关于误差项考察关于误差项 的正态性假定是否成立。因的正态性假定是否成立。因为我们在对线性关系进行为我们在对线性关系进行 检验和回归系数进检验和回归系数进行行时，都要求误差项时，都要求误差项 服从正态分布，服从正态分布，否则，我们所用的检验程序将是无效的。否则，我们所用的检验程序将是无效的。 正正态性的简单方法是画出残差的直方图或正态态性的简单方法是画出残差的直方图或正态概率图概率图5.计量单位的讨论，因果模型的特征计量单位的讨论，因果模型的特征Excel输出的部分回归结

7、果输出的部分回归结果R2） 残差分析残差分析1 用残差证实模型的假定用残差证实模型的假定2 用残差检测异常值和有影响的观测用残差检测异常值和有影响的观测值值残差图残差图(residual plot)1.表示残差的图形表示残差的图形n关于关于x的残差图的残差图n关于关于y的残差图的残差图n标准化残差图标准化残差图2.用于判断误差用于判断误差 的假定是否成立的假定是否成立 3.检测有影响的观测值检测有影响的观测值残差图残差图(形态及判别形态及判别)残差图残差图(例题分析例题分析)不良贷款对贷款余额回归的残差图不良贷款对贷款余额回归的残差图-4-2024680100200300400贷款余额(x)残

8、差标准化残差标准化残差(standardized residual) 残差除以它的标准差后得到的数值。计算公式为n sei是第i个残差的标准差，其计算公式为 标准化残差图标准化残差图 用以直观地判断误差项服从正态分布用以直观地判断误差项服从正态分布这一假定是否成立这一假定是否成立 n若假定成立，标准化残差的分布也应服从若假定成立，标准化残差的分布也应服从正态分布正态分布n在标准化残差图中，大约有在标准化残差图中，大约有95%的标准的标准化残差在化残差在-2到到+2之间之间 标准化残差图标准化残差图(例题分析例题分析)不良贷款对贷款余额回归的不良贷款对贷款余额回归的标准化残差图标准化残差图-2-

9、1012340100200300400贷款余额标准化残差异常值异常值1.如果某一个点与其他点所呈现的趋势不相吻合，这个点就有可能是异常点，或称为野点.n如果异常值是一个错误的数据，比如记录错误造成如果异常值是一个错误的数据，比如记录错误造成的，应该修正该数据，以便改善回归的效果的，应该修正该数据，以便改善回归的效果n如果是由于模型的假定不合理，使得标准化残差偏如果是由于模型的假定不合理，使得标准化残差偏大，应该考虑采用其他形式的模型，比如非线性模大，应该考虑采用其他形式的模型，比如非线性模型型n如果完全是由于随机因素而造成的异常值，则应该如果完全是由于随机因素而造成的异常值，则应该保留该数据保

10、留该数据2.在处理异常值时，若一个异常值是一个有效的观测值，不应轻易地将其从数据集中予以剔除. 异常值异常值识别识别1.异常值也可以通过标准化残差来识别2.如果某一个观测值所对应的标准化残差较大，就可以识别为异常值3.一般情况下，当一个观测值所对应的标准化残差小于-2或大于+2时，就可以将其视为异常值有影响的观测值有影响的观测值1.如果某一个或某一些观测值对回归的结果有强烈的影响，那么该观测值或这些观测值就是有影响的观测值 2.一个有影响的观测值可能是n一个异常值，即有一个值远远偏离了散点一个异常值，即有一个值远远偏离了散点图中的趋势线图中的趋势线n对应一个远离自变量平均值的观测值对应一个远离

11、自变量平均值的观测值n或者是这二者组合而形成的观测值或者是这二者组合而形成的观测值 有影响的观测值图示有影响的观测值图示存在一个有影响观测值的散点图存在一个有影响观测值的散点图024681012010203040 xy不存在影响值的趋势有影响的观测值存在影响值的趋势一、变量间关系的种类一、变量间关系的种类二、相关系数的计算、评价及检验二、相关系数的计算、评价及检验三、回归模型、回归方程、估计回归方程的概三、回归模型、回归方程、估计回归方程的概念，回归方程参数的最小二乘估计念，回归方程参数的最小二乘估计四、判定系数、估计标准误差的四、判定系数、估计标准误差的 计算，及线性关系检验及计算，及线性关

12、系检验及 回归系数的检验回归系数的检验五、回归分析结果的评价五、回归分析结果的评价26利用回归方程进行估计和预测1.根据自变量 x 的取值估计或预测因变量 y的取值2.估计或预测的类型n点估计wy 的平均值的点估计wy 的个别值的点估计n区间估计wy 的平均值的置信区间估计wy 的个别值的预测区间估计27利用回归方程进行估计和预测（点估计）28 y 的平均值的点估计的平均值的点估计1.利用估计的回归方程，对于自变量 x 的一个给定值 x0 ，求出因变量 y 的平均值的一个估计值E(y0) ，就是平均值的点估计2.在前面的例子中，假如我们要估计人均国民收入为2000元时，所有年份人均消费金额的的

13、平均值，就是平均值的点估计。根据估计的回归方程得29 y 的个别值的点估计的个别值的点估计301.点估计不能给出估计的精度，点估计值与实际值之间是有误差的，因此需要进行区间估计2.对于自变量 x 的一个给定值 x0，根据回归方程得到因变量 y 的一个估计区间3.区间估计有两种类型n置信区间估计n预测区间估计31 y 的平均值的置信区间估计的平均值的置信区间估计 1.利用估计的回归方程，对于自变量 x 的一个给定值 x0 ，求出因变量 y 的平均值E(y0)的估计区间 ，这一估计区间称为置信区间置信区间2. E(y0) 在1-置信水平下的置信区间为niiyxxxxnSnty1220201)2(3

14、2【例例】根据前例，求出人均国民收入为1250.7元时，人均消费金额95%的置信区间 解：根据前面的计算结果 712.57，Sy=14.95， t(13-2)2.201，n=13置信区间为:0 y33 y 的个别值的预测区间估计的个别值的预测区间估计 1.利用估计的回归方程，对于自变量 x 的一个给定值 x0 ，求出因变量 y 的一个个别值的估计区间，这一区间称为预测区间预测区间 2. y0在1-置信水平下的预测区间为34 【例例】根据前例，求出1990年人均国民收入为1250.7元时，人均消费金额的95%的预测区间 解：根据前面的计算结果有 712.57，Sy=14.95，t(13-2)2.201，n=13 的置信区间为0 y35影响区间宽度的因素1. 置信水平 (1 - )n区间宽度随置信水平的增大而增大2. 数据的离散程度 (s)n区间宽度随离散程度的增大而增大3. 样本容量n区间宽度随样本容量的增大而减小4. 用于预测的 xp与x的差异程度n区间宽度随 xp与x 的差异程度的增大而增大36置信区间、预测区间、回归方程37为你的难过而快乐的是敌人，为你的快乐而快乐的是朋友，为你的难过而难过的就是那些该放进心里的人。 谢 谢 ！38