[数学]第7章相关与回归分析课件.ppt

1、1234567n1相关系数的定义n2相关系数的计算n3根据相关系数初步判定变量之间的关系n4简单相关系数的缺陷8yyyysxxxxsssnninnninyxiyyixxyyxxyx222222,1111),cov(9102004006008001000120005001000150020002500YX1120304050607080010203040YX12-60-40-200204060-60-40-200204060YX131）裹胁了其它变量的影响）裹胁了其它变量的影响n（2）只能度量两个变量之间呈线性相关）只能度量两个变量之间呈线性相关比例变化的关系比例变化的关系n（3）复相关系数）复

2、相关系数14n大千世界中复杂的、多种因素存在相互关联。为了描述其间的关联，这里定义的相关系数虽然比协方差指标优越，但是仍然存在不足之处：它裹胁了其它变量的影响或者它们之间的关系乃是其它变量的变化所致，再或者其间存在非线性的相关关系。n要剔除其它变量的影响，只研究指定两个变量的影响，必须再定义偏相关系数令其它变量保持不变，此时这两个变量的相关系数，称为偏相关系数。151617Y=f(X)相关模型回归模型)(XfY)(XfY(X的变化是Y的变化的原因)181920iiiXY10同方差无序列自相关高斯-马尔柯夫假定21XYX10XYX1022XYX10XYX10负相关正相关23)()(),(YEYX

3、EXEYXCovNiNjiiijYEYXEXp11)()(XYXYXYXY协方差为正协方差为负pij是X和Y的联合概率2425uxyiii1026exyxyiiii1010或者：27ninnjniCovCovVarExyuxuuuuiijijiuii,2,1,2,1,2,10,0,02组样本观察值随机抽取了误差项服从正态分布无序列相关在满足基本条件下，28iiXY10iiiXY10样本回归线（函数）iiiXY10总体回归模型样本回归模型29YX0*30YX0*iiXY10iiiXY1031323334yx160165170175180185140150160170180190200YX儿子们身

4、高向着平均身高“回归”，以保持种族的稳定35xyubxay516.033.843637yx纵向距离横向距离距离yxiiA,yxiiB,A为实际点，B为拟合直线上与之对应的点xyyyuiiiii10纵向距离383940YX0*7Y9Y*Y7Y9Min2)(iiYY41)6()5()4()3()2(02)1(02minmin22222222222xxyxyxyxxxyxxxyxxxyuxyuxbayuxbayyyuxyyyunyxnbxbyabanbabnababbaaiiiiiibaiiiiiiiiiiiiiiiiiiiiiiiiiiiii或42221)(iiiiiiXXnYXYXn)(110i

5、iXYn43两者不相关。）式，由（00,cov002,xubabaiixuxuxxyxyyyuiiiiiiiiiiiixbayxbya4445000)1(022uuuxyxyuxyyyuiiiiiiiiiiiiinbabaaba46yybabayyuuyyuyyxyuxyiiiiiiiiiiiiii01：性质由4700,20001,cov0,cov011,cov22,uxuxuxuuxuuxuxuxuxuuxxiiiiiiiiiiiiiiiiiiuxxxxxxxuxnuxuxininux）式由（48000001,covbaubuaubuaubauyuyuyuyuyuyuyyuyynuyxxxi

6、ii49uxuyyiiiiiba残差和=0平均数相等拟合值与残差不相关自变量与残差不相关注意：这里的残差与注意：这里的残差与随机扰动项不是一个随机扰动项不是一个概念。随机扰动项是概念。随机扰动项是总体的残差。总体的残差。50YXXXBnnXXYXBXXnXXXYXNBXYBXYNYYNXBYxxxxxxxxxxxyxyuuuxxxyyyuxyiiiiiiiiniiinnniii122212212110212110111,111,正规方程的解：模型：515253证：22221)(iiiiiiiiiiixxYxYxxYYxxyx令2iiixxk，因0)(XXxii，故有iiiiiYkYxx21 i

7、iiiiiiYwYkXnXYkYnXY)1(110541100EE BBE55 04111111110NXEBNXEXXXBXXXENXXXXBXXXENXBXXXEYXXXEBEYXXXBNXBY，根据基本假定 BBE证明5601101100110101101010)(1)()(xEuEExEEExEEEEnxEuxyxyxyxxyyxyuxyuxyiiiiiiii00E5711111111101010222222xxxxEExxEExxxxEExxniiiiiixxxxyyxxyyxxyyxxxxyyxyuxyuxyiiiiiiiiiiiiiiii11E5859定理：定理：对线性回归模型对

8、线性回归模型 uXYInuuVar2)(的假定下，最小二乘估计量的假定下，最小二乘估计量YXXX)(1是是定理的意义：定理的意义：一个好的估计一个好的估计1 1）具有无偏性）具有无偏性2 2）其方差越小越好）其方差越小越好,在在u u 满足满足E(u)=0,E(u)=0,的最小方差无偏估计。的最小方差无偏估计。60假设*1是其他方法得到的关于1的线性无偏估计量：iiYc*1其中，iiidkc，id为不全为零的常数。iiiiiiiiiXccXcYEcYcEE1010*1)()()()(由*1的无偏性，即1*1)(E可知：110iiiXcc从而有：0ic，1iiXc61*1的方差 2222*1)v

9、ar()var()var()var(iiiiiiiccYcYc =iiiiiidkdkdk22222222)(由于 2)(iiiiiiiikckkckdk =011222222iiiiiiiiiiixxkxcXcXkcxx故 22122222222*1)var(1)var(iiiiiddxdk因为 02id所以 )var()var(1*1当0id，（ni,2,1）等号成立，此时：iikc，*1就是 OLS估计量1。62Sampling distribution of OLS estimator 1 and alternative estimator*111*11)()(EE1*1同理可证明 )

10、var()var(0*0 xxxxxxxxxxxxxxxyxyuxyiuuiiuiiiuiiiiiiiiiiiuiiinnVarnVarXXBVarNNEXXXXXXXXXNNXXXEBVarNXXXBNXBXXXBYXXXBBBBBBEBVarnnXXnXXYXBBEBnyyneeYXXXBYXBXXBXYNYYNXBYii2222212222021111111122212101022110)()()()()()()()()(22正规方程的解：模型：646566 ),(),(,10,21211221221222122iniiiniiiniiiiiniaaYaYXNNdfdfFdfdfntnX

11、nNXYXNY正态分布的线性组合卡方分布除以卡方分布分布标准正态分布除以卡方标准正态分布的和），（67dfdfFFntnstnNnnNNssssxxxxxxxxxxxxniniinii2122212222121221222221,11)1(1110,相互独立与），（样本68)2()(ntSTiii)2(2ntT69H0：*22；H1：*22如果 H0为真，则因为)2(/)(2222222ntxseti所以有，1)/Pr(222*222txti从而，)(),(22*222*22setset检验2的估计值是否在此区间，如果在则接受 H0假设，否则拒绝 H0假设。70 1-接受域 -t/2 O t/

12、2 tH0：*22；H1：*22。计算 2222222/)(ixset比较|t|与2t：|t|2t（t 值大）“统计量的值落入临界域上统计量是统计上显著的拒绝 H0假设Pr(t)（P 值小）。71H0：*22；H1：*22构造一个2的显著水平为的置信区间为：)(),(222222setset。若2在假设 H0：*22之下落入此区间，就不要拒绝 H0假设，但落在区间之外，就拒绝 H0假设。72为了回答上述问题，我们试求两个正数和，位于 0 与 1 之间，使得随机区间（2-,2+）包含2的概率为 1-。用符号表示，Pr(2-22+)=1-这样的一个区间如果存在的话，就称为置信区间（Confiden

13、ceinterval）；1-称为置信系数（Confidence coefficient）；（0)(2/knt，预测能力差；当|ft)(2/knt，预测能力好。2、相对误差：ffffYYY，f事后期当|f10%，可以接受。190191X XY 均值的置信区间Y 个值的置信区间YY这些区域的宽度在XX达到最小。192193uxypxQyupQtttttttttt1111令194195196197198ulnLlnKlnAlnQlnAQuLK199ii10ixyln;lniiiiiiiXxYyXbaY假设：200ii10iiiixyX;lnlnbxlnalnYiiiiXixYyeabYii令，两边取对数可得：201ii10ixyX1;1iiiiiiixYyXbaY令，202ulnLlnKlnAlnQlnulnlnAlnQlnuAQLKlnLKLK22121212112101的线性项于处展开泰勒级数，取关将右端第二项在203uAQLKuAQLK211uAQLK非线性模型（不可线性化）非线性模型（可线性化）非线性模型（不可线性化）204205 yyyysxxxxsssnninnninyxiyyixxyyxxyx222222,1111),cov(20622)()()(YYYYYYYYRtttt22221)(1yyeyyyyRiiiii