多元统计学课件-方差分析.ppt

1、方差分析的基本原理方差分析的基本原理n在现实的生产和经营管理过程中，影响产品质量、在现实的生产和经营管理过程中，影响产品质量、数量或销量的因素往往很多，如农作物的收获量受数量或销量的因素往往很多，如农作物的收获量受作物品种、肥料种类及数量等的影响；超市不同位作物品种、肥料种类及数量等的影响；超市不同位置、竞争者数量对超市销售额的影响置、竞争者数量对超市销售额的影响;大学生性别、大学生性别、年级、专业类别、家庭类型、恋爱状态因素对大学年级、专业类别、家庭类型、恋爱状态因素对大学生消费的影响。在众多因素中，有些因素影响大些，生消费的影响。在众多因素中，有些因素影响大些，有些则小些。有些则小些。n现

2、实中常常需要分析哪几种因素对生产或销售起显现实中常常需要分析哪几种因素对生产或销售起显著影响，并需知道起显著作用的因素如何进行最优著影响，并需知道起显著作用的因素如何进行最优组合，可以获得最理想的效果。组合，可以获得最理想的效果。n方差分析是解决这些问题的一种有效方法方差分析是解决这些问题的一种有效方法行业行业观测值观测值零售业零售业旅游业旅游业航空公司航空公司家电制造业家电制造业12345675766494034534468392945565131492134404451657758不同行业被投诉次数的散点图不同行业被投诉次数的散点图020406080012345行业被投诉次数 零售业 旅游

3、业 航空公司 家电制造n从从散点图上可以看出散点图上可以看出n不同行业被投诉的次数是有明显差异的不同行业被投诉的次数是有明显差异的n即即使是在同一个行业，不同企业被投诉的次数也明使是在同一个行业，不同企业被投诉的次数也明显不同显不同n家电制造业被投诉的次数较高，航空公司被投诉的次数较家电制造业被投诉的次数较高，航空公司被投诉的次数较低低n行行业与被投诉次数之间有一定的关系业与被投诉次数之间有一定的关系n如果行业与被投诉次数之间没有关系，那么它们被如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近

4、模式也就应该很接近仅从散点图上观察还不能提供充分的证据证明不仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异同行业被投诉的次数之间有显著差异n这种差异也可能是由于抽样的随机性所造成的这种差异也可能是由于抽样的随机性所造成的n需要有更准确的方法来检验这种差异是否显著，也需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析就是进行方差分析n即通过对即通过对数据误差来源数据误差来源的分析判断不同总体的均值的分析判断不同总体的均值是否相等。是否相等。n随机误差随机误差因素的同一水平因素的同一水平( (总体总体) )下，样本各观察值之间的差异下，样本各观察值之间的差异比

5、如，同一行业下不同企业被投诉次数是不同的比如，同一行业下不同企业被投诉次数是不同的这种差异可以看成是随机因素的影响，称为这种差异可以看成是随机因素的影响，称为随机误差随机误差 n系统误差（处理误差）系统误差（处理误差）因素的不同水平因素的不同水平( (不同总体不同总体) )下，各观察值之间具有一下，各观察值之间具有一定的差异（如不同行业之间的被投诉次数之间的差定的差异（如不同行业之间的被投诉次数之间的差异），这种差异异），这种差异可能可能是由于抽样的随机性所造成的，是由于抽样的随机性所造成的，也可能也可能是由于是由于行业本身行业本身所造成的，后者所形成的误差所造成的，后者所形成的误差是由系统性

6、因素造成的，称为是由系统性因素造成的，称为系统误差系统误差n数据的误差用平方和数据的误差用平方和(sum of squares)表示表示n组内偏差平方和组内偏差平方和(within groups)因素的同一水平因素的同一水平(同一个总体同一个总体)下样本数据的方差下样本数据的方差比如，零售业被投诉次数的方差比如，零售业被投诉次数的方差组内方差只包含组内方差只包含随机误差随机误差n组间偏差平方和组间偏差平方和(between groups)因素的不同水平因素的不同水平(不同总体不同总体)下各样本之间的方差下各样本之间的方差比如，四个行业被投诉次数之间的方差比如，四个行业被投诉次数之间的方差组间方

7、差既包括组间方差既包括随机误差随机误差，也包括，也包括系统误差系统误差n若不同行业对投诉次数没有影响，则组间误差中只包含随若不同行业对投诉次数没有影响，则组间误差中只包含随机误差，没有系统误差。这时，组间误差与组内误差经过机误差，没有系统误差。这时，组间误差与组内误差经过平均后的数值就应该很接近，它们的比值就会接近平均后的数值就应该很接近，它们的比值就会接近1 1n若不同行业对投诉次数有影响，在组间误差中除了包含随若不同行业对投诉次数有影响，在组间误差中除了包含随机误差外，还会包含有系统误差，这时组间误差平均后的机误差外，还会包含有系统误差，这时组间误差平均后的数值就会大于组内误差平均后的数值

8、，它们之间的比值就数值就会大于组内误差平均后的数值，它们之间的比值就会大于会大于1 1n当这个比值大到某种程度时，就可以说不同水平之间存在当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响着显著差异，也就是自变量对因变量有影响判断行业对投诉次数是否有显著影响，实际上也就是检验被投判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响要是系统误差，说明不同行业对投诉次数有显著影响n比较两类误差，以检验均值是

9、否相等比较两类误差，以检验均值是否相等n比较的基础是偏差平方和之比比较的基础是偏差平方和之比n如果系统误差显著地不同于随机误差，则均如果系统误差显著地不同于随机误差，则均值就是不相等的；反之，均值就是相等的值就是不相等的；反之，均值就是相等的n每个每个总体都应服从正态分布总体都应服从正态分布对于因素的每一个水平，其观察值是来自服从正态分对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本布总体的简单随机样本比如，每个行业被投诉的次数必需服从正态分布比如，每个行业被投诉的次数必需服从正态分布n各个各个总体的方差必须相同总体的方差必须相同各组观察数据是从具有相同方差的总体中抽取的各组

10、观察数据是从具有相同方差的总体中抽取的比如，四个行业被投诉次数的方差都相等比如，四个行业被投诉次数的方差都相等n观观察值是独立的察值是独立的比如，每个行业被投诉的次数与其他行业被投诉的次比如，每个行业被投诉的次数与其他行业被投诉的次数独立数独立n在上述假定条件下，判断行业对投诉次数是否在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等四个正态总体的均值是否相等n如果四个总体的均值相等，可以期望四个样本如果四个总体的均值相等，可以期望四个样本的均值也会很接近的均值也会很接近四个样本的均值越接近，推断四

11、个总体均值相等四个样本的均值越接近，推断四个总体均值相等的证据也就越充分的证据也就越充分样本均值越不同，推断总体均值不同的证据就越样本均值越不同，推断总体均值不同的证据就越充分充分 如果原假设成立，即如果原假设成立，即n四个行业被投诉次数的均值都相等四个行业被投诉次数的均值都相等n意味着意味着每个样本都来自均值为每个样本都来自均值为差为差为的同一的同一正态总体正态总体 若备择假设成立，即若备择假设成立，即n至少有一个总体的均值是不同的至少有一个总体的均值是不同的n四个样本分别来自均值不同的四个正态总体四个样本分别来自均值不同的四个正态总体n设因素有设因素有r 个水平，每个水平的均值分别用个水平

12、，每个水平的均值分别用表示表示n要检验要检验r个水平个水平(总体总体)的均值是否相等，需要提出如的均值是否相等，需要提出如下假设下假设不全相等不全相等方差分析实质是检验多个方差分析实质是检验多个总体均值是否相等的问题总体均值是否相等的问题单因子方差分析单因子方差分析2(,)1,2,1,2,ijiyNirjm 水平水平重复重复y11 y21 yi1 yr1 y12 y22 yi2 yr2 y1j y2j yij yrj y1m y2m yim yrm2(0,)ijN11riir111()0rrriiiiiiar120(0,)1,2,1,2,ijiijriiijyaaNirjm_211()rmTi

13、jijSyy_11mijijyym211211221111()()()()rmTijijrmijiiijrmrmijiiijijeASyyyyyyyyyySS11()()0rmijiiijyyyy其中221111()()rmrmTijiijijSyya2221111()()()rmrrAiiiiijiiSyym yym a221111()()rmrmeijiijiijijSyy2(0,)ijN22( (1)eSr m2(0,)iNm22(1)ASr (1, (1)AAeeSfFF rr mSf(1, (1)F rr m(1, (1)F rr m1, (1)rr m1(1, (1)(1)11AA

14、AeeeTAeSSfrFF rr mSSr mffffrmn 自由度来源来源平方和平方和S自由自由度度f均方和均方和V(方差方差)F比比显著性显著性Aer-1n-rTn-1211()rmeijiijSyy1AASVreeSVnrAeVFV211()rmTijijSyyriirimjiAyymyyS12112)()(xf (x)F F 分布分布F0.1F0.05F0.01概率为概率为0.010.01概率为概率为0.050.05*概率为概率为0.10.1(*)*n对于一般情形：各因子水平下的观测值的个数不对于一般情形：各因子水平下的观测值的个数不完全一样，假设为完全一样，假设为mi，则单因子的方差

15、分析完全，则单因子的方差分析完全类似。类似。n相关符号如下：相关符号如下：rimyyimjijii, 2, 1,1nyyrimjiji11rnnnn21其中：来源来源平方和平方和S自由自由度度f均方和均方和VF比比显著性显著性Aer-1n-rTn-11AASVreeSVnrAeVFVriiirimjiAyymyySi12112)()(rimjiijeiyyS112)(rimjijTiyyS112)(SPSSANALYZECompare MeansOne-way ANOVA Sum of SquaresdfMean SquareFSig.Between Groups1456.6093485.53

16、63.407.039Within Groups2708.00019142.526 Total4164.60922 H0: i = j ( (第第i个总体的均值等于第个总体的均值等于第j j个总体的均值个总体的均值) )H1: i j ( (第第i个总体的均值不等于第个总体的均值不等于第j j个总体的均值个总体的均值) )Levene Statisticdf1df2Sig.195319.898 (I) 行业行业(J) 行业行业Mean Difference(I-J)Std. ErrorSig.95% Confidence IntervalLower BoundUpper BoundLSD 零售业

17、零售业旅游业旅游业1.006.642.882-12.9014.90 航空公司航空公司14.006.990.060-.6328.63 家电制造业家电制造业-10.006.990.169-24.634.63旅游业旅游业零售业零售业-1.006.642.882-14.9012.90 航空公司航空公司13.007.229.088-2.1328.13 家电制造业家电制造业-11.007.229.145-26.134.13航空公司航空公司零售业零售业-14.006.990.060-28.63.63 旅游业旅游业-13.007.229.088-28.132.13 家电制造业家电制造业-24.00(*)7.5

18、51.005-39.80-8.20家电制造业家电制造业零售业零售业10.006.990.169-4.6324.63 旅游业旅游业11.007.229.145-4.1326.13 航空公司航空公司24.00(*)7.551.0058.2039.80投投诉次次数535.00648.0048.00749.0049.00559.00.077.159行业3214Sig.Duncana,bN12Subset for alpha =.05Means for groups in homogeneous subsets are displayed.Uses Harmonic Mean Sample Size =

19、 5.638.a. Homogeneous Subsets多因子方差分析多因子方差分析不同的品牌和不同的地区对某产品销售量的影响不同的品牌和不同的地区对某产品销售量的影响n各个因素的不同水平的搭配所产生的新的影响在统计学上称为各个因素的不同水平的搭配所产生的新的影响在统计学上称为交互作交互作用用。n各因子间是否存在交互作用是多因子方差分析新产生的问题。各因子间是否存在交互作用是多因子方差分析新产生的问题。两个因子间交互作用的概念，反映了单因子方差分析与多因两个因子间交互作用的概念，反映了单因子方差分析与多因子方差分析的本质区别。子方差分析的本质区别。n多因子方差分析问题的分析比较复杂，但其解题

20、的思想和基多因子方差分析问题的分析比较复杂，但其解题的思想和基本方法类同，因而本章仅介绍两因子方差分析。本方法类同，因而本章仅介绍两因子方差分析。257102573不同品牌的彩电在各地区的销售量数据不同品牌的彩电在各地区的销售量数据品牌因素品牌因素地区因素地区因素地区地区1地区地区2地区地区3地区地区4地区地区5品牌品牌1品牌品牌2品牌品牌3品牌品牌4365345358288 350368323280 343363353298 340330343260 323333308298 ,1sjijiyyriijjyy111200(0,)1,2.,1,2,ijijijriisjjijyababNirj

21、s，_211()rmTijijSyy_.11,1,2,sijijyyirs_.11,1,2,rijjiyyjsr2112.11222.111111()()()()()()()rsTijijrsijijijijrsrsrsijijijijijijABeSyyyyyyyyyyyyyyyyyySSS.11.11.11()()0()()0()()0rsijijiijrsijijjijrsijijyyyyyyyyyyyyyyyy其中22.1111()()rsrsAiiiijijSyya22.1111()()rsrseijijijijijijSyyyy22.1111()()rsrsBjjjijijSyyb

22、211()rsTijijSyy2(0,)ijN22(1)(1)(1)(1)eeSrsfrs自由度2(0,)iNs22(1)1AASrfr自由度2(0,)jNr22(1)1BBSsfs自由度22(1)1TTSnfn自由度TABeffff1(,)(1)(1)AAAAAeeeeSSfrFF ffSSrsf1(,)(1)(1)BBBBBeeeeSSfsFF ffSSrsf(,)AAAAeeeSfFFffSf(1, (1)F rr m(,)AeFff(,)BBBBeeeSfFFffSf(,)BeFffr-1s-1(r-1)(s-1)n-1r1is1j2. iA) yy(Sr1is1j2j . iije)

23、 yyyy(S1rSVAA) 1s)(1r (SeVeeAAVVF r1is1j2j .B) yy(S1sSVBBeBBVVF 211()rsTijijSyySPSSANALYZEGeneral Linear ModelUnivariateTests of Between-Subjects EffectsDependent Variable: 销售量15016.250a72145.1798.961.0012157588.05012157588.0509012.795.00013004.55034334.85018.108.0002011.7004502.9252.101.1442872.700

24、12239.3922175477.0002017888.95019SourceCorrected ModelInterceptABErrorTotalCorrected TotalType III Sumof SquaresdfMean SquareFSig.R Squared = .839 (Adjusted R Squared = .746)a. 销售量5284.805337.005344.205347.801.000.314品牌4312Sig.Duncana,bN12SubsetMeans for groups in homogeneous subsets are displayed.B

25、ased on Type III Sum of SquaresThe error term is Mean Square(Error) = 239.392.Uses Harmonic Mean Sample Size = 5.000.a. Alpha = .05.b. 销售量4315.504318.254330.254339.004339.25.071地区54213Sig.Duncana,bN1SubsetMeans for groups in homogeneous subsets are displayed.Based on Type III Sum of SquaresThe error

26、 term is Mean Square(Error) = 239.392.Uses Harmonic Mean Sample Size = 4.000.a. Alpha = .05.b. 0个个1个个2个个3个以上个以上商业区商业区410380590470305310480415450390510390居民区居民区265290445430310350480428220300500530写字楼写字楼180220290246290170283275330256260320n所谓交互作用，简单来说就是不同因子对试所谓交互作用，简单来说就是不同因子对试验所考察的指标的复合作用。即一个因子水验所考察的

27、指标的复合作用。即一个因子水平下的好坏及其程度受另一个因子不同水平平下的好坏及其程度受另一个因子不同水平影响的情况，记作影响的情况，记作。n当需要考虑两个因子的交互作用时，每组试当需要考虑两个因子的交互作用时，每组试验条件的试验验条件的试验至少做两次至少做两次，否则无法将交互，否则无法将交互作用的平方和从误差平方和中分出来。（可作用的平方和从误差平方和中分出来。（可以减轻误差的干扰，提高分析的精度）以减轻误差的干扰，提高分析的精度）11112()0()0()0(0,)1,2,1,2,1,2,ijkijijijkrsijijrijisijjijkyabababababNirjskm，且相互独立，

28、且相互独立_2111()rsmTijkijkSyy_.111,1,2,smijkijkyyirms_. .111,1,2,rmijkjikyyjsm r_.11,1,2,1,2,mijkijkyymirjs21112. . .11122. .11111122. .11111()()()()()()()()()rsmTijkijkrsmijijkijijijijkrsmrsmijijkijkrsmsmijijijkijijkjkSyyyyyyyyyyyyyyyyyyyyyy1riABA BeSSSS2111()rsmTijkijkSyy22.1111()()rsmrAiiiijkiSyysm a

29、22. . .1111()()rsmkBjjjijkjSyyrm b2. .1112. .11()()rsmA BijijijkrsijijijijSyyyym ab22.111111()()rsmrsmeijkijijkijijkijkSyy22(1)1AAASrSfr的自由度22(1)1BBBSsSfs的自由度22(1)(1)(1)(1)A BA BA BSrsSfrs的自由度TABA Befffff22(1)(1)eeeSrs mSfrs m的自由度22(1)1TTTSnSfn的自由度(1)(,)(1)AAAAAeeeeSrSfFF ffSrs mSf(1)(,)(1)BBBBBeeee

30、SsSfFF ffSrs mSf(1)(1)(,)(1)A BA BA BA BA BeeeeSrsSfFF ffSrs mSf(,)AAeFFff(1, (1)F rr m(,)AeFff，(,)BBeFFff(,)BeFff(,)A BA BeFFff(,)A BeFffr-1s-1(r-1)(s-1)rs(m-1)n-1ASeS1rSVAA) 1s)(1r (SVABABeAAVVF BS1sSVBBeBBVVF ABS) 1m(rsSVeeeABABVVFSPSSANALYZEGeneral Linear ModelUnivariateSourceType III Sum of Squ

31、aresdfMean SquareFSig.Corrected Model330592.667(a)1130053.87912.357.000Intercept4528384.00014528384.0001861.830.000竞争者108662.222336220.74114.892.000地区174008.000287004.00035.771.000竞争者 * 地区47922.44467987.0743.284.017Error58373.333242432.222 Total4917350.00036 Corrected Total388966.00035 1. 1. 竞争者者Dep

32、endent Variable: Y306.66716.439272.738340.595296.22216.439262.293330.151426.44416.439392.516460.373389.33316.439355.405423.262竞争者.001.002.003.00MeanStd. ErrorLowerBoundUpper Bound95% Confidence Interval2. 地2. 地区Dependent Variable: Y425.00014.237395.617454.383379.00014.237349.617408.383260.00014.2372

33、30.617289.383地区1.002.003.00MeanStd. ErrorLowerBoundUpper Bound95% Confidence Interval3. 3. 竞争者 * 地者 * 地区Dependent Variable: Y388.33328.474329.567447.100265.00028.474206.234323.766266.66728.474207.900325.433360.00028.474301.234418.766313.33328.474254.567372.100215.33328.474156.567274.100526.66728.474

34、467.900585.433475.00028.474416.234533.766277.66728.474218.900336.433425.00028.474366.234483.766462.66728.474403.900521.433280.33328.474221.567339.100地区1.002.003.001.002.003.001.002.003.001.002.003.00竞争者.001.002.003.00MeanStd. ErrorLowerBoundUpper Bound95% Confidence IntervalEstimated Marginal Means of Y竞争者3.002.001.00.00Estimated Marginal Means600500400300200100地区 1.00 2.00 3.00协方差分析协方差分析