1、6.1 6.1 方差分析的引论方差分析的引论 6.2 6.2 单因素方差分析单因素方差分析6.3 6.3 双因素方差分析双因素方差分析6.1 方差分析引论方差分析引论一、方差分析及其有关术语一、方差分析及其有关术语二、方差分析的基本思想和原理二、方差分析的基本思想和原理三、方差分析的基本假定三、方差分析的基本假定四、问题的一般提法四、问题的一般提法l在生产经营管理过程中,通常有很多因素会影响产品在生产经营管理过程中,通常有很多因素会影响产品的质量、产量、销售量等指标的质量、产量、销售量等指标。如。如: :农作物的产量受品种、肥料、气候、雨水、光照、土壤、农作物的产量受品种、肥料、气候、雨水、光
2、照、土壤、播种量等众多因素的影响;播种量等众多因素的影响;产品销售量受品牌、质量、价格、促销手段、竞争产品、产品销售量受品牌、质量、价格、促销手段、竞争产品、顾客偏好、季节、居民收入水平等众多因素的影响;顾客偏好、季节、居民收入水平等众多因素的影响;化工产品的得率受温度、压力、催化剂、原料配比等因化工产品的得率受温度、压力、催化剂、原料配比等因素的影响。素的影响。l因此需要了解:因此需要了解:哪些因素会对所研究的指标产生显著影响;哪些因素会对所研究的指标产生显著影响;这些影响因素在什么状况下可以产生最好的结果。这些影响因素在什么状况下可以产生最好的结果。方差分析就是解决这类问题的一种统计分析方
3、法方差分析就是解决这类问题的一种统计分析方法某大型连锁超市为研究各种促销方式的效果,选择下属 4 个门店,分别采用不同促销方式,对包装食品各进行了4 个月的试验。试验结果如下:超市管理部门希望了解:不同促销方式对销售量是否有显著影响?哪种促销方式的效果最好?促销方式 与上年同期相比(%) A1 (广告宣传) 104.8 95.5 104.2 103.0 A2 (有奖销售) 112.3 107.1 109.2 99.2 A3 (特价销售) 143.2 150.3 184.7 154.5 A4 (买一送一) 145.6 111.0 139.8 122.7 【案例案例1 1】哪种促销方式效果最好哪种
4、促销方式效果最好?影响某化工厂化工产品得率的主要因素是反应温度和催化剂种类。为研究产品的最优生产工艺,在其他条件不变的情况下,选择了四种温度和三种催化剂,在不同温度和催化剂的组合下各做了一次试验,测得结果如下: 化工产品得率试验(得率:%)催化剂 温度 B1 B2 B3 A1(60 OC) 66 73 70 A2(70 OC) 81 96 53 A3(80 OC) 97 79 66 A4(90 OC) 79 76 88 【案例案例2 2】如何确定最优生产工艺如何确定最优生产工艺 温度是否对该产品的得率有显著影响?若有显著影响,应将温度控制在什么范围内可使得率最高?催化剂是否对该产品的得率有显著
5、影响?若有显著影响,哪种催化剂的效果最好?温度和催化剂的不同组合是否对产品得率有显著影响?如有显著影响,哪种温度和催化剂的组合可使得率最高?lANOVA 由英国统计学家R.A.Fisher首创,为纪念Fisher以F命名,故方差分析又称 F 检验 (F test)。用于推断多个总体均值有无差异的统计方法。1. 检验多个总体均值是否相等通过分析数据的误差/差异判断各总体均值是否相等2. 研究分类型自变量对数值型因变量的影响 一个或多个分类尺度的自变量3. 有单因素方差分析和双因素方差分析 单因素方差分析:涉及一个分类的自变量 双因素方差分析:涉及两个分类的自变量什么是方差分析(ANOVA)?消费
6、者对四个行业的投诉次数消费者对四个行业的投诉次数 行业行业观测值观测值零售业零售业旅游业旅游业航空公司航空公司家电制造业家电制造业1 12 23 34 45 56 67 757576666494940403434535344446868393929294545565651513131494921213434404044445151656577775858 分析四个行业之间的服务质量是否有显著差异,也就分析四个行业之间的服务质量是否有显著差异,也就是要判断是要判断“行业行业”对对“投诉次数投诉次数”是否有显著影响,是否有显著影响,作出这种判断最终被归结为检验这四个行业被投诉次作出这种判断最终被归
7、结为检验这四个行业被投诉次数的数的均值是否相等均值是否相等 若它们的均值若它们的均值相等相等,则意味着,则意味着“行业行业”对投诉次数是对投诉次数是没有影响的,即它们之间的服务质量没有显著差异;没有影响的,即它们之间的服务质量没有显著差异;若均值若均值不全相等不全相等,则意味着,则意味着“行业行业”对投诉次数是有对投诉次数是有影响的,它们之间的服务质量有显著差异了;影响的,它们之间的服务质量有显著差异了;1. 因素或因子(factor)所要检验的对象要分析行业对投诉次数是否有影响,行业是要检验的因素或因子2. 水平或处理(treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业是
8、因子的水平3. 观察值在每个因素水平下得到的样本数据每个行业被投诉的次数就是观察值4. 试验这里只涉及一个因素,因此称为单因素四水平的试验5. 总体因素的每一个水平可以看作是一个总体比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体6. 样本数据被投诉次数可以看作是从这四个总体中抽取的样本数据6.1 方差分析引论方差分析引论一一、方差分析及其有关术语、方差分析及其有关术语二、方差分析的基本思想和原理二、方差分析的基本思想和原理三三、方差分析的基本假定、方差分析的基本假定四四、问题的一般提法、问题的一般提法 零售业零售业 旅游业旅游业 航空公司航空公司 家电制造家电制造l仅从散点图上观察
9、还不能提供充分的证据证明不同仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异行业被投诉的次数之间有显著差异 这种差异也可能是由于抽样的随机性所造成的这种差异也可能是由于抽样的随机性所造成的l需要有更准确的方法来检验这种差异是否显著,也需要有更准确的方法来检验这种差异是否显著,也就是进行就是进行方差分析方差分析 所以叫方差分析,因为虽然我们感兴趣的是均值,所以叫方差分析,因为虽然我们感兴趣的是均值,但但在判断均值之间是否有差异时则需要借助于方在判断均值之间是否有差异时则需要借助于方差差 这个名字也表示:这个名字也表示:它是通过对数据误差来源的分它是通过对数据误差来源的分
10、析判断不同总体的均值是否相等。析判断不同总体的均值是否相等。1. 随机误差l因素的同一水平(总体)下,样本各观察值之间有差异l比如,同一行业下不同企业被投诉次数是不同的l这种差异可以看成是随机因素的影响,称为随机误差 2. 系统误差l因素的不同水平(总体)下,各观察值之间有差异l比如,不同行业之间的被投诉次数之间的差异l这种差异可能是由于抽样的随机性所造成的,也可能是由于行业本身所造成的,后者所形成的误差是由系统性因素造成的,称为系统误差1.1.数据的误差用平方和表示。分为:数据的误差用平方和表示。分为:组内组内 ( (within groupswithin groups) )误差误差因素的同
11、一水平因素的同一水平( (总体总体) )下样本数据的误差下样本数据的误差比如,零售业内部不同公司被投诉次数的误差比如,零售业内部不同公司被投诉次数的误差组内误差只包含组内误差只包含随机误差随机误差组间组间 ( (between groupsbetween groups) )误差误差因素的不同水平因素的不同水平( (总体总体) )下各样本之间的误差下各样本之间的误差比如,四个行业被投诉次数之间的误差比如,四个行业被投诉次数之间的误差组间误差包括随机误差和系统误差。组间误差包括随机误差和系统误差。1.1.若不同行业对投诉次数没有影响,则组间误差中只包含随若不同行业对投诉次数没有影响,则组间误差中只
12、包含随机误差,机误差,组间误差与组内误差经过平均后的数值就应该很组间误差与组内误差经过平均后的数值就应该很接近,它们的比值会接近接近,它们的比值会接近1 12.2.若不同行业对投诉次数有影响,在组间误差中除了包含随若不同行业对投诉次数有影响,在组间误差中除了包含随机误差,还包含系统误差,机误差,还包含系统误差,组间误差平均后的数值就会大组间误差平均后的数值就会大于组内误差平均后的数值,它们之间的比值就会大于于组内误差平均后的数值,它们之间的比值就会大于1 13.3.当这个当这个比值大到某种程度比值大到某种程度时,就可以说不同水平之间存在时,就可以说不同水平之间存在着显著差异,也就是自变量对因变
13、量有影响。着显著差异,也就是自变量对因变量有影响。n判断行业对投诉次数是否有显著影响,实际上是检验被投判断行业对投诉次数是否有显著影响,实际上是检验被投诉次数的差异主要是由于什么原因所引起。如果这种差异诉次数的差异主要是由于什么原因所引起。如果这种差异主要是系统误差,说明不同行业对投诉次数有显著影响。主要是系统误差,说明不同行业对投诉次数有显著影响。通常我们使用方差来描述数据的变异,而变异可能是由什么原因造成的呢? 随机误差? 其他原因?方差分析就是将全部观察值的变异(总变异)按设计和需要分解成两个或多个组成部分,再进行变异来源和大小的分析。总变异总变异组间变异组间变异组内变异组内变异某水产研
14、究所为了比较四种不同配合饲料对鱼的饲喂某水产研究所为了比较四种不同配合饲料对鱼的饲喂效果,选取了条件基本相同的鱼效果,选取了条件基本相同的鱼2020尾,随机分成四组,尾,随机分成四组,投喂不同饲料,经一个月投喂不同饲料,经一个月试验试验以后,各组鱼的增重结以后,各组鱼的增重结果列于下表。果列于下表。 四种饲料对鱼的增重效果是否相同四种饲料对鱼的增重效果是否相同饲料饲料鱼的增重鱼的增重合计合计平均平均A1A131.931.927.927.931.831.828.428.435.935.9155.9155.931.1831.18A2A224.824.825.725.726.826.827.927.
15、926.226.2131.4131.426.2826.28A3A322.122.123.623.627.327.324.924.925.825.8123.7123.724.7424.74A4A427.027.030.830.829.029.024.524.528.528.5139.8139.827.9627.96合计合计T=550.8T=550.827.54x ijxiTix水水平平因素因素样本数据样本数据一个一个因素因素(factor)(factor):饲料:饲料四个四个水平水平(level)(level):A1A1、A2A2、A3A3、A4A4每一个水平每一个水平重复试验四次重复试验四次设
16、设 1 1为饲料为饲料A1A1的平均增重,的平均增重, 2 2为饲料为饲料A2A2的平均增重,的平均增重, 3 3为饲料为饲料A3A3的平均增重,设的平均增重,设 4 4为饲料为饲料A4A4的平均增重,的平均增重,检验检验四种饲料对鱼的增重效果是否相同四种饲料对鱼的增重效果是否相同,也就是检也就是检验下面的假设验下面的假设H H0 0: : 1 1 2 2 3 3 4 4 H HA A: : 1 1 , , 2 2 , , 3 3 , , 4 4不全相等不全相等检验上述假设所采用的方法检验上述假设所采用的方法就是就是方差分析方差分析共有三种不同的变异 总变异(Total variation):
17、全部测量值 与总均数 间的差异 组间变异(between group variation ):各组的均数 与总均数 间的差异组内变异(within group variation ):每组的每个测量值 与该组均数 的差异用离均差平方和(sum of squares of deviations from mean,SS)反映变异的大小27.54xijxix27.54x ijxix6.1 方差分析引论方差分析引论一一、方差分析及其有关术语、方差分析及其有关术语二、方差分析的基本思想和原理二、方差分析的基本思想和原理三三、方差分析的基本假定、方差分析的基本假定四四、问题的一般提法、问题的一般提法1.
18、1.每个总体都应每个总体都应服从正态分布服从正态分布对于因素的每一个水平,其观察值是来自服从正对于因素的每一个水平,其观察值是来自服从正态分布总体的简单随机样本态分布总体的简单随机样本比如,每个行业被投诉的次数必需服从正态分布比如,每个行业被投诉的次数必需服从正态分布2.2.各个总体的各个总体的方差必须相同方差必须相同各组观察数据是从具有相同方差的总体中抽取的各组观察数据是从具有相同方差的总体中抽取的比如,四个行业被投诉次数的方差都相等比如,四个行业被投诉次数的方差都相等3.3.观察值是观察值是独立的独立的比如,每个行业被投诉的次数与其他行业被投诉比如,每个行业被投诉的次数与其他行业被投诉的次
19、数独立的次数独立n在上述假定条件下,判断行业对投诉次数是否有显在上述假定条件下,判断行业对投诉次数是否有显著影响,实际上也就是著影响,实际上也就是检验具有同方差的四个正态检验具有同方差的四个正态总体的均值是否相等总体的均值是否相等n如果四个总体的均值相等,可以期望四个样本的均如果四个总体的均值相等,可以期望四个样本的均值也会很接近值也会很接近四个样本的均值越接近,推断四个总体均值相四个样本的均值越接近,推断四个总体均值相等的证据也就越充分等的证据也就越充分样本均值越不同,推断总体均值不同的证据就样本均值越不同,推断总体均值不同的证据就越充分越充分 如果原假设成立,即H0 :1 = 2 = 3
20、= 4四个行业被投诉次数的均值都相等意味着每个样本都来自均值为、方差为 2的同一正态总体 l若备择假设成立,即H1 : i (i=1,2,3,4)不全相等 至少有一个总体的均值是不同的 四个样本分别来自均值不同的四个正态总体 6.1 方差分析引论方差分析引论一一、方差分析及其有关术语、方差分析及其有关术语二、方差分析的基本思想和原理二、方差分析的基本思想和原理三三、方差分析的基本假定、方差分析的基本假定四四、问题的一般提法、问题的一般提法l设因素有k个水平,每个水平的均值分别用1 , 2, , k 表示l要检验k个水平(总体)的均值是否相等,需要提出如下假设: H0 : 1 2 k H1 :
21、1 , 2 , ,k 不全相等u设1为零售业被投诉次数的均值,2为旅游业被投诉次数的均值,3为航空公司被投诉次数的均值,4为家电制造业被投诉次数的均值,提出的假设为H0 : 1 2 3 4 H1 : 1 , 2 , 3 , 4 不全相等方差分析的目的是要检验各个水平的均值1,2, k 是否相等,实现目的的手段是通过方差的比较。如果n个总体的均值相等,必然希望n个样本的均值比较接近,事实上,n个样本的均值愈接近,就愈有证据得出结论:总体均值相等,反之,若n个样本均值的差异愈大,总体均值不相等。样本均值变动性小支持H0,样本均值变动性大支持H1。6.2 单因素方差分析单因素方差分析数据结构数据结构
22、分析步骤分析步骤用用ExcelExcel进行进行方差分析方差分析方差分析中的方差分析中的多重比较多重比较注:从不同水平中抽取的样本容量可以相等,也可以不相等。注:从不同水平中抽取的样本容量可以相等,也可以不相等。一、提出假设二、构造检验统计量l计算各水平的均值l计算全部观测值的总均值l计算误差平方和(SST、SSA、SSE)l计算检验统计量(MSA、MSE)三、统计决策l将统计量的值F与临界值Fa比较,作出对原假设的决策1.一般提法nH0 : 1 = 2 = k 自变量对因变量没有显著影响 nH1 : 1 ,2 , ,k不全相等自变量对因变量有显著影响 2.注意:拒绝原假设,只表明至少有两个总
23、体的均值不相等,并不意味着所有的均值都不相等 l假定从第i个总体中抽取一个容量为ni的简单随机样本,第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数l计算公式为 1. 1. 计算各水平的均值计算各水平的均值1.全部观察值的总和除以观察值的总个数2.计算公式为 l全部观察值 与总平均值 的离差平方和l反映全部观察值的离散状况l其计算公式为4164.608676 l各组平均值 与总平均值 的离差平方和l反映各总体的样本均值之间的差异程度,又称组间平方和,该平方和既包括随机误差,也包括系统误差l计算公式为 l每个水平或组的各样本数据与其组平均值的离差平方和l反映每个样本各观察值的离散状况
24、,又称组内平方和或残差平方和,该平方和反映的是随机误差的大小l计算公式为 SST反映全部数据总的误差程度;SSE反映随机误差的大小;SSA反映随机误差和系统误差的大小总离差平方和(SST)、组间平方和 (SSA)、组内平方和(SSE)之间的关系SST = SSA + SSEl各误差平方和的大小与观察值的多少有关,为消除观察值多少对误差平方和大小的影响,需要将其平均,这就是均方,也称为方差l计算方法是用误差平方和除以相应的自由度l三个平方和对应的自由度分别是SST 的自由度为n-1,其中n为全部观察值的个数SSA的自由度为k-1,其中k为因素水平(总体)的个数SSE 的自由度为n-k 组间方差组
25、间方差:SSA的均方,记为MSA,计算公式为 组内方差:组内方差:SSE的均方,记为的均方,记为MSE,计算公式为,计算公式为l将MSA和MSE进行对比,即得到所需要的检验统计量Fl当H0为真时,二者的比值服从分子自由度为k-1、分母自由度为 n-k 的 F 分布,即 l由统计学家费希尔(R.A.Fisher) 提出的,以其姓氏的第一个字母来命名l设若U为服从自由度为n1的2分布,即U2(n1),V为服从自由度为n2的2分布,即V2(n2),且U和V相互独立,则称F为服从自由度n1和n2的F分布,记为分布的概率密度为分布的概率密度为),(21nnF ., 0, 0,1222)(22121122
26、21212111其他其他xnxnnnxnnnnxfnnnnF l 将统计量的值F与给定的显著性水平a的临界值Fa进行比较,作出对原假设H0的决策根据给定的显著性水平a,在F分布表中查找与第一自由度df1k-1、第二自由度df2=n-k 相应的临界值 Fa 若FFa ,则拒绝原假设H0 ,表明均值之间的差异是显著的,所检验的因素对观察值有显著影响若FF0.05(2,12)=3.8853,所以拒绝原假设,表明电池的平均寿命有显著差异. H0 : 1 = 2 = 3H1 : 1 ,2 ,3不全相等练习:练习:P198P198第第2 2题题用LSD方法检验:.BA,85. 54 .14304 .44显
27、著差异电池的平均寿命之间有与企业则企业拒绝原假设LSDxxBA.CA,85. 54 . 16 .424 .44间有显著差异电池的平均寿命之与企业没有证据表明企业假设不能拒绝原LSDxxCA.CB,85. 56 .126 .4230显著差异电池的平均寿命之间有与企业则企业拒绝原假设LSDxxCB6.3 双因素方差分析双因素方差分析一、双因素方差分析及其类型二、无交互作用的双因素方差分析三、有交互作用的双因素方差分析*l分析两个因素(行因素Row和列因素Column)对试验结果的影响 l如果两个因素对试验结果的影响是相互独立的,分别判断行因素和列因素对试验数据的影响,这时的双因素方差分析称为无交互
28、作用的双因素方差分析或无重复双因素方差分析。l如果除了行因素和列因素对试验数据的单独影响外,两个因素的搭配还会对结果产生一种新的影响,这时的双因素方差分析称为有交互作用的双因素方差分析或可重复双因素方差分析。品牌品牌因素因素地区因素地区因素地区地区1地区地区2地区地区3地区地区4地区地区5品牌品牌1品牌品牌2品牌品牌3品牌品牌4365345358288 350368323280 343363353298 340330343260 323333308298 【例例6.3】l 行因素有k个水平,列因素有r个水平,每一个观察值xij(i=1,2,k,j=1,2,r)可看作是由行因素的k个水平和列因素
29、的r个水平所组合成的kr个总体中抽取的容量为1的独立随机样本。 l 这kr个总体中的每一个总体都服从正态分布,具有相同的方差。n对对行因素提出的假设为行因素提出的假设为H0 0: 1 1 = = 2 2 = = = = i = = = = k ( ( i为第为第i个个水平的均值水平的均值) )H1 1: i (i =1,2, , k) 不全相等不全相等n对对列因素提出的假设为列因素提出的假设为H0 0: 1 1 = = 2 2 = = = = j j = = = = r ( ( j j为第为第j个个水平的均值水平的均值) )H1 1: j (j =1,2,r) 不全相等不全相等(1)计算平方和
30、(SS)总误差平方和行因素误差平方和 列因素误差平方和 随机误差项平方和总离差平方和(SST )、水平项离差平方和 (SSR和SSC) 、误差项离差平方和(SSE) 之间的关系SST = SSR +SSC+SSE (2 2)计算均方)计算均方( (MSMS) )l误差平方和除以相应的自由度l三个平方和的自由度分别是总离差平方和SST的自由度为 krkr-1-1行因素的离差平方和SSR的自由度为 k k-1-1列因素的离差平方和SSC的自由度为 r r-1-1随机误差平方和SSE的自由度为 ( (k k-1)-1)( (r r-1)-1) 计算均方(MS)行因素的均方,记为MSR,计算公式为列因
31、素的均方,记为MSC ,计算公式为随机误差项的均方,记为MSE ,计算公式为(3 3)计算检验统计量)计算检验统计量( (F) )检验行因素的统计量检验列因素的统计量l将统计量的值F与给定的显著性水平a的临界值Fa进行比较,作出对原假设H0的决策根据给定的显著性水平a在F分布表中查找相应的临界值 Fa 若FRFa a ,则拒绝,则拒绝原假设H0 ,表明均值之间的差异是显著的,即所检验的行因素对观察值有显著影响若FC Fa a ,则拒绝,则拒绝原假设H0 ,表明均值之间有显著差异,即所检验的列因素对观察值有显著影响 品牌品牌因素因素地区因素地区因素地区地区1地区地区2地区地区3地区地区4地区地区
32、5品牌品牌1品牌品牌2品牌品牌3品牌品牌4365345358288 350368323280 343363353298 340330343260 323333308298 【例例6.3】l提出假设提出假设对品牌因素提出的假设为H0: 1=2=3=4 (品牌对销售量没有影响)H1: i (i =1,2, , 4) 不全相等(品牌对销售量有影响)对地区因素提出的假设为H0: 1=2=3=4=5 (地区对销售量没有影响)H1: j (j =1,2,5) 不全相等 (地区对销售量有影响)练习:练习:P198P198第第4 4题题解:提出假设 对品种因素提出的假设为H0: 1=2=3 =4=5 (品种对
33、收获量没有影响)H1: i (i =1,2, , 5) 不全相等(品种对收获量有影响)对施肥因素提出的假设为H0: 1=2=3=4 (施肥方案对收获量没有影响)H1: j (j =1,2,3,4) 不全相等 (施肥方案对收获量有影响)双因素方差分析表如下:l由于Fr=7.2397F0.05(4,12)=3.2592,所以拒绝原假设,表明种子的不同品种对收获量的影响有显著差异. (或者利用P-value=0.0033P-value=0.0033F0.05(3,12)=3.4903,所以拒绝原假设,表明不同施肥方案对收获量的影响有显著差异. (或者利用P-value=0.P-value=0.001
34、90019 =0.05进行判断)差异源SSSSdfdfMSMSF FP-valueP-valueF F critcrit行19.06719.0674 44.766754.766757.23977.23970.00330.00333.25923.2592列18.181518.18153 36.06056.06059.20479.20470.00190.00193.49033.4903误差7.9017.90112120.6584170.658417总计45.149545.14951919城市道路交通管理部门为研究不同的路段和不同的时间段对行车时间的影响,让一名交通警察分别在两个路段和高峰期与非高峰
35、期亲自驾车进行试验,通过试验取得共获得20个行车时间(分钟)的数据,如下表。试分析路段、时段以及路段和时段的交互作用对行车时间的影响 m为样本的行数为样本的行数 为对应于行因素的第i个水平和列因素的第j个 水平的第l行的观察值 为行因素的第i个水平的样本均值 为列因素的第j个水平的样本均值 对应于行因素的第i个水平和列因素的第j个水 平组合的样本均值 为全部n个观察值的总均值 1.总平方和:2.行变量平方和:3.列变量平方和:4.交互作用平方和:5.误差项平方和:第第1 1步:步:选择“工具”下拉菜单,并选择“数据分析”选项第第2 2步:步:在分析工具中选择“方差分析:可重复双因素分析”,然后选择“确定”第第3 3步:步:当对话框出现时在“输入区域”方框内键入A1:C11在方框内键入0.05(可根据需要确定)在“每一样本的行数”方框内键入5在“输出选项”中选择输出区域l方差分析的概念、思想、原理、基本假设l单因素方差分析l双因素方差分析课后练习:教材课后练习:教材198198页页1515题题