第三讲多元正态分布参数估计课件.ppt

1、1.样本样本多元分析的任务根据样本数据来分析各变量之间的关系分析各变量之间的关系，推断总体的性质。推断总体的性质。多元样本数据11121121222212ppnnnnpxxxxxxxxXxxxx12()iinixxx为一元样本),2,1(pi2.2.样本平均值样本平均值111221111111niinniiiipnipixnxxxXxnnxxn样本平均值是n个点的重心11121121222212ppnnnnpxxxxxxxxXxxxx例题：计算均值、离差阵、协方差和相关阵411335X 4 1 3231 3533X 3.样本离差(平方乘积和)矩阵S112211221()anaaaappaapp

2、xxxxSxxxxxxxx11121121222212ppnnnnpxxxxxxxxXxxxx411335X 计算离差阵112211221()421 3421 2321 2331 33353325314228anaaaappaappxxxxSxxxxxxxx 11()()nijkiikjjkvxxxxn211()niikiikvxxn (样本协方差)(样本方差)4.4.样本协差阵样本协差阵()()111()()naaijp pp paVSXXXXvnn142112833VS411335X pppppprrrrrrrrrR2122221112116.样本相关矩阵Rijijijiijjiijjvs

3、rv vs s R为非负定矩阵1iir -样本相关系数142112833VS121211 2220.18914 810.1890.891srs sR 变量的线性组合的样本值变量的线性组合的样本值125b221416113404Xc计算计算 和和 均值方差与协方差均值方差与协方差b Xc X3302331112251012XS 33()22113()1131355E b XE c X ()3()139cov(,)2Var b Xb SbVar c Xc Scb X c Xb Sc111212122212cov(,)qqpppqccccccY Xccc骣=桫LLML7.7.二组样本的协方差矩阵二组

4、样本的协方差矩阵SXX),cov(qnqqnnxxxxxxxxxX212222111211pnppnnyyyyyyyyyY212222111211nkjjkiikijxxyync1)(11),cov(XYnXY),cov(),cov(YXXY8.8.总体均值和协方差矩阵的最大似然估计总体均值和协方差矩阵的最大似然估计设111212122212ppnnnpXXXXXXXXXX用最大似然法求出的均值和协方差的估计量分别为1XSn 9.基本性质X1）是总体均值的无偏估计是总体均值的无偏估计2）11Sn是总体协方差的无偏估计是总体协方差的无偏估计分别是总体均值和协差阵的有效估计分别是总体均值和协差阵的

5、有效估计是总体均值和协差阵的一致估计估计是总体均值和协差阵的一致估计估计3）4）XX11Sn11Sn和和和和10.定理 设1(,)pXNnX11(0,);naaapaSZ ZZN(,)pN和和 S 分别是正态总体分别是正态总体样本均值和离差阵，则样本均值和离差阵，则和和 S 相互独立相互独立X1）2）3）二、多元统计中常用的分布二、多元统计中常用的分布 在一元统计中，常用的分布有卡方分布、在一元统计中，常用的分布有卡方分布、t分分布和布和F分布。在多元统计中，他们分别发展为分布。在多元统计中，他们分别发展为Wishart分布、分布、T2分布和分布和Wilks分布。分布。11 分布和分布和Wis

6、hart分布分布 2定义1 设 为 相互独立且同服从于 分布的随机变量。则(1)所服从的分布叫做 分布，称为自由度且记为 。nxxx,21)1,0(Nniix1222n)(22n定理定理2.由由(1)式定义的随机变量的分布密式定义的随机变量的分布密度函数为度函数为 2时当时当000)(21)(12222xxxexfnxnn 为奇数时当为偶数时当nnnnnn2123)22)(12()!2()2(定理定理3.设设 ，且且 与与 相互独立，则相互独立，则)(121nX)(222nX1X2X)(21221nnXX推论推论2 设设 是抽自正态总是抽自正态总体体 的简单随机样本，则统计的简单随机样本，则统

7、计量量),(21nxxx),(2XN)()(212nXxniiWishart分布分布它是多元样本离差平方和矩阵的分布它是多元样本离差平方和矩阵的分布定义1 设 为 相互独立且同服从于 分布 ，令 则(1)所服从的分布叫做 自由度为 的p维 维希特分布，记作nxxx,21(0,)pNSn12,nXx xx=L1niiiWXXx x=(,)pWWn S:显然，当显然，当p=1 时，有时，有2sS=2221(,)()W nnss c=1122(,),(,)ppWWnWWnSS:1212(,)pWWWnn+S:Wishart分布像卡方分布一样具有加法性质，分布像卡方分布一样具有加法性质，若若相互独立，

8、则相互独立，则设设 ，且，且 与与 相互独立，则称随机变量相互独立，则称随机变量 服从自由度为服从自由度为 的的 分布，分布，记为记为 。将将T平方，即平方，即)1,0(NX)(2nYXYnYXT/nt)(ntT三三 分布与分布与 分布分布2Tt221XTnnX YXY-=在多元统计中在多元统计中 分布是一元统计中分布是一元统计中t分布的推广分布的推广定义：若定义：若 ，S与与X相互独立、称随机变量相互独立、称随机变量是自由度为（是自由度为（p，n）的）的 分布分布 可以转化为可以转化为F分布分布(,)pSWn S:2T21TnX SX-=(0,)pXNS:2T21(,1)npTF p npn

9、p-+-+:Hotelling 2T四、四、分布与分布与Wilks分布分布定义定义3 设设 ，且且 与与 相互独立，则称随机变量相互独立，则称随机变量 服从自由度为服从自由度为 的的 分布，分布，记为记为 。F)(2mX)(2nYXYmnYXnYmXF/),(nmF),(nmFFF分布事实上为从正态总体随机抽取的两个样本方差的比，在方差分析和回归分析中广泛使用描述描述 的变异程度的统计参数称的变异程度的统计参数称为广义方差，其定义有很多为广义方差，其定义有很多如如F统计量的推广是统计量的推广是 统计量统计量 (,)pxNu S:1/,(),max pitrlSSSL1122(,),(,)ppW

10、WnWWnSS:定义：若定义：若相互独立，则称随机变量相互独立，则称随机变量的分布是自由度为的分布是自由度为(p,n1,n2)的的 分布分布112WWWL=+L第三章 假设检验1、已知时单总体均值向量的检验 设从总体XNP(,)中随机抽取了一个容量为n的样本 ，得到的无偏估计为 检验 是否等于已知向量 。即niiXnX1)(1),1()(niXi000:H01:H，)1,0(nNXP)1,(nNXP由于由正态分布与卡方分布的关系得)()()1()(21pXnX构造检验统计量为)()()(20102pXXnT具体步骤是：作统计假设 计算样本的均值计算统计量T的具体值T0按规定的小概率标准，查卡方

11、分布表Ta，得临界值，并作出判断当T0 Ta，接受H0，拒绝H1，即认为 与 没有显著差异。当T0 Ta，接受H1，拒绝H0，即认为 与 有显著差异。002、未知时均值向量的检验 在一元统计理论中，当方差未知时，取检验在一元统计理论中，当方差未知时，取检验统计量为统计量为0()1()(1)1()1niiXntt nXXn)()(11)(0112)(02XXXnXntnii推广到多元，考虑统计量2100()()Tn XVXniiXnX1)(1其中样本均值样本离差阵()()1()()niiiSXXXX(1,)PSWn故由T2分布定义知21201()()(,1)Tnn XSn XTP n)1,0(0

12、nNXP其中0(0,)Pn XN),()1()1(2pnpFnpTnppnF利用T2与F分布的关系，检验统计量取为具体步骤是：作统计假设：，计算样本均值和样本协方差由公式计算F统计量具体值F0。按规定的显著水平，查F分布临界值，并作出判断：当 接受H0，拒绝H1；当 拒绝H0，接受H1。),(0pnpFF),(0pnpFF例1 某小麦良种的四个主要经济性状的理论值为 现在从外地引入一新品种，在21个小区种值，取得数据如表：)50.61,50.51,75.32,75.22(0 小区号 性状1234567X122.8822.7422.6022.9322.7422.5322.67X232.8132.

13、5632.7632.9532.7432.5332.58X351.5151.4951.5051.1751.4551.3651.44X461.5361.3961.2260.9161.5661.2261.30 小区号 性状891011121314X122.7422.6222.6722.8222.6722.8122.67X232.6732.5732.6732.8032.6732.6732.67X351.4451.2351.6451.3251.2151.4351.43X460.3061.3961.5060.9761.4961.1561.15 小区号 性状15161718192021X122.8123.0

14、223.0223.1522.8823.1623.13X233.0233.0532.9533.1533.0632.7832.95X351.7051.4851.5551.5851.4551.4831.38X461.4961.4461.6261.6561.5461.4161.58设新品种的四个性状服从正态，试检验假设 00:H38.6145.5179.3282.224321XXXXX0895.406989.332022.19624.64098.903637.194462.35511.731469.523076.70)()(1211211)()(iiiXXXXS2910.15)()(210102XSX

15、T2493.320417)1(220TTnppnF3查F表，得F0.05(4,17)=2.96，因为 故拒绝H。05.00FF 3、两总体协差阵相等（但未知）时均值向量的检验当P=1时，因且相互独立，在H0成立条件下，有),(211nNX),(221mNY，)2()2()()(11)(12)(12)(mntmnYYXXmnYXtmjinii)2,1()(2)()()(12)(2)(2mnFYXmnYYXXYXnmnmtii推广到P元总体，可以得到形式类似的统计量T2：XNP(1,),1()(niXiYNP(2,),1()(miYi212()()nmnmTnmXYSXYnmnm12(2,)pSS

16、SWnm()(0,)pnmXYNnm其中)1,()2(1)2(2pmnpFTpmnpmnF具体步骤：作统计假设：，计算样本均值和，样本离差阵。由公式计算统计量具体值F。按规定的显著水平，查F分布临界值当 接受H0，拒绝H1；当 拒绝H0，接受H1。)1,(0pmnpFF)1,(0pmnpFF4、已知时，均值的置信域从一元统计中我们已经了解到，均值假设检验问题本质上也等价于均值的置信区间 假设 来自P元正态总体NP(,)由前面讨论知),2,1()(niXi)()()(20102pXXnT122TP在任给置信度，查卡方分布临界值表得满足1)()()(21pXXn则均值向量的置信度为的置信域为X00:H0)()()(2010pXXn0该置信域是一个中心在椭球。当检验时，若落在该置信域内，即，则在显著水平下，接受H0；若没有落入该置信域内，则否定H0。所以在多元统计中，也可以说均值向量的假设检验问题本质上也等价于求均值向量的置信域。)()()(21pXXn)1,()()(212npTXSXnT1FFP)1,()1()()(12npFpnpnXSXnTXFpnnnpFpnnnpFpnnnpp)()1(,)()1(,)()1(21i则均值向量的置信域为该置信域是一个中心在置信域椭球的半轴长分别为其中5、未知时，均值的置信域的椭球。