概率论和数理统计&数理统计的基本概念课件.pptx

1、引引 言言 随机变量及其所伴随的概率分布全面描述了随机随机变量及其所伴随的概率分布全面描述了随机现象的统计性规律。现象的统计性规律。概率论的许多问题中，随机变量的概率分布通常概率论的许多问题中，随机变量的概率分布通常是已知的，或者假设是已知的，而一切计算与推理都是已知的，或者假设是已知的，而一切计算与推理都是在这已知的基础上得出来的。是在这已知的基础上得出来的。但实际中，情况往往并非如此，一个随机现象所但实际中，情况往往并非如此，一个随机现象所服从的分布可能是完全不知道的，或者知道其分布概服从的分布可能是完全不知道的，或者知道其分布概型，但是其中的某些参数是未知的。型，但是其中的某些参数是未知

2、的。1例如：例如：某公路上行驶车辆的速度服从什么某公路上行驶车辆的速度服从什么分布是未知的分布是未知的；电视机的使用寿命服从什么电视机的使用寿命服从什么分布是未知的分布是未知的；产品是否合格服从两点分布，但参数产品是否合格服从两点分布，但参数合格率合格率p是是未知的未知的；2 数理统计的任务则是数理统计的任务则是以概率论为基础，根据试验以概率论为基础，根据试验所得到的数据，对研究对象的客观统计规律性做出合所得到的数据，对研究对象的客观统计规律性做出合理的推断。理的推断。数理统计方法具有数理统计方法具有“用局部推断整体用局部推断整体”的特征的特征 .在数理统计中，不是对所研究的对象全体在数理统计

3、中，不是对所研究的对象全体 (称称为为总体总体)进行观察，而是抽取其中的部分进行观察，而是抽取其中的部分(称为称为样本样本)进行观察获得数据（进行观察获得数据（抽样抽样），并通过这些数据对总），并通过这些数据对总体进行推断体进行推断.3实际生活中的问题：实际生活中的问题：长期的生产经验告诉我们，水泥厂成品打长期的生产经验告诉我们，水泥厂成品打包机装袋的重量包机装袋的重量X服从正态分布。服从正态分布。如何得到该正态分布的具体形式，即两参数确切的值？如何得到该正态分布的具体形式，即两参数确切的值？把打包机使用周期内所有的数据全部记录下来，可近似看做一把打包机使用周期内所有的数据全部记录下来，可近似

4、看做一个连续的密度函数个连续的密度函数抽取抽取50包水泥，重量分别记为：包水泥，重量分别记为：X1，X2，X50因为已知：因为已知：EX=，VarX=2考虑：考虑：)(5015021XXXX5012250)(501iiXXS希望和希望和 2比较接近比较接近总体总体样本样本统计量统计量4希望和希望和比较接近比较接近总体、样本和统计量总体、样本和统计量 总体与样本总体与样本 在数理统计中，把研究对象的全体称为在数理统计中，把研究对象的全体称为总体总体，而，而把组成总体的每个单元称为把组成总体的每个单元称为个体个体。总体可以认为是一个随机变量，而个体的取值就总体可以认为是一个随机变量，而个体的取值就

5、是该随机变量的一个观测值。是该随机变量的一个观测值。因为我们在抽样之前无法预测样本的取值，或因为我们在抽样之前无法预测样本的取值，或者每次抽取的值并不相同，所以样本也可以看者每次抽取的值并不相同，所以样本也可以看成是一个随机变量。成是一个随机变量。5 一旦取定一组样本一旦取定一组样本 X1，,Xn ,得到得到 n 个具体个具体的数的数(x1,x2,xn)，称为样本的一次，称为样本的一次观测值观测值，简，简称样本值称样本值.n 称为这个样本的称为这个样本的容量容量.12 .nXnXXX对总体 在相同的条件下，进行 次重复、独立观察，其结果依次记为，12 ,.nXXXX这样得到的随机变量是来自总体

6、的一个简单随机样本，与总体随机变量具有相同的分布6随机抽样方法的基本要求随机抽样方法的基本要求 独立性独立性每次抽样的结果既不影响其余各次抽每次抽样的结果既不影响其余各次抽 样的结果，也不受其它各次抽样结果的影响。样的结果，也不受其它各次抽样结果的影响。满足上述两点要求的样本称为满足上述两点要求的样本称为简单随机样本简单随机样本.获得简单随机样本的抽样方法叫获得简单随机样本的抽样方法叫简单随机抽样简单随机抽样.代表性代表性样本样本()的每个分量的每个分量 与总体与总体 具有具有相同的分布相同的分布。12,nXXXiXX 从简单随机样本的含义可知，从简单随机样本的含义可知，样本样本 是来自总体是

7、来自总体 、与总体、与总体 具有相同分布的随机变量具有相同分布的随机变量.12,nXXXXX7简单随机抽样简单随机抽样 例如例如：要通过随机抽样了解一批产品的次品率，：要通过随机抽样了解一批产品的次品率，如果每次抽取一件产品观测后放回原来的总量中，则如果每次抽取一件产品观测后放回原来的总量中，则这是一个简单随机抽样。这是一个简单随机抽样。但实际抽样中，往往是不再放回产品，则这不但实际抽样中，往往是不再放回产品，则这不是一个简单随机抽样。但当总量是一个简单随机抽样。但当总量N很大时，很大时，可近似看可近似看成成是简单随机抽样。是简单随机抽样。8 简单随机样本是应用中最常见的情形，今后，简单随机样

8、本是应用中最常见的情形，今后，当说到当说到“X1,X2,Xn是取自某总体的样本是取自某总体的样本”时，若时，若不特别说明，就指简单随机样本不特别说明，就指简单随机样本.若总体的分布函数为若总体的分布函数为F(x)、分布密度函数为、分布密度函数为f(x)。由于。由于简单随机抽样中对每个样本的观测相互独立，故简单简单随机抽样中对每个样本的观测相互独立，故简单随机样本视为随机向量，其联合分布函数为随机样本视为随机向量，其联合分布函数为其简单随机样本的联合分布密度函数为其简单随机样本的联合分布密度函数为=F(x1)F(x2)F(xn)2(,)nF x xx=f(x1)f(x2)f(xn)2(,)nf

9、x xx9统计量统计量 定义定义 设（设（）为总体）为总体X的一个样本，的一个样本，为为不含任何未知参数不含任何未知参数的函数的函数，则，则称称 为样本（为样本（）的一个）的一个统计量统计量。12,nXXX12(,)ng XXX12(,)ng XXX12,nXXX则则 例如例如：设设 是从正态总体是从正态总体 中抽取中抽取的一个样本，其中的一个样本，其中 为已知参数为已知参数,为未知参数，为未知参数，123(,)XXX2(,)N 1233XXX21233XX X123X X X2123XXX是统计量是统计量 不是统计量不是统计量 10几个常用的统计量几个常用的统计量 样本均值：样本均值：设设

10、是总体是总体 的一个样本，的一个样本，12(,)nXXXX11niiXXn样本方差：样本方差：2211nniiSXXn修正样本方差：修正样本方差：22111nniiSXXn221nnnSSn11样本样本k阶原点矩：阶原点矩：11nkkiiXXn样本样本k阶中心矩：阶中心矩：11nkiiXXn顺序统计量：顺序统计量：12(1)(2)(),.,.nnXXXXXX将按从小到大的顺序排列为12样本极差：样本极差：()(1)XnnRXX样本中位数：样本中位数：1222+1 n 1+n2nnnXXXX，为奇数，为偶数13定理（样本均值定理（样本均值与样本方差的数字与样本方差的数字特征）特征）22222 V

11、ar1 ,;,.nnE XXnnE SE Sn 2122(,.,)nXXXXXXS设设总总体体 的均的均值值为为 ，方，方差差为为 ，是是来来自自总总体体 的一的一个个样样本，本，则则样样本均本均值值 和和样样本本方方差差 有有14111111nnniiiiiE XEXE Xnnn证明证明：（：（1）2222111111VarVarVarnnniiiiiXXXnnnn152222112211122111()(2)11121nnniiiiinnniiiiiniiSXXXX XXnnXXXXnnnXXn（2）16222211221222222111(Var()(Var()11()nniiiinii

12、inEXXE XE XnnXE XE SnXE Xnnnnnn222211nnnnnEESSnnES17命题命题6.3.5 设总体设总体 X 的分布函数为的分布函数为 FX，分布密度，分布密度函数为函数为 fX，则，则Xn按大小顺序排列，第按大小顺序排列，第k个随机变量个随机变量X(k)的密度函数为的密度函数为()1!()()1()()()!(1)!kkn kXXXXnfxFxFxfxnkk(1)1()1()(),nXXXfxnFxfx()1()()().nnXXXfxn Fxfx1,2,.,.kn其中特别地，有顺序统计量的分布顺序统计量的分布18经验分布函数经验分布函数（了解一下即可）（了解

13、一下即可）1212,(),.nnXXXFs xxx xxx 设是总体 的一个样本，用表示中不大于 的随机变量的个数1()()XnFxs xxn 定义经验分布函数为绝大多数统计问题的背景是已经知道分布的类型，绝大多数统计问题的背景是已经知道分布的类型，但是不确定分布的参数。但是有些情况下分布的类但是不确定分布的参数。但是有些情况下分布的类型也不清楚，此时就需要引入经验分布函数。型也不清楚，此时就需要引入经验分布函数。19(1)()(1)()0,(),(1,2,1)1,XnkknxxkFxxxxknnxx若若若12(1)(2)(),.()nnnx xxnxxxF x一般，设是总体的一个容量为 的样

14、本值 将它们按大小次序排列如下：则经验分布函数的观察值为203112()XFFx例 设总体 具有一个样本值,，则经验分布函数的观察值为3 0,12(),123 1,2XxFxxx若若若21 数理统计中常用的分布除数理统计中常用的分布除正态分布正态分布外，还有外，还有三个非常有用的连续型分布，即三个非常有用的连续型分布，即 2分布t 分布F分布 数理统计的三大分布(都是连续型).1.1.它们都有直接的数理统计背景。它们都有直接的数理统计背景。2.2.它们都与正态分布有密切的联系。它们都与正态分布有密切的联系。222分布分布 0,1XN 定义定义 设总体设总体 ，是是 的的一个样本一个样本,则称统

15、计量则称统计量 服从服从自自由度为由度为n的的 分布分布，记作，记作X12,.,nX XX222212nXXX222()n自由度是指独立随机变量的个数自由度是指独立随机变量的个数232()n 可可以以证证明明分布的密度函数为分布的密度函数为 12221,0()22 0,0nxnxexnf xx其中其中Gamma函数函数(x)通过下面积分定义通过下面积分定义10(),0t xxe tdtx 12(1)(),(1)!,(1)1,xxxnn 24其图形随自由度的不同而有所改变其图形随自由度的不同而有所改变.分布密度函数的图形分布密度函数的图形2()n25 2 2分布的性质分布的性质u 设设X 2(n

16、)，则，则EX=n，VarX=2n.证明：证明：2211211=(Var()VarnniiiiniiiniiE XEXE XXE XXn26221142211VarVar=Var()(3 1)2nniiiinniiiiXXXE XE Xn22220 (1)(3)3 1 xkkkxE Xedxkkkk为奇数为偶数利用公式：利用公式：27(0,)XN 若若，则则u 2 2分布的可加性分布的可加性221122(),(),XnXn 若若 且且X1,X2相互相互独立，则独立，则21212()XXnn 2(),Xn u 若若 则当则当 n 趋于无穷时，近趋于无穷时，近似的有似的有(0,1)2XnNn 28

17、证明：证明：(0,1)2XnNn 11(0,1)nkkZnNn这里这里22,1,2kkZX可得可得由中心极限定理由中心极限定理29性质性质 设设(X1,X2,Xn)为取自正态总体为取自正态总体XN(,2)的样本，则的样本，则22211()()niiXn 证明证明 由已知，有由已知，有(0,1)，iXN 且各且各iX 相互独立，相互独立，故故2221212()().nniiiiXXn 30 定理定理 设设(X1,X2,Xn)为来自正态总体为来自正态总体 XN(,2)的样本，则样本均值的样本，则样本均值 与样本方差与样本方差 Sn2 相互相互独立，且；独立，且；(1)2,XNn X2222211(

18、)1(nniiXnSnX (2)比较比较 设设(X1,X2,Xn)为取自正态总体为取自正态总体 XN(,2)的样本，则的样本，则22211()()niiXn 31只证明（只证明（1）：）：为为X1,X2,Xn的线性组合，故仍然的线性组合，故仍然服从正态分布，而服从正态分布，而 2,.XNn X1111 nniiiiE XEXE Xnn 221111Var VarVarnniiiiXXXnnn 故故32(2)(2)式的自由度为什么是式的自由度为什么是 n n-1-1？从表面上看，从表面上看，21()niiXX 是是n n个正态随机变量个正态随机变量iXX 的平方和，的平方和，但实际上它们不是独立

19、的，但实际上它们不是独立的，它它们之间有一种线性约束关系：们之间有一种线性约束关系：11()0nniiiiXXXnX 这表明，当这个这表明，当这个n n个正态随机变量中有个正态随机变量中有n n-1-1个取值给个取值给定时，剩下的一个的取值就跟着唯一确定了，故在定时，剩下的一个的取值就跟着唯一确定了，故在这这n n项平方和中只有项平方和中只有n n-1-1项是独立的项是独立的.所以所以(2)(2)式的自式的自由度是由度是n n-1-1.33(1)10,XNn 定理（定理（抽样分布基本定理抽样分布基本定理）设设(X1,X2,Xn)为来自为来自正态总体正态总体 XN(0,1)的样本，则样本均值的样

20、本，则样本均值 与样本与样本方差方差 Sn2 相互相互独立，且：独立，且：X22(1).nnSn (2)34t分布分布定义：定义：设随机变量设随机变量 XN(0,1)，Y 2(n)，且，且X与与Y相互独立，则称统计量相互独立，则称统计量/XTY n 服从自由度为服从自由度为 n 的的 t 分布分布，记作记作t 分布的概率密度函数为分布的概率密度函数为T t(n).12212()1,()2nTntf ttnnn 35其其形状类似标准正态分布形状类似标准正态分布，关于，关于 x=0 对称对称.当当 n 较大时，较大时，t分布分布近似于近似于标准正态分布标准正态分布.36 一般说来，当一般说来，当

21、n30 时，时，t 分布与标准正态分布分布与标准正态分布N(0,1)就非常接近就非常接近.但对较小的但对较小的 n 值，值，t 分布与标准正态分布之间有分布与标准正态分布之间有较大差异较大差异.且且 P(|T|t0)P(|X|t0)(对于较大的对于较大的t0)，其中其中 X N(0,1)，即在，即在 t 分布的尾部比在标准正态分分布的尾部比在标准正态分布的尾部有着更大的概率布的尾部有着更大的概率.当当 n 趋于无穷趋于无穷时，时，t 分布趋于标准正态分布分布趋于标准正态分布.221lim()2tTnfte37t 分布的数学期望与方差分布的数学期望与方差设设 Tt(n)，则，则Var.(2)2n

22、Tnn 0,(1)E Tn 38定理定理设设(X1，X2，Xn)为来自正态总体为来自正态总体 XN(，2)的样本，则统计量的样本，则统计量*1 (1)nnXXTnnt nSS 证证故故(0,1),XUNn 2,XNn 由于由于39又由于又由于与与S 2相互独立，且相互独立，且 X由由t分布定义得分布定义得221(1)nnXnXnSnSn 222(1)nnSn *(1)nXnt nS 40定理定理 设设(X1,X2,Xn1)和和(Y1,Y2,Yn2)分别是来自分别是来自正态总体正态总体 N(1,2)和和 N(2,2)的样本，且它们相互的样本，且它们相互独立，则统计量独立，则统计量121212()

23、(2)11nXYTt nnSnn 其中其中221 12212,2nn Sn SSnn 、21S22S分别为两总体的样本方差分别为两总体的样本方差.41证明：证明：221212()(0,1)XYUNnn 221212,X NY Nnn 221212,XY Nnn 因此因此由已知条件可得由已知条件可得故故42222211222212(1),(1),nSn Snn 22211222212(2),nSn SVnn 又因为又因为故故22221122212121212121212()2(2)()(2)11nXYUTV nnn Sn SnnnnXYt nnSnn 因此因此43F F分布分布服从第一自由度为服

24、从第一自由度为 n1，第二自由度为，第二自由度为 n2 的的F分布分布，定义定义 设随机变量设随机变量 X 2(n1)、Y 2(n2)，且，且相互独立，则称随机变量相互独立，则称随机变量 12X nZY n 记作记作 ZF(n1,n2).显然，若显然，若 Z F(n1,n2)，则，则 1/Z F(n2,n1).44F F分布的分布密度函数：分布的分布密度函数：121211221,0()0,0nnnZnAzzyf zny 其中其中112212122.22nnnnAnnn 4546定理定理 为正态总体为正态总体 的样本容量和样本方差；且两个样本相互独立，则的样本容量和样本方差；且两个样本相互独立，

25、则统计量统计量222,nS222(,)N 121,nS211(,)N 设设 为正态总体为正态总体 的样的样本容量和样本方差；本容量和样本方差；22*2211221222*221221211211 (1,1)n SnSnn SSF nn 47证明证明由已知条件知由已知条件知22122212221212(1),(1)nSn Snn 且相互独立，且相互独立，由由F F 分布的定义有分布的定义有12212*2*2111222212212222(1)(1,1)(1)nSnSSF nnn Sn 48 例例1 设总体设总体 XN(0,1)，X1,X2,Xn为简单随机为简单随机样本，试问下列统计量各服从什么分

26、布？样本，试问下列统计量各服从什么分布？22343211212242131(1);(2);(3).iinniiiinXXXnXXXXX 解解(1)因为因为 XiN(0,1)，i=1,2,n.所以所以X1 X2 N(0,2)，12(0,1),2XXN 22342(2),XX 故故223412XXXX 223412()22XXXX t(2).49 例例1 设总体设总体 XN(0,1)，X1,X2,Xn为简单随机为简单随机样本，试问下列统计量各服从什么分布？样本，试问下列统计量各服从什么分布？续解续解(2)因为因为X1N(0,1)，故故t(n-1).222(1)niiXn 1221niinXX 12

27、2(1)niiXXn 22343211212242131(1);(2);(3).iinniiiinXXXnXXXXX 50 例例1 设总体设总体 XN(0,1)，X1,X2,Xn为简单随机为简单随机样本，试问下列统计量各服从什么分布？样本，试问下列统计量各服从什么分布？续解续解(3)因为因为所以所以F(3,n-3).3221(3),iiX 224(3),niiXn 32124(1)3iiniinXX 321243(3)iiniiXXn 22343211212242131(1);(2);(3).iinniiiinXXXnXXXXX 51例例2 若若 Tt(n)，问问T 2服从什么分布？服从什么分

28、布？解解因为因为 Tt(n)，可以认为可以认为,UTV n 其中其中UN(0,1)，V 2(n)，22,UTV n U2 2(1)，221UTV n F(1,n).52分位数分位数 设设 X f(n)（f 为某种分布，为某种分布，n 为有关的自由为有关的自由度），度），01，则称满足，则称满足 ()P Xf n 的数的数 f(n)为分布为分布 f(n)的的 分位数分位数（或（或分位点分位点）查课本后面的表可得查课本后面的表可得 2 2分布，分布，t t 分布，分布，F F 分布分布的分位数。的分位数。53注意注意l 对于对于 t(n)分布，当分布，当 n 趋于无穷时，分布趋于趋于无穷时，分布趋于 N(0,1)，故当自由度较大时，用标准正态分布，故当自由度较大时，用标准正态分布的分位数的分位数 u 代替代替 t(n)的分位数。的分位数。l 若若X 2(n)分布，当分布，当n趋于无穷时，趋于无穷时，近似的服从近似的服从 N(0,1)，故当自由度较大时，近似，故当自由度较大时，近似的有的有()2Xnn 2()2.nunn l 对于对于 F(m,n)分布和分布和 (01),),有有1(,)1(,).F m nFn m 54