概率论与数理统计课件：xiech7.ppt

1、第七章第七章 7-1参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断 DE基本基本问题问题7-2什么是参数估计？什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量. .当此数量未知时当此数量未知时, ,从总体抽出一个样本，从总体抽出一个样本，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计. .例如，例如，X N ( , 2), 点估计点估计区间估计区间估计若若 , 2未知未知, 通过构造样本的函数通过构造样本的函数, 给出给出它们的估计值或取值范围就是参数估计它们的估计

2、值或取值范围就是参数估计的内容的内容.参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围， 并使此范围包含未知参数并使此范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.7.1 点估计方法点估计方法点估计的思想方法点估计的思想方法设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：1,2, ,k设 X1, X2, Xn为总体的一个样本构造 k 个统计量：),(),(),(21212211nknnXXXXXXXXX随机变量7-5当测得样本值(x1, x2, xn)时,代入上述方程组，即可得到

3、 k 个数：),(),(),(21212211nknnxxxxxxxxx数 值称数1,k为未知参数1,k的估计值7-6对应统计量 为未知参数的估计量1,k三种常用的点估计方法三种常用的点估计方法q 频率替换法频率替换法利用事件A 在 n 次试验中发生的频率/An n作为事件A 发生的概率 p 的估计量pnnpA7-7例例1 1 设总体X N ( , 2 ), 在对其作28 次 独立观察中, 事件 “X 4” 出现了21 次, 试用频率替换法求参数 的估计值.解解 由75. 02821)24() 4(XP675. 024查表得于是 的估计值为045. 37-8 方法方法用样本 k 阶矩作为总体

4、k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数7-9一般, 不论总体服从什么分布, 总体期望 与方差 2 存在, 则它们的矩估计量分别为11niiXXn2122)(1nniiSXXnq 矩法矩法 7-10事实上，按矩法原理，令niiXnX11)(12122XEXnAniiX)()(222XEXE22 A2211niiXXn212)(1nniiSXXn7-11设待估计的参数为k,21设总体的 r 阶矩存在，记为),()(21krrXE样本 X1, X2, Xn 的 r 阶矩为nirirXnB11kr, 2 , 1令),(21krniriXn11 含未知参数 1,2, ,k 的方程

5、组7-12解方程组 , 得 k 个统计量：11212(,)(,)nknX XXX XX 未知参数 1, ,k 的矩估计量111212( , , , )( , , , )nkknx xxx xx 代入一组样本值得 k 个数: 未知参数 1, ,k 的矩估计值例例2 2 设总体 X N ( , 2 ), X1, X2, Xn为 总体的样本, 求 , 2 的矩法估计量.解解X矩21221XXnnii矩例例3 3 设总体 X E(), X1, X2, Xn为总体的 样本, 求 的矩法估计量.解解( )1/ ,E X1/.X令7-13故1/.X矩例例4 4 设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡

6、，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差.解解)(1147101)(101hxxXEii10222211( )6821( ).10iiD Xxxh7-14例例5 5 设总体 X U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量.解解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE令22212)(baab2abX22221()1122niib aa bAXn7-15解得)( 322XAXa矩21

7、3() ,niiXXXn)(322XAXb矩213() .niiXXXn7-16q 极大似然估计法极大似然估计法 思想方法思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱, 并从箱中任取一球,结果所取得的球是白球.答答: : 第一箱. .7-17问问: : 所取的球来自哪一箱？例例6 6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值.解解总体 X 的概率分布为1 , 0,)1 ()(1xppxXPxx 设 x1, x2, xn为总体样

8、本X1, X2, Xn的样本值,则),(2211nnxXxXxXP)()1 (11pLppniiniixnxnixi, 2 , 1, 1 , 07-18对于不同的 p , L (p)不同, 见右下图现经过一次试验，0.20.40.60.81p0.0020.0040.0060.0080.01Lp),(2211nnxXxXxX发生了，事件则 p 的取值应使这个事件发生的概率最大.p 7-19在容许范围内选择 p ，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大, 则这个p 必使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpn

9、ii110)1 (dlnd212122pxnpxpLniinii所以xp 为所求 p 的估计值.一般, 设 X 为离散型随机变量, 其分布律为,),()(21uuxxfxXP则样本 X1, X2, Xn的概率分布为),(2211nnxXxXxXP),(),(),(21nxfxfxf12, , ,1,2, , ,ixu uin7-21)(),(21LxxxLn记为或称 L( ) 为样本的似然函数),(21nxxxL),(),(),(max21nxfxfxf称这样得到的 ),(21nxxxg为参数 的极大似然估计值极大似然估计值称统计量),(21nXXXg为参数 的极大似然估计量极大似然估计量7-

10、22MLE简记mle简记选择适当的 = ,使 取最大值, 即L( )极大似然法的思想若 X 连续, 取 f (xi, )为Xi 的密度函数niixfL1),()(似然函数为7-23注注1 1注注2 2 未知参数可以不止一个, 如1, k 设X 的密度(或分布)为1( ,)kf x则定义似然函数为111( ,)( ,)nkikiLf x,1,2,ixin1( , , )k11( ,; ,)nkL xx若11( , , ; , , )nkLxx关于1, , k可微,则称0),;,(2121knrxxxL为似然方程组kr, 2 , 1若对于某组给定的样本值 x1, x2, xn，参数 使似然函数取得

11、最大值, 即k,2111( , ; ,)nkL xx),;,(max2121),(21knxxxLk则称1,k为1, k 的极大似然估计值7-24显然，),(21nrxxxgkr, 2 , 1称统计量),(21nrXXXgkr, 2 , 1为1, 2, k 的极大似然估计量7-25例例7 7 设总体 X N (, 2), x1, x2, xn 是 X 的样本值, 求 , 2 的极大似然估计.解解),;,(221nxxxLniixnne1222)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixnie7-26xxnniimle11niimlexxn12

12、2)(1 , 2 的极大似然估计量分别为11,niiXXn212)(1nniiSXXn似然似然方程方程组为组为0)(1ln12niixL0)(2)()(21ln)(212222nxLnii7-27极大似然估计方法极大似然估计方法1） 写出似然函数 L2）求出k,21, 使得),;,(2121knxxxL),;,(max2121),(21knxxxLk7-280),;,(2121knrxxxLkr, 2 , 1可得未知参数的极大似然估计值k,21然后, 再求得极大似然估计量.7-29 L是 的可微函数,解似然方程组1,k若若 L不是 的可微函数, 需用其它方法求极大似然估计值. 请看下例：1,k

13、若若例例8 8 设 X U (a,b), x1, x2, xn 是 X 的一个样本值, 求 a , b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为其它, 0,1),;(bxaabbaxf似然函数为其它, 0, 2 , 1,)(1),;,(21nibxaabbaxxxLinn7-30似然函数只有当 a xi b, i = 1,2, n 时才能获得最大值, 且 a 越大, b 越小, L 越大.令xmin = min x1, x2, xnxmax = max x1, x2, xn取maxmin,xbxa则对满足bxxamaxmin的一切 a 1) . (1) 不是 D( X )的无偏

14、估量; niinXXnS122)(1(2) 是 D( X ) 的无偏估计量. niiXXnS122)(11证证212121)(1XXnXXnniinii前已证证明2)()(,)()(XDXDXEXEiinXDXEXE2)(,)()()()(1)(121212XEXEnXXnEniinii因而)()(2222n221nn212)(11niiXXnE故 证毕.例例3 3 设),(21mXXX是总体 X 的一个样本 ,XB(n , p) n 1 , 求 p 2 的无偏估计量. 解解 由于样本矩是总体矩的无偏估计量以及数学期望的线性性质, 只要将未知参数表示成总体矩的线性函数, 然后用样本矩作为总体矩

15、的估计量, 这样得到的未知参数的估计量即为无偏估计量. npXEX)(令)1 ()()(12212pnpnpXEXmmiiXXmnnpmii122211因此, p 2 的无偏估计量为) 1() 1(11nnXXmmiii故XXmpnnmii12221)(例例4 4 设总体 X 的密度函数为00, 01);(xxexfx0为常数),(21nXXX为 X 的一个样本证明X与,min21nXXXn都是的无偏估计量证证 )(1XEEX故)()(XEXE是 的无偏估计量.X,min21nXXXZ令000)(zenzzfnzZ即nZEnEZ)(0100zeznz)(nZE故 n Z 是 的无偏估计量.)(

16、)()(121zXPzXPzXPnniizXP1)(1 (1),(1)(21zXzXzXPzFnZ),(2111nXXX都是总体参数 的无偏估计量, 且)()(21DD则称 比 更有效.12定义定义 设有效性有效性),(2122nXXX所以,X比,min21nXXXn更有效.是 的无偏估计量,问哪个估计量更有效？ X,min21nXXXn由例4可知, 与 都00, 01);(xxexfx0为常数例例5 5 设总体 X 的密度函数为221),min(nXXXnDnXD2)(解解 ，例例6 6 设总体 X，且 E( X )= , D( X )= 2 ),(21nXXX为总体 X 的一个样本证明in

17、iiXc11是 的无偏估计量(2) 证明X比iniiXc11更有效证证 (1) niiiniicXEcE111)()(. 11niic., 2 , 11ninci(1) 设常数(2) niiiniicXDcD122121)()(ncnii112)(1) (12DnD结论结论算术均值比加权均值更有效. .由柯西-许瓦兹不等式知2222111111nnnniiiiiiiccnc 例如 X N( , 2 ) , ( X 1 ,X 2 ) 是一样本.213212211212143413132XXXXXX都是 的无偏估计量由例6(2) 知3最有效.0)(limPn定义定义 设 是总体参数 ),(21nX

18、XX则称是总体参数 的一致(或相合)估计量.的估计量. 若对于任意的 , 当n 时, 一致性一致性依概率收敛于 , 即,0一致性估计量仅在样本容量 n 足够大时,才显示其优越性.关于一致性的两个常用结论关于一致性的两个常用结论 1. 样本 k 阶矩是总体 k 阶矩的一致性估计量. 是 的一致估计量.由大数定律证明由大数定律证明用切贝雪夫不用切贝雪夫不 等式证明等式证明矩法得到的估计量一般为一致估计量在一定条件下, 极大似然估计具有一致性2. 设 是 的无偏估计 量, 且 , 则0)(limDn例例8 800, 01);(xxexfXx0为常数则 是 的无偏、有效、一致估计量.X证证 由例7 知

19、 是 的无偏、有效估计量.X)(limXDn0lim2nn所以 是 的一致估计量, 证毕.X7.3 7.3 区间估计区间估计引例引例 已知 X N ( ,1), 不同样本算得的 的估计值不同，因此除了给出 的点估计外, 还希望根据所给的样本确定一个随机区间, 使其包含参数真值的概率达到指定的要求. 的无偏、有效点估计为X随机变量常数如引例中，要找一个区间,使其包含 的真值的概率为0.95. ( 设 n = 5 )51,NX1, 051NX取05. 0查表得96. 12/z这说明即称随机区间为未知参数 的置信度为0.95的置信区间.95. 05196. 15196. 1XXP05. 096. 1

20、51XP5196. 1,5196. 1XX 反复抽取容量为5的样本,都可得一个区间,此区间不一定包含未知参数 的真值, 而包含真值的区间占95%.置信区间的意义置信区间的意义若测得 一组样本值, 它可能包含也可能不包含 的真值, 反复则得一区间(1.86 0.877, 1.86 + 0.877)抽样得到的区间中有95%包含 的真值.86.1x算得)51,51(22zXzX当置信区间为时区间的长度为5122z 达到最短?2/z为何要取97. 3)13. 2(84. 13321zz92. 3)96. 1(96. 1221zz-2-1120.10.20.30.432z31z-2-1120.10.20

21、.30.42z21z取 = 0.05设 为待估参数, 是一给定的数, ( 0 50, 的置信区间的置信区间2121的置信区间为因此mSnSmn22212221)7(令 Zi = Xi -Yi , i = 1,2, n, 可以将它们看成来自正态总体 Z N ( 1 2 , 12 + 22) 的样本仿单个正态总体公式(2) 的置信区间为21niiiZYXYXnS122)()(112221,(4) 未知未知, 但但 n = m , 的置信区间的置信区间21nSntYXZ) 1()(2)8(,YXZ取枢轴量(5) 方差比方差比2221的置信区间的置信区间 ( 1 , 2 未知未知) 1, 1(/222

22、1222122222121mnFSSSSF因此, 方差比2221的置信区间为) 1, 1(1,) 1, 1(121222122221mnFSSmnFSS)9(取枢轴量),()()()(1)(122211221212212221121mnFYXnmYmXnFmjjniimjjnii(6) 方差比方差比2221的置信区间的置信区间 ( 1 , 2 已知已知)因此, 方差比2221 的置信区间为),()()(,),()()(221122121122121mnFYXnmmnFYXnmmjjniimjjnii)10(例例2 2 某厂利用两条自动化流水线罐装番茄酱. 现分别 从两条流水线上抽取了容量分别为

23、13与17的两个相互独立的样本1321,XXX1721,YYY 与已知2222217 . 4,4 . 2,5 . 9,6 .10gsgsgygx假设两条流水线上罐装的番茄酱的重量都服从正态分布, 其均值分别为 1与 2(1) 若它们的方差相同,22221求均值(2) 若不知它们的方差是否相同, 求它们的方差比的置信度为 0.95 的置信区间21的置信度为0.95 的置信区间;差) 2(2) 1() 1(11)()(222121mntmnSmSnmnYX解解查表得0484. 2)28(025. 0t21由公式(6) 的置信区间为)5545. 2,3545. 0(2) 1() 1(11)(2221

24、2mnSmSnmntYX(1) 取枢轴量(2) 枢轴量为)16,12(/2221222122222121FSSSSF查表得16. 31)12,16(1)16,12(89. 2)16,12(025. 0975. 0025. 0FFF2221由公式(9)得方差比 的置信区间为)6136. 1,1767. 0() 1, 1(1,) 1, 1(1975. 02221025. 02221mnFSSmnFSS( (三三) ) 单侧置信区间单侧置信区间定义定义 对于给定的 (0 50 ).) 1 , 0()1 ()(NpppXn(近似)222)1 ()(0zpppXn0)2()(222222XnpzXnpzn令222),2(),(22XnczXnbznaaacbbpaacbbp24,242221所以参数 p 的置信区间为( p1, p2 )例如例如 自一大批产品中抽取100个样品,其中有60个一级品, 求这批产品的一级品率 p 的置信度为0.95的置信区间.366 . 01002cp 的置信区间为)69. 0,50. 0(),(21pp96. 1,05. 0, 6 . 0,100025. 0zxn84.10396. 11002a84.123)96. 16 . 01002(2b