概率论与数理统计(浙大版)第七章第八章课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《概率论与数理统计(浙大版)第七章第八章课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 概率论 数理统计 浙大 第七 第八 课件
- 资源描述:
-
1、第七章 参数估计关键词:矩估计法 极大似然估计法 置信区间 置信度点估计区间估计1.222222 ,1 ;,2,xXXf xex 参数估计是统计推断的基本问题之一,实际工作中碰到的总体它的分布类型往往是知道的,只是不知道其中的某些参数,例如:产品的质量指标 服从正态分布,其概率密度为:但参数的值未知,要求估计,有时还希望以一定的可靠性来估计 值是在某个范围内或者不低于某个数。参数估计问题就是要求问题的提出:通过样本估计总体分布所包含的未知参数的值。参数估计的两种方法:点估计法和区间估计法2.1 参数的点估计1212,1,2,niiiniXXXikXXXi 点估计的问题就是根据样本,对每一个未知
2、参数,构造出一个统计量,作为参数 的估计,称为。的估计量 点估计有两种方法:矩估计法和极大似然估计法3.主要内容主要内容:一一.矩估计法矩估计法二二.极大似然估计极大似然估计三三.估计量的评选标准估计量的评选标准一一.矩估计法矩估计法矩思想矩思想:利用样本矩作为相应总体矩的估计量利用样本矩作为相应总体矩的估计量 nikiXn11估计估计 kXE)(n,),;(11未知未知总体总体kkxfX 矩估计法矩估计法:4.121212121;,1,2,1 1,2,1121,212kkkvvknnvviiXF xXkE XE XvkXXXXvAXvkkAknA 设总体 的分布函数为是待估计的未知参数,假定
3、总体 的 阶原点矩存在,则有:对于样用样本矩作为总体矩的估计,即本其 阶样本:矩是:令 12122 ,12kkAkkk 解此方程即得的一个矩估计量一 矩估计法:矩估计法:5.1210,nXXXXX 2222例:设总体 的均值 和方差都存在,且,均未知,是取自 的一个样本,试求的矩估计。112221 1()niiXAAXXn2令解:先求总体矩:22212,E XE XD XEX22121111,nniiiiAXXAXnn再求样本矩:6.1122 01 0 0 ,nXxxf xXXXX例:设总体 的密度为:为未知参数,其他,为取自 的样本,求 的矩估计。E Xxf x dx解:110 xdx1XE
4、 XX令21XX7.二、二、极大似然估计法极大似然估计法 极大似然估计法是在极大似然估计法是在总体的分布类型已知总体的分布类型已知的的条件下所使用的一种参数估计方法条件下所使用的一种参数估计方法.它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的年提出的.GaussFisher然而,这个方法常归功于然而,这个方法常归功于英国统计学家英国统计学家费歇费歇.费歇费歇在在1922年重新发现了这一方法,年重新发现了这一方法,并首先研究了这种方法的一些性质并首先研究了这种方法的一些性质.8.极大似然原理:极大似然原理:一个随机试验有若干个可能结一个随机试验有若干个可能结果果A,B,C,
5、。若在一次试验中,结果。若在一次试验中,结果A发生,发生,则一般认为试验条件对则一般认为试验条件对A最有利最有利,即,即A发生的发生的概率概率 最大最大)/(AP条件条件?,11,99 1 ,1 99 ,问最有可能从何箱取问最有可能从何箱取已知取到红球已知取到红球球球箱从中任取箱从中任取任取任取黑黑红红乙乙黑黑红红甲甲如如 0.99)/(甲甲红球红球P0.01)/(乙乙红球红球P自然,认自然,认为从甲箱取更合理为从甲箱取更合理9.极大似然估计法:极大似然估计法:又如,兔龟赛跑,得第一名的最有可能是谁?又如,兔龟赛跑,得第一名的最有可能是谁?(1)X-离散型,离散型,已知已知 X的分布的分布未知
6、未知 ),()(xpxXP 样本样本 取到观测值取到观测值),(21nXXX),(21nxxx事件事件A),()(2211nnxXxXxXPAP )()()(2211nnxXPxXPxXP 独立独立10.Xi与与X 同分布同分布 niinxpxpxpxp121),(),(),(),()()()(21nxXPxXPxXP 对给定的样本值对给定的样本值 niixp1),(),.,(21nxxx niixpL1);()(即即是参数是参数 的函数,称为的函数,称为似然函数似然函数,记做,记做).(L11.),(ixp),(xp改改ni,2,1 结构:结构:n 项连乘,总体分布项连乘,总体分布)(L,)
7、,()(变而变变而变随随 LAP A已经发生,由极大已经发生,由极大似然原理,似然原理,达到最大,所以达到最大,所以 的最合理的最合理估计值估计值 应满足:应满足:为最大值为最大值)(L定义定义 对给定的样本值对给定的样本值 ,若,若nxxx,21满足满足),(21nxxx)(max)(LL 12.的极大似然估计量的极大似然估计量为为的极大似然估计值的极大似然估计值为为称称 ),(),(:2121nnXXXxxx如何求如何求?即求?即求 的最大值点问题的最大值点问题)(L方法一方法一:若若 为可导函数为可导函数)(L),(,)(nXXXddL210 得到得到解方程解方程13.回忆:回忆:(1)
8、单调性相同,从而单调性相同,从而最大值最大值点相同点相同.)(ln,0)(xfxf niixpL1);()()2(n项连乘项连乘,求导麻烦求导麻烦)(ln Ln项项相加,求导简单相加,求导简单方法二:方法二:,0)(ln 得到得到解方程解方程 dLd从而,从而,的最大值点的最大值点最大值点就转为求最大值点就转为求求的求的)(ln )(LL对数似然函数对数似然函数14.),(),(),(21 nxfxfxf niixf1),((2)连续型总体似然函数的求法)连续型总体似然函数的求法设设X为连续型总体,其概率密度为:为连续型总体,其概率密度为:)()()(2121nXXXxfxfxfn),(21n
9、xxxf 对来自总体的样本对来自总体的样本 ,其观测值其观测值为为 ,作为与总体,作为与总体X同分布且相互同分布且相互独立的独立的n维随机变量,样本维随机变量,样本的联合概率密度为的联合概率密度为:),(21nxxx),(21nXXX);(xf 其中其中 未知未知 15.于是,样本于是,样本 落入点落入点),(21nXXX),(21nxxx邻域内的概率为邻域内的概率为 ,由极大似然原,由极大似然原理,最合理的理,最合理的 的估计值的估计值 应该是使应该是使iniixxf 1),(iniixxf 1),(达到最大,由于达到最大,由于 是不依赖于是不依赖于ix 的增量,所以我们只需求使的增量,所以
10、我们只需求使似然函数似然函数 niixfL1),()(达到最大达到最大16.求求 的步骤:的步骤:,0)(ln )3()(ln )2()()1(得到得到解方程解方程取对数取对数写出写出 dLdLL17.例例1:设总体设总体X的分布律为:的分布律为:0p1,p未知未知,求参数求参数p 的极大似然估计量的极大似然估计量.X01pk1-pp解解:总体总体X的分布律为:的分布律为:.1,0,)1(1 xppxXPxx 设设(X1,X2,Xn)是来自总体是来自总体X的样本。的样本。18.似然函数为:似然函数为:iiXniXpp 11)1(niiniiXnXpp11)1()1ln()(ln)()(ln11
11、pxnpxpLniinii 0)(111)(ln11 niiniixnpxppLdpd niipXPpL1),()(19.解得解得p的极大似然估计量为:的极大似然估计量为:niixnp11 niiXnp11说明:说明:p的极大似然估计值为:的极大似然估计值为:20.解:解:的似然函数为:的似然函数为:niiniiXXfL111);()(121)(nnXXX)10(iX取对数取对数 niiXnL1ln)1(ln)(ln ni 1例例2:设设(X1,X2,Xn)是来自总体是来自总体X的一个样本的一个样本,0,010,);(1未未知知其其中中其其它它 xxxfX求求的极大似然估计量的极大似然估计量2
12、1.01 niiXndLdln)(ln 求导并令其为求导并令其为0从中解得从中解得,ln1 niiXn 即为即为的极大似然估计量。的极大似然估计量。22.推广:推广:未知未知kkxfX ,),;(11),;(),(111kniikxfL kkLL ,0ln0ln 11得到得到解方程解方程 23.例例3:,0,),(2未未知知其其中中 NX的极大似然估计量的极大似然估计量给定一组样本给定一组样本 ,求求 ),(21nXXX2,222)(1221),(ixnieL niixnne122)(21222)()2(解解24.niixnnL12222)(21)ln(2)2ln(2),(ln 0)(212l
13、n0)(221ln1242212niiniixnLxL niiXXnX122)(1,解得解得25.120,0,nXx xx例4:设总体 服从上的均匀分布,未知,试由样本求出 的极大似然估计和矩估计。1 极解:大似然估计 1 0;0 xXf x因 的概率密度为:其它 121 0,0 nnx xxL故参数 的似然函数为:其它 0,Ldlnnd 由于不能用微分法求:L从义发以下定出求 120,innxxmax x xx因为故 的取值范围最小为 1LnnnLxLxL又对的 是减函数,越小,越大,故时,最大;012E XxdxX由 2 矩估计 12,LnnXmax x xx所以 的极大似然估计量为2X2
14、6.,0,2 X123例5:设总体 的概率分布率为:其中未知21-3现得到样本观测值2,3,2,1,3,求 的矩估计与极大似然估计。1 矩估计解:kkE Xx p E(X)=X令352223(1 32)2.2X 0.32 2 极大似然估计()(2)(1 32)(2)(1 32)L32116(23)ln()ln163ln2ln(23)L ln()36023dLd0.427.三、三、衡量估计量好坏的标准衡量估计量好坏的标准 的点估计量的点估计量 一般是不唯一的一般是不唯一的,如何选择好如何选择好的的?首先我们要对估计量提出衡量其好坏首先我们要对估计量提出衡量其好坏的标准的标准.标准标准:无偏性无偏
15、性,有效性有效性,一致性一致性1、无偏性、无偏性的的无无偏偏估估计计量量。为为则则称称定定义义:若若 ,),(21nXXXE28.即即 取值在真值取值在真值 附近来回摆动附近来回摆动 nnXEnXnEXEniinii1)(1)1()(11证明证明:(1)niXEXEi,21 的的无无偏偏估估计计量量。是是的的无无偏偏估估计计量量都都是是试试证证:给给定定样样本本但但未未知知存存在在总总体体例例22212121 SXXXXXXXXDXEXnn(2),(1),(,:629.niiXXnESE12211)()2(niiiXXXXEn122)2(11 niiXXEn1211 2122211XnXnXE
16、nnii niiXnXEn1221130.niiXnEXEn122)(11)22222211 )(nnnnnSE22)()()(XEXDXE 利利用用公公式式:2222)()()(iiiXEXDXE),()()()(22_22_2_nnNXXEXDXE 31.72LnXX例:检验例4的矩估计量与极大似然估计量的无偏性。0,2XUE X解:1,nXXX由于与 同分布 2EEX12niiE Xn22nn 2X因此是 的无偏估计 LnnXX为考察的无偏性,先求的分布,5由第三章第 节知:,nnXFxF x 1 0 0 nnnXnxxfx于是 其它10nnx nxdx LnEE X因此有:1nn Ln
17、X所以是有偏的。32.21,设设是是的两个的两个无偏估计量无偏估计量,若,若)()(21 DD 2、有效性、有效性有有效效。比比则则称称21 .,)(,_的无偏估计量的无偏估计量都是都是与与 XXXEXE11 ._有有效效比比故故又又由由于于1212XXXDnXD 33.1121280,12,72nXUXXXnXX nnn例:设总体是取自 的样本,已知 的两个无偏估计 为见例,判别 与哪个有效时?22142123DDXnn解:1 0 0 nnnXnxxfx由 其它 222221nnnDE XE Xn于是221221 32DDnn n因为比 更有效 1220 2nnnnxnE Xdxn22n n
18、 7nE X根据例 结果:1nn34.相合性相合性(一致性一致性)1,0,0nnnnnXXnlim P 设为参数 的估计量,若对于任意,当时,依概率收敛于,定义:则称为 即的相有:成立,合估计量或一 致估计量35.12,EE证:11290,1 2nnXUXXXnXXn例:设总体是取自 的样本,证明:和是 的相合估计。0,n 由契比雪夫不等式,当时,112DP有:2203n12所以 和都是 的相合估计。21,3Dn222Dn n222DP同理:2220n n36.37.38.39.40.41.42.43.2010年数学144.作业题P120:5,1145.跳转到第一页3 区间估计区间估计点估计点
19、估计:的真值的真值的真值的真值缺点:无法确定误差。缺点:无法确定误差。区间估计:区间估计:估计估计的真值所在的区间。的真值所在的区间。()12()12()12()12()12()12()12()12()12()12最大误差:最大误差:1246.跳转到第一页成立,那么称随机区间成立,那么称随机区间 为参数为参数 的置信度为的置信度为 1 的(双侧)置信区间。的(双侧)置信区间。设设 为总体分布的一个未知参数,为总体分布的一个未知参数,X1,X2,Xn是来自是来自总体的一个样本,如果对于给定的总体的一个样本,如果对于给定的1(0 1)能由样本确定出两个统计量:能由样本确定出两个统计量:n2122n
20、2111X,.X,X,X,.X,X21,(双侧)置信下限(双侧)置信下限(双侧)(双侧)置信上限置信上限 置信度置信度1、定义、定义121(71)P使使的真值的真值()12一、区间估计的基本概念一、区间估计的基本概念47.跳转到第一页2.说明说明通常通常取得很小,因而取得很小,因而落在区间落在区间 内的概率很大。一般地,内的概率很大。一般地,越小,则越小,则落在区间落在区间 内的可靠程度越大,但在样本容量相同的内的可靠程度越大,但在样本容量相同的情况下,这个区间长度也就越大,从而估计的误差也就越大。情况下,这个区间长度也就越大,从而估计的误差也就越大。21,21,置信区间的意义:当样本容量置信
展开阅读全文