最大似然估计课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《最大似然估计课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 最大 估计 课件
- 资源描述:
-
1、1第十四讲第十四讲 参数估计参数估计 本次课结束第五章并讲授第六章点估计本次课结束第五章并讲授第六章点估计 下次课讲授区间估计并结束第六章,讲下次课讲授区间估计并结束第六章,讲授第七章假设检验第一节授第七章假设检验第一节 下次上课时交作业:下次上课时交作业:P61P62 重点:点估计重点:点估计 难点:点估计的计算难点:点估计的计算2服从正服从正 态分布态分布,nN2 niiXnX111.样本均值样本均值即即 nNX2,2.统计量统计量 .1,0 NnXu 3.统计量统计量 .1 ntnSXt五、单个正态总体统计量的分布五、单个正态总体统计量的分布 定理定理:,2 NX设总体设总体 则:则:4
2、.4.统计量统计量 nXnii212221 或或独立且:独立且:与样本方差与样本方差样本均值样本均值1)1(.522222 nSnSX )1(12122 nXXnii标准变量的分布标准变量的分布样本均值的样本均值的平方的和的分布平方的和的分布样本的标准变量样本的标准变量第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识3 ,2 NX设总体设总体抽取容量为抽取容量为9的样本,求样本均值的样本,求样本均值 与总体与总体 之差的绝对值小于之差的绝对值小于2的概率,如果的概率,如果X(1)若已知)若已知=4;(2)若)若未知未知,但已知样本方差的观测值但已知样本方差的观测值.
3、45.182 s例题例题13-5-113-5-1 2 XP 94294XP 5.1|uP 5.15.1 8664.0 解解O xftx t(1)),1,0(94NXu 第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识480.0210.01 89/45.18tXt (2)2 XP 9/45.1829/45.18|XP 397.11 tP)397.1|(|tP 397.121 tP397.1)8(10.0 t查表得:查表得:(1);12801612 iiXP,求求已已知知 ,2,2 NX设总体设总体 抽取容量为抽取容量为16的样本的样本 .1001612 iiXXP,求
4、求未未知知(2)例题例题13-5-213-5-2第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识5(2),15212)116(2161222222 iiXXS解解 16122221)16(21iiX (1)1612128iiXP 161222212821iiXP)32(21 P)32(121 P99.001.01 1612100iiXXP 161222210021iiXXP)25(22 P)25(122 P95.005.01 0.32)16(201.0 0.25)15(205.0 0.250.32x xf2 O01.02 05.02 第十三讲:中心极限定理数理统计基
5、本知识第十三讲:中心极限定理数理统计基本知识6从总体从总体X 中抽取容量为中抽取容量为 的样本的样本 1n1,21nXXX从总体从总体Y 中抽取容量为中抽取容量为 的样本的样本2n2,21nYYY假设所有的试验都是独立的,所以样本假设所有的试验都是独立的,所以样本 1,2,1niXi 及及 都是相互独立的都是相互独立的.2,2,1njYj 样本均值:样本均值:,1111 niiXnX 2121njjYnY样本方差:样本方差:11212111niiXXnS 21222211njjYYnS第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识定理定理6 6 ,211 NX设总
6、体设总体 ,222 NY则则 .1,022212121NnnYXU 7.,22212121 nnNYX.,1211 nNX 证:证:.,2222 nNY.标标准准化化即即得得结结论论将将YX 第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识推论推论 ,21 NX设总体设总体 22,NY则则 .1,0112121NnnYXU 212111nnSYXTw ,221nnt定理定理7 7 ,211 NX设总体设总体 ,222 NY则则其中其中 2)1()1(21222211 nnSnSnSw8 .1,0 22212121NnnYXU 证证:)2()1()1(21222222
7、1122212 nnSnSn 独立,独立,与与又又2221SS )2(112212121212 nntSnnYXnnUw );1()1(),1()1(2222222212221121 nSnnSn 独立,独立,与与21SX独立,独立,与与22SY统计量统计量U U与与 也是独立的。也是独立的。2 第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识9定理定理8 8 ),(2122212221112121nnFnYnXFnjjnii ,211 NX设总体设总体 ,222 NY则则 ),(11212121211nXnii 证:证:)(12212222222nYnjj 独立,
8、独立,与与又又jiYX独立,独立,与与2221 ),(2122212221112122212121nnFnYnXnnFnjjnii 第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识定理定理9 9 则则 ,211 NX设总体设总体 ,222 NY10 ),1(1122121121 nSn 证:证:独立,独立,与与又又2221SS )1(1222222222 nSn 独立,独立,与与2221 )1,1()1()1(2122222121222121 nnFssnnF P2第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识)1,1(21222221
9、21 nnFSSF的的样样本本,求求与与容容量量为为中中分分别别抽抽取取与与,从从总总体体,设设810)2,10()5,20(2122 nnYXNYNX);6()1(YXP).23()2(2221 SSP例题例题13-5-113-5-111 31063106 YXPYXP9896.0)31.2()31.2(1)31.2(UPUP第十三讲:中心极限定理数理统计基本知识第十三讲:中心极限定理数理统计基本知识解解 .1,031082105102022NYXYXU (1)(2))7,9(25222221FSSF 23 2221SSP 222222212/15/232/5/SSP95.005.01)68
10、.3(1)68.3(FPFP12例:例:若总体若总体X X的分布函数为的分布函数为F F(x x,),而,而未知,如何利用总体未知,如何利用总体 ,21nXXX样本样本对对进行估计进行估计。是是未未知知参参数数。两两个个参参数数,本本例例、方方差差其其分分布布函函数数含含有有均均值值例例如如:设设总总体体aaNX ),1,(,时时当当aXnXnPnii 11,的的估估计计。可可以以作作为为 aX ,21nXXX 取样本的一个函数取样本的一个函数则则称称未知参数未知参数的估计值,的估计值,是是的点估计量。的点估计量。nXXX,21 定义:定义:如果以它的观测值作为如果以它的观测值作为 而称其观测
11、值而称其观测值 nxxx,21 是是的点估计值。的点估计值。背景:背景:若总体若总体X X的分布类型已知,而未知的仅仅是其中的一个或的分布类型已知,而未知的仅仅是其中的一个或 几个参数,如何对总体分布的参数作出估计。几个参数,如何对总体分布的参数作出估计。参数估计参数估计一、点估计一、点估计1.1.参数估计定义参数估计定义第十四讲第十四讲 参数估计参数估计13 2.2.求点估计值的方法求点估计值的方法矩估计法矩估计法 kkXEX )(为为X X 的的 k k 阶原点矩。阶原点矩。复习矩定义:复习矩定义:设设X X是随机变量,则称是随机变量,则称.1,121 nikiknxnmkkXxxx阶阶矩
12、矩。记记作作:本本次次幂幂的的平平均均值值被被称称为为样样每每一一个个观观测测值值的的的的样样本本观观测测值值,则则为为总总体体样样本本矩矩定定义义:设设值值样本原点距的算术平均样本原点距的算术平均样本矩实际上是所有的样本矩实际上是所有的法法则则这这种种方方法法称称为为矩矩估估计计,个个方方程程:阶阶矩矩,得得出出阶阶矩矩估估计计总总体体的的样样本本的的个个未未知知参参数数,则则可可用用总总体体有有矩矩估估计计方方法法:如如果果一一个个rkvxnmrkkrknikik,2,111 第十四讲第十四讲 参数估计参数估计14.,0,021的的矩矩估估计计值值求求如如果果取取得得样样本本观观测测值值为
13、为是是未未知知参参数数,上上服服从从均均匀匀分分布布,其其中中在在区区间间设设总总体体 nxxxX 例题例题14-1-114-1-1解:因为总体解:因为总体X X的概率密度的概率密度 其它其它,00,1);(xxf2)()(01 dxxXEX)()(111xEXvxnnii ,因此一个方程:,因此一个方程:总体只有一个参数总体只有一个参数 2)(111 XvXnnii),()(1XEX 2 22)()(XEXDXEX 特别提示:特别提示:第十四讲第十四讲 参数估计参数估计15因此解得因此解得的矩估计量的矩估计量 XXnnii221 而而的矩估计值就是的矩估计值就是 xxnnii221 设总体设
14、总体X服从正态分布服从正态分布 ,其中其中及及 是未知参数。是未知参数。如果取得样本观测值为如果取得样本观测值为 ,求参数求参数及及 的矩估计值。的矩估计值。2,Nnxxx,21例题例题14-1-214-1-2,)()(1 XEX解:解:222 22)()(XEXDXEX;1211XXnnii 阶矩:阶矩:阶与阶与它们分别等于样本它们分别等于样本.11222niiXn 21221 niiXn2121XXnnii第十四讲第十四讲 参数估计参数估计16.)(.22 阶阶中中心心矩矩的的矩矩估估计计值值就就是是样样本本二二总总体体方方差差XD .与与方方差差存存在在都都成成立立,只只要要它它的的均均
15、值值以以上上结结论论对对任任何何总总体体X;)(.1xXE的的矩矩估估计计值值是是样样本本均均值值总总体体均均值值 注注,2 得得 及及 的矩估计值为的矩估计值为,x 21221xxnnii 3.3.求点估计值的方法求点估计值的方法最大似然法最大似然法的的。的的等等式式关关系系来来估估计计参参数数就就是是利利用用这这种种最最大大可可能能我我们们发发生生的的可可能能性性最最大大,则则若若个个,其其中中根根据据其其分分布布的的结结果果有有出出现现一一次次随随机机试试验验中中,可可能能最最大大似似然然法法的的思思想想:在在).,(),(max),(,APCBAPACBAPCBA 第十四讲第十四讲 参
16、数估计参数估计17是是,其其中中的的概概率率为为)定定义义:设设离离散散总总体体();(1xpxX 为似然函数为似然函数即即),(),(),(),(,),()(2122111 nnnniixpxpxpxXxXxXPxpL 称称:是是一一组组样样本本观观测测值值,则则未未知知参参数数,nxxx,21为最大似然估计值。为最大似然估计值。称称)(max)(LL 的最大似然函数的最大似然函数类似可定义连续总体类似可定义连续总体X称称:是是一一组组样样本本观观测测值值,则则未未知知参参数数,nxxx,21为为似似然然函函数数即即),(),(),(),(,),()(2122111 nnnniixfxfxf
17、xXxXxXfxfL 是是,其其中中的的概概率率密密度度为为)定定义义:设设总总体体();(2xfxX 为为最最大大似似然然估估计计值值。称称)(max)(LL 第十四讲第十四讲 参数估计参数估计18(3 3)求似然函数)求似然函数L L()的最大值的最大值.0)()(max ddLL满满足足:假假定定不不需需检检验验,即即确确定定最最大大值值。这这里里我我们们为为零零的的点点来来可可通通过过求求驻驻点点,即即导导数数在在微微积积分分中中我我们们知知道道,是是离离散散变变量量样样本本观观测测值值对对应应,尤尤其其似似然然函函数数时时一一定定注注意意和和以以,求求观观测测值值的的似似然然函函数数
18、,所所注注意意:似似然然函函数数是是样样本本0)(ln)(maxlnln LLzzzz满满足足:因因此此在在同同一一点点取取得得最最大大值值,和和是是递递增增的的,容容易易证证明明的的对对数数我我们们还还知知道道:一一个个变变量量第十四讲第十四讲 参数估计参数估计19设总体设总体X服从泊松分布服从泊松分布 P(),其中其中为未知参数。如果取得为未知参数。如果取得样本观测值为样本观测值为 ,求参数,求参数 的矩(最大似然)估计值。的矩(最大似然)估计值。nxxx,21例题例题14-1-314-1-3得得的矩估计值为的矩估计值为x niiXn11(1)令令,)(XE(2).!exxXPx .!11
19、 nniixexnii exniixi1!似然函数似然函数 L ln1 niix)(ln L niix1!ln n 0 nxnii 11 dLd)(ln令令得得 的极大似然估计值为的极大似然估计值为x niixn11 第十四讲第十四讲 参数估计参数估计20设总体设总体X服从指数分布,概率密度为服从指数分布,概率密度为 0.x ,00;x ,;当当当当xexf ,21nxxx求参数求参数 的矩(最大似然)估计值的矩(最大似然)估计值.其中其中 为未知参数。如果取得样本观测值为为未知参数。如果取得样本观测值为 例题例题14-1-414-1-4 niixne1 (2)似然函数似然函数 nixie1
20、L.1 niix lnn)(ln L解解X niiXn111(1)1)(XE令令得得 的矩估计值为的矩估计值为x1 第十四讲第十四讲 参数估计参数估计01 niixn 令令 dLd ln21.41,432,43)21(32)1(210)(,216811221 XExnnii且且:)(11XExnnii :样样本本矩矩均均值值等等于于总总体体矩矩解:(解:(1)矩估计:)矩估计:第十四讲第十四讲 参数估计参数估计得得 的最大似然估计值为的最大似然估计值为x1 niixn1 是是未未知知参参数数(其其中中)210 14-1-5.(02,7分)分)设总体设总体X的概率分布为:的概率分布为:利用总体利
展开阅读全文