第一章概率统计基础课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《第一章概率统计基础课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第一章 概率 统计 基础 课件
- 资源描述:
-
1、F,MFWilliam of Occham(12851348)from wikipediaOccams razor:Entia non sunt multiplicanda praeter necessitatem Or:Entities should not be multiplied unnecessarily the explanation of any phenomenon should make as few assumptions as possible,eliminating,or shaving off,those that make no difference in the
2、observable predictions of the explanatory hypothesis or theory.2YX20,1,0,0.3XUniformN样本数n=10用M阶多项式拟合:1Mjjjyw x0阶多项式拟合1阶多项式拟合3阶多项式拟合9阶多项式拟合211inRMSiiEyyn9阶多项式拟合,训练样本数n=159阶多项式拟合,训练样本数n=100岭回归:最小化 22101ppnridgeiijjjijjRSSyX ww岭回归岭回归教材第8章目标:选择使测试误差最小的模型M,称为模型选择。11,ntriiiRML Y Y Mn,R ML Y Y M EtrR MRMop
3、 M训练误差的乐观性trR MRMop M训练误差的乐观性欠拟合程度+复杂性惩罚 trR MRMop Mop MtrRMR M22ptrpCMRMn2 MSE噪声方差的估计,通过一个低偏差模型的估计p基的数目n训练样本数目使用所有特征的模型pCM2R Ml M E1loglog|,niiil ML Mf YMX122log|,ntrtriiiRMlMf Y MX 1log|,niiif YMX,M FtrlMi为测试集上数据索引n 22trR MlMp 22222trtrnpAIC MlMpRMn 222112ntriiilMyfx(高斯模型时,对数似然与平方误差损失一致)211ntriiiR
4、Myfxn2trnRM()2logtrBIC MlMn p 22112ntriiilMyfx2trnRM同AIC22()logtrnpBIC MRMnnF()()()()(|,)|(|,)|,(|)(|,)|ffffffffdqqqqqqqq=ZZZZZMMMMMMMMv11,.,nnX YXYZ()|fqM(|,)fqZM(|)fM|Z(|,)fZMM111222(|)()(|)(|)()(|)ffffffZZZZMMMMMM()mf M(|)mf Z M,1mmM M(|)()(|)mmmfffZZMMMm12()()ffMM 12(|)(|)fBFfZZZMM111222(|)()(|)
5、(|)()(|)ffffffZZZZMMMMMMZ2(|)f Z M1(|)f Z M2M1M2MC11M(|)(|,)(|)mmmmmmfffdZZMMMm|(|)(|,)(|)mmmmmZbest fit likelihoodOccam factorfffZZMMM (|,)(|)mmmmffZMM|Z1 2 (|)(|,)(|)det2mmmmmbest fit likelihoodOccam factorfffZZAMMM log(|,)mmfAZ M log(|)log(|,)log12mmmmdffnOZZMM2log(|,)mmf ZMf(|)mf Z Mmmd22()logtr
展开阅读全文