不确定性决策理论与方法概述课件1.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《不确定性决策理论与方法概述课件1.ppt》由用户(三亚风情)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 不确定性 决策 理论 方法 概述 课件
- 资源描述:
-
1、不不确确定定性性决决不不确确定定生生的的概概率,率,甚甚至至对对未未来来状状态态都都难难以以把把握握的的决决策策问问题。题。v特特点点:状状态态的的不不确确定定性。性。不不确确定定性性:不不确确定定性性来来自自人人类类的的主主观观认认识识与与客客观观实实际际之之间间存存在在的的差差异。异。事事物物发发生生的的随随机机性、性、人人类类知知识识的的不不完完全、全、不不可可靠、靠、不不精精确确和和不不一一致致以以及及自自然然语语言言中中存存在在的的模模糊糊性性和和歧歧义义性,性,都都反反映映了了这这种种差差异,异,都都会会带带来来不不确确定定性。性。不不确确定定性性就就造造成成了了具具有有相相同同描
2、描述述信信息息的的对对象象可可能能属属于于不不同同概概念。念。v解解决决问问题题的的主主要要理理论论方方法法:人人工工智智能能与与不不确确定定性性理理论论不不确确定定性性叶叶斯斯决决策策准准则则就就难难以以凑凑效。效。下下面面介介绍绍几几种种常常用用的的不不确确定定性性决决策策准准则。则。v悲悲观观准准则则或或极极小小化化极极大大准准则则【Wald,1950】考考察察采采取取行行动动ai,i=1,2,m时时可可能能出出现现的的最最坏坏后后果,果,即即最最大大损损失失si或或最最小小效效用用ui;选选择择行行动动ak,使使得得sk(uk)在在所所有有行行动动中中最最小小(最最大大)。v乐乐观观准
3、准则则考考察察采采取取行行动动ai,i=1,2,m时时可可能能出出现现的的最最好好后后果,果,即即最最小小损损失失oi或或最最大大效效用用vi;选选择择行行动动ak,使使得得ok(vk)在在所所有有行行动动中中最最小小(最最大大)。不不确确定定性性1951】考考察察采采取取行行动动ai,i=1,2,m时时可可能能出出现现的的最最坏坏后后果果和和最最好好后后果,果,即即最最大大损损失失si和和最最小小损损失失oi或或最最小小效效用用ui和和最最大大效效用用vi;设设决决策策人人的的乐乐观观系系数数为为,则则选选择择行行动动ak,使使得得(1-)sk+ok(1-)uk+vk)在在所所有有行行动动中
4、中最最小小(最最大大)。不不确确定定性性age,1951】在在状状态态j下下考考察察采采取取行行动动ai的的损损失失lji或或效效用用uji和,和,并并将将其其与与在在此此状状态态下下采采取取不不同同行行动动时时的的最最小小损损失失sj或或最最大大效效用用uj进进行行比比较,较,其其差差值值的的大大小小定定义义为为后后悔悔值值rji,从从而而形形成成一一个个后后悔悔值值表;表;针针对对后后悔悔值值表,表,应应用用悲悲观观准准则则求求解:解:找找出出不不同同状状态态下下采采取取行行动动ai的的最最大大后后悔悔值值pi,然然后后再再使使所所有有行行动动的的最最大大后后悔悔值值极极小,小,其其所所对
5、对应应的的行行动动记记为为决决策策结结果。果。不不确确定定性性825】Laplace认认为,为,对对真真实实的的自自然然状状态态一一无无所所知知等等价价于于所所有有自自然然状状态态具具有有相相同同的的概概率。率。然然后后借借助助于于贝贝叶叶斯斯准准则则进进行行决决策。策。不不确确定定性性lnor,1954】不不确确定定性性lnor,1954】不不确确定定性性智智能能决决策策理理论论与与环环境境:决决策策问问题题所所涉涉及及的的变变量量规规模模越越来来越越大;大;决决策策所所依依赖赖的的信信息息具具有有不不完完备备性、性、模模糊糊性、性、不不确确定定性性等等特特点,点,使使得得决决策策问问题题难
6、难以以准准确确地地量量化化表表示;示;某某些些决决策策问问题题及及其其目目标标可可能能是是模模糊糊的、的、不不确确定定的,的,使使得得决决策策者者对对自自己己的的偏偏好好难难以以明明确,确,随随着着决决策策分分析析的的深深入,入,对对决决策策问问题题的的认认知知加加深,深,自自己己原原有有的的偏偏好好/倾倾向向得得到到不不断断地地修修正,正,使使得得决决策策过过程程出出现现不不断断调调整整的的情情况。况。v这这时,时,传传统统的的决决策策数数学学模模型型已已经经难难以以胜胜任任求求解解复复杂杂度度过过高高的的决决策策问问题、题、含含有有不不确确定定性性的的决决策策问问题题以以及及半半结结构构化
7、、化、非非结结构构化化的的决决策策问问题,题,因因而而产产生生了了智智能能决决策策理理论、论、方方法法及及技技术。术。智智能能决决策策理理论论与与方方ificial Intelligence,AI)相相关关理理论论方方法,法,融融合合传传统统的的决决策策数数学学模模型型和和方方法法而而产产生生的的具具有有智智能能化化推推理理和和求求解解的的决决策策方方法,法,其其典典型型特特征征是是能能够够在在不不确确定、定、不不完完备、备、模模糊糊的的信信息息环环境境下,下,通通过过应应用用符符号号推推理、理、定定性性推推理理等等方方法,法,对对复复杂杂决决策策问问题题进进行行建建模、模、推推理理和和求求解
8、。解。AI应应用用于于决决策策科科学学主主要要有有两两种种模模式式:针针对对可可建建立立精精确确数数学学模模型型的的决决策策问问题,题,由由于于问问题题的的复复杂杂性,性,如如组组合合爆爆炸、炸、参参数数过过多多等等而而无无法法获获得得问问题题的的解解析析解,解,需需要要借借助助AI中中的的智智能能搜搜索索算算法法获获得得问问题题的的数数值值解;解;针针对对无无法法建建立立精精确确数数学学模模型型的的不不确确定定性性决决策策问问题、题、半半结结构构化化或或非非结结构构化化决决策策问问题,题,需需要要借借助助AI方方法法建建立立相相应应的的决决策策模模型型并并获获得得问问题题的的近近似似解。解。
9、知知识识发发决决策策的的信信息息和和知知识。识。知知识识发发知知识识发发知知识识发发Data Mining w知知识识发发现现问问题:题:如如何何从从数数据据中中将将知知识识挖挖掘掘出出来?来?面面临临许许多多技技术术问问题:题:如如数数据据异异构构问问题题、数数据据具具有有噪噪音音且且信信息息不不完完整、整、使使用用什什么么样样的的挖挖掘掘算算法、法、知知识识如如何何表表示示等等知知识识评评价价问问题:题:数数据据本本身身具具有有权权威威性、性、客客观观性,性,但但知知识识不不具具备。备。知知识识如如何何评评价?价?参参考考KDD e Discovery in Databases,KDD)是
10、是指指从从大大量量数数据据中中提提取取有有用用的的(useful)、新新颖颖的的(novel)、有有效效的的(valid)并并最最终终能能被被人人理理解解(understandable)的的模模式式(patterns)的的处处理理过过程程(process)。v数数据据挖挖掘掘(Data Mining,DM)是是KDD的的核核心心阶阶段段,通通过过实实施施相相关关算算法法获获得得期期望望的的模模式。式。KDKDKDKDKDKDKDented(the system verifies the users hypothesis):including the most common methods of
11、 traditional statistics,like goodness of fit(拟拟合合优优度度)test,tests of hypotheses(假假设设检检验验,e.g.,t-test of means),and analysis of variance(ANOVA,方方差差分分析析或或F-检检验验).vDiscovery-oriented(the system finds new rules and patterns autonomously):prediction methods VS description methods;supervised learning(有有导导师
12、师学学习习)VS unsupervised learningxj,.,xN。xj=xj1,.,xji,.,xjdT Rd,xji表表示示对对象象xj对对应应的的第第i个个特特征征(维维度、度、属属性、性、变变量量)的的值。值。输输出:出:Y=C1,.,Ck,.,CK。Ck表表示示类类标标签。签。模模型:型:Y=f(X,W)或或P(Y|X)=f(X,W),将将输输入入X映映射射成成类类标标签签Y或或Y的的概概率率分分布。布。W是是可可调调整整的的参参数数向向量。量。模模型型训训练:练:使使用用归归纳纳学学习习方方法法(经经验验风风险险最最小小化化)确确定定模模型型的的结结构构f和和参参数数W,训
13、训练练样样本本集集为为(xi,yi)。:应应用用于于无无标标签签数数据据的的分分类,类,称称为为聚聚类类分分析析或或探探究究性性分分析,析,其其目目标标是是将将无无标标签签数数据据分分类类到到有有限、限、离离散散的的“自自然然状状态态”。“自自然然状状态态”隐隐藏藏了了数数据据的的结结构,构,而而不不是是为为未未观观测测的的样样本本提提供供一一个个精精确确刻刻画画(描描述述而而非非预预测测)。无无监监督督预预测测学学习习(如如关关联联规规则则发发现、现、链链接接分分析析等等):具具有有预预测测能能力力的的无无监监督督学学习。习。不不确确定定性性决决关关联联规规ion Rules):关关联联规规
14、则则的的形形式式为为AB,A为为前前件,件,B为为后后件。件。(Day=Friday)and(Product=Diaper)(Product=Beer)为为一一典典型型关关联联规规则则A为为满满足足前前件件的的对对象象集,集,B为为满满足足后后件件的的对对象,象,N为为全全部部对对象象集。集。典典型型方方法:法:Apriori算算法。法。NBASupport|ABAConfidence2022-8-9决策理论与方法-智能决策理论与方法关关联联规规则则发发现现(Awal&Srikant在在1994年年提提出出v主主要要思思想想:一一个个频频繁繁项项集集(支支持持度度超超过过给给定定值值的的项项集
15、)集)的的子子集集一一定定是是频频繁繁的的v例如,若beer,diaper,nuts是频繁的,那么beer,diaper 一定是频繁的.任任一一项项是是非非频频繁繁的,的,则则包包含含该该项项的的超超集集一一定定是是不不频频繁繁的。的。v例如,若beer,diaper是不频繁的,那么beer,diaper,nuts一定是不频繁的.关关联联规规则则发发现现(Afrequent itemsets:the sets of items that have minimum support(Apriori)uA subset of a frequent itemset must also be a fre
16、quent itemset,i.e.,if A B isa frequent itemset,both A and B should be a frequent itemsetuIteratively find frequent itemsets with cardinality from 1 to k(k-itemset)Use the frequent itemsets to generate association rules.关关联联规规则则发发现现(ATID Items100 1 3 4200 2 3 5300 1 2 3 5400 2 5itemset sup.1223334153
17、itemset sup.12233353itemset1 21 31 52 32 53 5itemset sup1 211 321 512 322 533 52itemset sup1 322 322 533 52itemset2 3 5itemset sup2 3 52不不确确定定性性决决聚聚类类算算法法将将数数据据分分割割成成若若干干个个簇,簇,被被大大多多数数人人接接受受的的定定义义是:是:簇簇内内的的相相似似性性尽尽可可能能大大(簇簇内内同同质质性性),簇簇间间的的相相似似性性尽尽可可能能小小(簇簇间间异异质质性性)。聚聚类类是是一一个个主主观观过过程,程,其其相相似似性性度度量量都都
18、是是根根据据发发现现感感兴兴趣趣的的“簇簇”的的能能力力主主观观选选择择的,的,不不存存在在一一个个绝绝对对的的准准则则适适用用所所有有情情境。境。输输入:入:X=x1,.,xj,.,xN。xj=xj1,.,xji,.,xjdT Rd,xji表表示示对对象象xj对对应应的的第第i个个特特征征(维维度、度、属属性、性、变变量量)的的值。值。聚聚类类):试试图图将将X分分割割成成K个个簇簇C=C1,.,Ck,.,CK(KN)。满满足足Ci ,i 1,.,k;i 1,.,kCi=X;CiCj=,i,j1,.,k,ij。层层次次聚聚类类:试试图图构构造造一一个个X的的树树状状嵌嵌套套结结构构H=H1,
19、.,HQ(Ql,则则要要么么Ci Cj,要要么么CiCj=。(解解释:释:如如果果两两个个簇簇不不在在同同一一层,层,那那么,么,这这两两个个簇簇要要么么是是包包含含关关系,系,要要么么不不相相交交)2022-8-9决策理论与方法-智能决策理论与方法聚聚n容容的的聚聚类类):试试图图将将X分分割割成成K个个簇簇C=C1,.,Ck,.,CK(KN)。满满足足Ci ,i 1,.,k;i 1,.,kCi=X;对对象象xj属属于于Ci簇簇的的隶隶属属度度为为ui,j,ui,j满满足:足:,11,1;,KNji jii jijxuCuN聚聚类:类:相相都都是是由由一一些些特特征征来来描描述述的,的,常常
20、表表示示为为多多维维向向量。量。特特征征类类型型包包括括定定量量与与定定性、性、连连续续与与离离散、散、名名词词与与序序数数等。等。特特征征类类型型决决定定着着相相似似性性测测度度机机制。制。聚聚类:类:相相数数型型)特特征征Minkowski(闵闵氏氏)距距离:离:值值较较大大和和波波动动较较大大的的特特征征主主导导着着相相似似性。性。n=1时,时,称称为为绝绝对对距距离离(超超矩矩形形聚聚类类)。n=2时,时,称称为为欧欧几几里里德德距距离离(超超球球面面聚聚类类)。n时,时,称称为为上上确确界界距距离,离,Dij=max|xil-xjl|,l=1.d。1/1|ndnijiljllDxxx
21、ixj聚聚类:类:相相n数数型型)特特征征余余弦弦相相似似性:性:Mahalanobis(马马氏氏)距距离:离:S为为协协方方差差矩矩阵,阵,当当各各个个特特征征是是线线性性无无关关的的时时候,候,Dij就就是是欧欧氏氏距距离。离。计计算算量量较较大。大。cos|Tijijijx xSxxxixjO 1()()TijijijDxxSxx聚聚类:类:相相数数型型)特特征征Pearson相相关关系系数:数:Dij=1-rij(不不能能度度量量两两个个对对象象的的差差异异幅幅度度),例例如:如:x1=(1,1,1);x2=(2,2,2)x3=(1,1,2);x4=(2,2,3)点点对对称称距距离离(
22、不不能能度度量量两两个个对对象象的的差差异异幅幅度度):12211()()()()dilijljlijddilijljllxxxxrxxxx1,.,|()()|min|()|()|irjrirjNirjrj ixxxxDxxxxxixjxr聚聚类:类:相相征征取取值值仅仅为为0,1)设设每每个个对对象象都都可可用用d个个特特征征表表示,示,如如果果对对象象有有此此特特征征则则标标记记为为1,否否则则标标记记为为0。对对于于任任意意两两个个对对象象xi,xj,n11、n00、n10、n01分分别别表表示示两两者者都都有、有、两两者者都都无、无、xi有有xj无、无、xi无无xj有有的的特特征征数,
23、数,则:则:或或根根据据不不同同的的情情境,境,w可可以以取取1(Jaccard),2(Sokal),1/2(Gower)。110011001001()ijnnSnnw nn11111001()ijnSnw nn聚聚类:类:相相征征名名词词性性特特征征是是指指取取值值超超过过2个个状状态态的的离离散散型型特特征,征,如如性性别、别、颜颜色色等。等。相相似似性性一一般般采采用用特特征征值值匹匹配配的的办办法法衡衡量。量。11dijijllSSd0,1ijlijSij与 不匹配,与 匹配聚聚类:类:相相n们们遇遇到到的的大大多多数数数数据据对对象象所所包包含含的的特特征征可可能能各各种种类类型型都
24、都有,有,这这时时怎怎么么办?办?将将所所有有特特征征映映射射到到0,1实实数数域;域;将将所所有有特特征征都都映映射射成成二二元元特特征;征;通通用用测测度:度:Sijl表表示示第第l个个特特征征的的相相似似度,度,ijl表表示示是是否否使使用用该该特特征征参参与与测测度。度。11()/()ddijijlijlijlllSS聚聚类:类:相相n于于N个个输输入入数数据据对对象,象,两两两两之之间间的的相相似似性性可可以以表表示示成成一一个个NN阶阶对对称称矩矩阵,阵,称称为为邻邻近近矩矩阵。阵。111111jNiijiNNNjNNSSSSSSSSSS聚聚类:类:主主nnn ns sn概概率率混
25、混合合模模型型n图图模模型型与与谱谱聚聚类类n组组合合搜搜索索技技术术n模模糊糊聚聚类类n基基于于神神经经网网络络n基基于于核核的的方方法法K-meansK-means算法:基于几何中心算法:基于几何中心kixGcardxmilGxlmimi,2,1,)(1)()()1(K-meansK-means算法示例算法示例不不确确定定性性决决连连接接分分析析(Link与与网网站站之之间间网网页页与与网网页页之之间间社社交交网网络络中中的的结结点点之之间间.v需需要要回回答答的的一一个个问问题:题:这这些些连连接接点点谁谁重重要?要?连连接接分分析析 Pa法法(Lary Page,拉拉里里.佩佩奇,奇,
展开阅读全文