第四章-贝叶斯决策分析课件.ppt

1、 课程导入课程导入 风险型决策模型，是根据预测各种时间可能发生的先验概率，然后再采用期望值标准来选择最佳决策的方案。这种建立在先验概率分布的基础上而作出的决策称为先验决策。 这样的决策具备一定的风险性。因为先验概率是根据历史资料或主观判断所确定的概率。未经试验证实，而自然状态概率的变化又直接影响着期望值的计算，并进而影响到决策方案的取舍。为了减少这种风险，需要较准确地掌握和估计这些先验概率。 这就要通过科学试验、调查、统计分析等方法获得较为准确的补充倍息，以修正先验概率，并据以确定各个方案的期望损益值，拟定出可供选择的决策方案，协助决策者作出正确的决策。 一般来说，利用贝叶斯定理求出后验概率，

2、据以进行决策的方法，称为贝叶斯决策方法。 第四章 贝叶斯决策分析 4.1 先验分布 4.2 贝叶斯定理与后验分析 4.3 决策法则 4.4 风险函数、贝叶斯风险和贝叶斯原则 4.5 反序分析 4.6 完全信息价值与最佳样本容量 4.7 关于贝叶斯决策的典型案例分析 4.8 贝叶斯决策方法的优缺点4.1先验分布先验分布 作风险型决策分析时，最先确定的是各种自然状态的概率，一般称为先验概率分布。它在做任何试验或调查之前就确定了。 若根据试验或调查所获得的情报，对先前确定的先验概率分布加以修正，而得到的关于自然状态的新的概率分布，则称为后验分布。4.1.14.1.1客观的先验分布客观的先验分布 概率

3、，是反映在一次试验中随机事件发生可能性大小的概念。它的数值要靠理论分析才能得到。比如，抛掷一枚骰子，考察出几点。假定这枚骰子是匀称的，则所有可能的试验结果有6个，而且这6个结果具有不相容性、完备性和等可能性。于是，根据古典概率的定义求出1点，2点，6点的概率各是16 概率和频率不是一回事。 频率是指在若干次试验中某一随机事件发生的次数与试验总次数之比。频率不是从理论上分析出来的，它是试验的结果，是可以观察的。 4.1.1 客观的先验分布客观的先验分布 通过试验，得出频率，用它来代替概率，这样得出的概率估计称为客观概率。例如，为了估计某种新产品的销售情况，在正式投产前，先生产少量产品，在几个试销

4、点试销，观察应划为畅销或滞销的试销点各有多少个，由此计算出畅销和滞销的频率，从而得出这种新产品畅销、滞销的客观概率来。 对这些自然状态的先验概率的估计或指定，是根据某些客观的情报或证据得出的，故称其为客观先验分布。4.1.2 主观的先验分布主观的先验分布 把决策者这种知识、经验以及建立在这些基础上的判断，定量地概括在状态参数的概率分布中，这样得到的概率称为主观概率。 由于主观概率不像客观概率那样受到许多限制，使用起来灵活方便，故应用十分广泛。对于确定先验概率分布是有帮助的。它的缺点是直接依赖于决策者的知识和经验，缺乏客观性。同一事件不同的决策者估计出来的概率一般说来是不一样的，甚至差别可能很大

5、。尽管如此，在没有适当的客观概率可以应用的情况下，主观概率仍不失为人们经常采用的一种估计方法。4.1.2 主观的先验分布主观的先验分布 主观的先验分布的确定具体分两种情况，现介绍如下: （1）有信息主观先验概率的确定。所谓有信息是指决策者已经积累了处理类似决策问题的经验，或者通过对有关专家咨询获得了对自然状态 的某些认识。 （2）无信息主观先验概率的确定。所谓无信息是指对自然状态的 先验信息甚少或者完全没有信息。4.2 4.2 贝叶斯定理与后验分析贝叶斯定理与后验分析 4.2.1 贝叶斯定理 4.2.2 后验概率的确定 4.2.3 后验分析4.2.1 4.2.1 贝叶斯定理贝叶斯定理 贝叶斯(

6、1702-1763) Thomas Bayes是18世纪的一位英国牧师，也是一位英国数学家。他发明了一个在概率运算和风险决策中广泛适用的定理，即逆概计算公式，被命名为贝叶斯定理。要了解什么是贝叶斯定理，有必要先了解逆概公式， 1(/)()/( )(/)()(/)()(1,2, )iiiiiniiiP B AP AP ABP BP B AP AP B AP Ain4.2.1 4.2.1 贝叶斯定理贝叶斯定理 这个公式告诉我们，在已知 和 的条件下，可以计算出 。这就是逆概公式，即贝叶斯定理。在逆概公式中， 称为先验概率分布， 为条件概率， 即为后验概率分布。 PiAP/iB A/iP ABPiA

7、P/iB A1/P AB 11112233/P A P B AP A P B AP AP B AP AP B A4.2.1 4.2.1 贝叶斯定理贝叶斯定理 /f x /fxxm x m x4.2.1 4.2.1 贝叶斯定理贝叶斯定理 贝叶斯定理的意义在于，能在出现一个新的补充事件条件下，重新修正对原有事件概率的估计。即计算出后验概率分布。 在提供了新的补充信息条件下，这一修正的概率比没有补充信息条件下的概率估计更为准确。 4.2.1 4.2.1 贝叶斯定理贝叶斯定理4.2.2 4.2.2 后验概率的确定后验概率的确定 利用贝叶斯定理进行决策分析，关键的问题是要计算后验概率。即根据已获取的补充

8、信息，重新修正对原有事件概率的估计。简而言之，就是修正先验概率。计算后验概率有公式计算法和概率树计算法两种方法。 1）公式计算法。它是指按逆概基本公式来计算后验概率的方法。 2）概率树计算法。这种方法是在形如树状的图形上标示各种概率，并按照一定的顺序进行计算。按这种方法要求画两个概率树，一个是实际概率树，另一个是信息概率树。 4.2.3 4.2.3 后验分析后验分析 决策者为了对决策问题的自然状态有更多的了解而进行统计调查，我们称通过调查而获得的信息为补充信息，利用贝叶斯定理将补充倍息和先验分布结合起来，便产生了一种综合信息，即为后验分布。 可见，利用补充信息决策的关键，就是由先验分布产生后验

9、分布，这一过程叫做后验分析。后验分析可用来作出较为正确的决策。 4.2.3 4.2.3 后验分析后验分析 例2：某自动生产设备在生产过程中可能正常亦可能不正常，正常时产品的合格率为80，不正常时产品的合格率为30。从某时刻生产的产品中抽取一件进行检验，要求我们根据这件产品的情况来判断设备是否正常。4.2.3 4.2.3 后验分析后验分析 该问题的自然状态有两种，即设备正常和设备不正常，分别用 和 表示，假设我们对该设备以往的生产情况一无所知，那么判断设备是否正常的可能性相等，即先验概率为：1210.5P20.5P4.2.3 4.2.3 后验分析后验分析 由于两者的概率相等，实际上无法判断出设备

10、究竟是否正常。但如果我们从某时刻的产品中抽取一件产品，若发现为合格品，即抽样的结果X“合格品”，这就得到了一种补充的信息，容易算出：10.8P合格品/20.3P合格品/4.2.3 4.2.3 后验分析后验分析 利用贝叶斯定理得：111122PPPPPPP1合格品/合格品合格品/合格品/0.8 0.50.730.8 0.50.3 0.54.2.3 4.2.3 后验分析后验分析221122PPPPPPP2合格品/合格品合格品/合格品/0.3 0.50.270.8 0.50.3 0.54.2.3 4.2.3 后验分析后验分析 即抽出一件产品为合格品后算得设备为正常的概率是0.73，设备不正常的概率是

11、0.27，故应判断此时设备正常，即 。 若从某时刻生产的产品中抽取到的一件产品为不合格品，同样利用贝叶斯定理算得： 故应判断此时设备不正常，即：10.22P1/不合格品0.78P2/不合格品24.2.3 4.2.3 后验分析后验分析 现在将情况改变一下如果从某时刻生产的产品中连续抽取两件产品，并检查它们是否合格，然后再判断设备此时是否正常。若抽样的结果为X“合合”，即两件产品皆为合格品，容易算出：1110.8 0.80.64PPP合 合/合/合/2220.3 0.30.09PPP合 合/合/合/4.2.3 4.2.3 后验分析后验分析由贝叶斯定理得：利用概率性质得：111122PPPPPPP1

12、合 合/合 合合 合/合 合/0.64 0.50.8770.64 0.50.09 0.510.123PP 21/合 合/合 合4.2.3 4.2.3 后验分析后验分析 据上面求出的后验概率，我们应判断此时设备为正常，即 。 若抽样的结果为X“合不”，即抽得的第一件产品为合格品，第二件产品为不合格品，容易算出：11112220.8 0.20.160.3 0.70.21PPPPPP合 不/合/不/合 不/合/不/4.2.3 4.2.3 后验分析后验分析由贝叶斯定理及概率的性质知： 因此，应判断此时设备不正常。111122PPPPPPP1合 不/合 不合 不/合 不/0.16 0.50.4320.1

13、6 0.50.21 0.510.568PP 21/合 不/合 不4.2.3 4.2.3 后验分析后验分析 同样的方法，可以求出抽出的两件产品皆为不合格品，即X=“不不”，和第一件产品为不合格品。第二件产品为合格品，即X=“不合”的后验概率： 根据这些后验概率，合理的判断应当是：若两件产品皆为不合格品，判断设备此时不正常；或第一件产品为不合格品，第二件产品为合格品，判断设备此时不正常。0.075P1/不 不0.925P2/不 不0.432P1/不 合0.568P2/不 合4.3 4.3 决策法则决策法则4.3.1 预先后验分析4.3.2 决策法则4.3.1 4.3.1 预先后验分析预先后验分析

14、在利用补充信息进行决策时，我们已经看到，当补充信息值X确定之后，按照后验分析方法，求出后验分布，便可确定出最优行动方案。这一工作不一定在收集补充信息情报之后做。事实上，在收集补充信息之前，我们便可以分析出补充信息值X的种种可能，然后对每一个X值完成后验分析工作，找出最优行动方案。这个过程称为预先后验分析。于是，预先后验分析可以产生一个决策法则。按照这一决策法则，可以知道在任一信息值X下哪一个行动方案为最优。 4.3.1 4.3.1 预先后验分析预先后验分析 例3：有两类盒子。甲类盒子只有一个，其中装有80个红球，20个白球；乙类盒子共三个，每个盒子均装有20个红球，80个白球。这四个盒子外表一

15、样，内容不知。今从中任取一盒，请你猜它是哪类的。如果猜中，付你1元钱；如果未猜中，不付你钱。那么，你怎样猜法? 如果从这个盒子中任意抽取N个球(回置地)，让你观察，你如何根据这N个球的性质来选择自己的行动?4.3.1 4.3.1 预先后验分析预先后验分析 解：令 表示所取出的这个盒子中红球所占的比例。显然， 只能取两个值：若这个盒子是甲类 的， 若这个盒子是乙类的， 。用 、 分别表示猜这个盒子是甲类的和猜测它是乙类的这两个行动方案。显然，收益矩阵如表4-1所示。10.820.21a2a4.3.1 4.3.1 预先后验分析预先后验分析n 表4-1121/43/4a110a201自然状态状态概率

16、收益值行动方案4.3.1 4.3.1 预先后验分析预先后验分析 于是，行动方案 、 的先验期望收益值分别为： 因此，先验最优行动方案为 ，即如果只根据先验资料应猜此盒子为乙类的。1a2a 113110444E a 213301444E a 2a4.3.1 4.3.1 预先后验分析预先后验分析 假设N = 1，即从叫你猜的那个盒子中取出1个球来观察。规定：对于红球，X = 1；对于白球，X 0, 其抽样分布如表4-2所示。 表 4-2 N = 1时猜盒问题的抽样分布 P( )P(x=0/ )P(x=1/ )1/40.20.83/40.20.8214.3.1 4.3.1 预先后验分析预先后验分析

17、表示从甲类盒子中抽取1球是白球的概率，即如果确定这个球是从甲盒中取出的话，它是白球的概率，显然它等于0.2。对另外三个概率可做类似理解。 利用先验分布和抽样分布计算后验分布：10/P X1300.20.80.6544P X 4.3.1 4.3.1 预先后验分析预先后验分析10.051/00.6513PX20.6012/00.6513PX1310.80.20.3544P X 10.24/10.357PX20.153/10.357PX4.3.1 4.3.1 预先后验分析预先后验分析 将这些结果列入表4-3中。 表4-3 N = 1时猜盒问题的后验分布 XP(x)P( /x)P( /x)00.651

18、/1312/1310.354/73/7124.3.1 4.3.1 预先后验分析预先后验分析 于是，当抽到的球为白球时， 最优行动方案为 , 即应猜此盒为乙类的。11121/010131313E aX 211212/001131313E aX 2a4.3.1 4.3.1 预先后验分析预先后验分析 当抽到的球为红球时， 最优行动方案为a1，即应猜此盒为甲类的。1434/110777E aX 2433/101777E aX 4.3.1 4.3.1 预先后验分析预先后验分析 综合上述，当X = 0时，最优行动方案为；当X = 1时，最优行动方案为。 如果样本容量N = 2时，其抽样分布如表4-4所示。

19、 表4-4 N = 2时猜盒问题的抽样分布 P()P(x=0/)P(x=1/)P(x=2/)11/40.040.320.6423/40.640.320.044.3.1 4.3.1 预先后验分析预先后验分析 利用先验分布与抽样分布，计算出各抽样信息值的概率和后验概率如表4-5所示。 表4-5 N = 2时猜盒问题的后验分布 xP(x)P(1/x)P(2/x)00.491/4948/4910.321/43/420.1916/193/194.3.1 4.3.1 预先后验分析预先后验分析 在每一信息值下，分别用后验分布代替先验分布，计算出每个行动方案的期望收益值如表4-6所示。 表4-6 N = 2时

20、猜盒问题各行动的后验收益期望值 xE(a1/x)E(a2/x)01/4948/4911/43/4216/193/194.3.1 4.3.1 预先后验分析预先后验分析 因此，N = 2 时的最优行动方案： X=0 =a2 X=1 =a2 X=2 =a1 这里， 表示信息值为X时的后验最优行动。optaXoptaXoptaXoptaX4.3.1 4.3.1 预先后验分析预先后验分析 由上可知，利用抽样信息决策，只要确定了样本容量，并选好了统汁量表示抽样结果，那么，在实际抽样进行以前，即可进行预先后验分析，产生一个根据抽样结果采取行动的决策法则。4.3.1 4.3.1 预先后验分析预先后验分析 上例

21、中，如果样本容量为1。抽样结果有两种可能： X = 0或X = 1。预先后验分析所得到的决策法则是：若X = 0，则采取行动方案a2；若X = 1，则采取行动方案a1。当样本容量为2时，抽样结果有三种可能：X = 0或X = 1或X = 2。预先后验分析所得到的决策法则是：当X = 0 或1时，采取行动方案a2；当X = 2时，采取行动方案a1。4.3.2 4.3.2 决策法则决策法则 一般地说，所谓决策法则，就是由所有可能信息值的集合到所有可能行动的集合的一个映射。换句话说，决策法则是这样一个规则 ，按照这个规则，对于每一个信息值X均有唯一确定的可行行动 与之对应。 上例中，如果样本容量为1

22、，由于所有可能的抽样结果有2个，可行行动也有2个，故决策法则共有 个：aX2244.3.2 4.3.2 决策法则决策法则111 X=0 X=1aXa当时当时122 X=0 X=1aXa当时当时231 X=0 X=1aXa当时当时242 X=0 X=1aXa当时当时4.3.2 4.3.2 决策法则决策法则而预先后验分析所得到的决策法则是 。如果样本容量为2，那么抽样结果有3种可能，可行行动还是2个，因此决策法则共有 个。而按预先后验分析所得到的决策法则是 。一般地，对于有S个可行行动的决策问题，若补充情息值有n个，则决策法则共有 个。 3X3287XnS4.3.2 4.3.2 决策法则决策法则

23、需注意的是，这里所讲的决策法则与前面所讲的决策原则不是一回事。决策原则，是判别诸行动间优劣关系的标准，它所指明的是什么叫一个行动方案优于另一个行动方案，据此可以选出最优行动方案来；而决策法则是信息值与所采取的行动的对应关系，它所指明的是如何根据信息值选择行动方案。 在利用补充信息决策时，一般说来，有许多决策法则可供选用。这些决策法则中（按预先规定好的标准）之最佳者，称为最佳决策法则。4.4 4.4 风险函数、贝叶斯风险和贝叶斯原则风险函数、贝叶斯风险和贝叶斯原则4.4.1 风险函数4.4.2 贝叶斯风险4.4.3 贝叶斯原则4.4.4 贝叶斯分析的正规型和扩展型4.4 4.4 风险函数、贝叶斯

24、风险和贝叶斯原则风险函数、贝叶斯风险和贝叶斯原则 既然决策法则可以有很多，那么，这些法则中哪个优哪个劣呢？根据什么原则比较？像前面那样用预先后验分析方法所得到的决策法则的优劣程度如何呢？本节中将讨论这些问题。4.4.1 4.4.1 风险函数风险函数 设给定一个决策法则 ，在任一状态 下，当信息值X确定后，它所对应的行动 也就确定了，从而 的损失值 也就随之确定了。 对于一个好的决策法则，应要求 较小。但是，评价一个决策法则的好坏，不能只看信息一次所取之值，而应当用各信息值下的平均效果来衡量。XXX,RX ,RX 4.4.1 4.4.1 风险函数风险函数 因此，在状态 下，决策法则的好坏应以 对

25、信息值X的数学期望的大小为标准。为此定义： 为决策法则 的风险函数。 风险函数表示按决策法则决定行动在固定状态下当出现各种不同情报值时的平均损失。它是 的函数。,RX /,XERX X4.4.2 4.4.2 贝叶斯风险贝叶斯风险 需要注意的是，风险函数中还含有状态参数 。 当然，如果存在一个决策法则 ，在任何状态 下，它的风险函数值 都比其他任何决策法则在同一状态下的风险函数值小，我们自然认为这个决策法则为最佳的。 但是，一般说来，这是不易做到的。多数情况是这样的：对于某一个（或某些）值，决策法则的风险函数值最小； X, 4.4.2 4.4.2 贝叶斯风险贝叶斯风险 多数情况是这样的：对于某一

26、个（或某些） 值，决策法则 的风险函数值 最小；而对于另一个（或另一些） 值，另一个决策法则 的风险函数 最小。因此，一个决策法则的好坏，只能用在各种不同状态下其风险函数值的平均值来衡量。因此，一个决策法则的好坏，只能用在各种不同状态下其风险函数值的平均值来衡量。为此定义： 为决策法则的贝叶斯风险贝叶斯风险。 1X1, 2X2, ,BE 4.4.3 4.4.3 贝叶斯原则贝叶斯原则 根据以上的分析，衡量一个决策法则的好坏，应以其贝叶斯风险为标准。贝叶斯原则：贝叶斯风险最小的决策法则为最佳决策法则。 例4：在例3中，当进行容量为1或2的抽样时，求各决策法则的风险函数和贝叶斯风险，并分别指出最佳决

27、策法则。4.4.3 4.4.3 贝叶斯原则贝叶斯原则 该决策问题的损失矩阵如表4-9所示。 注意，这里的“损失”意味着相对与获得1元钱，没有任何获得即为损失1元，如果获得1元，则损失为0。4.4.3 4.4.3 贝叶斯原则贝叶斯原则121/43/4a101a210自然状态状态概率收益值行动方案4.4.3 4.4.3 贝叶斯原则贝叶斯原则 先研究n = 1的情况。这时共有四个决策法则。我们知道：114P234P10/0.2P X11/0.8P X20/0.8P X21/0.2P X4.4.3 4.4.3 贝叶斯原则贝叶斯原则对于决策法则 ，无论X = 0 或 1，都有：于是，1X1111,0RX

28、Ra 2121,1RXRa 111/11,0XERX 221/21,1XERX 4.4.3 4.4.3 贝叶斯原则贝叶斯原则 即 的风险函数为： 其贝叶斯风险： 1X1120 =,1 = 当时当时 1111212,BPP 11010.7544 4.4.3 4.4.3 贝叶斯原则贝叶斯原则对于决策法则 ，于是， 2X 1111,0,0RRa 1112,1,1RRa 12121121,00/,11/RP XRP X 0 0.2 1 0.80.8 4.4.3 4.4.3 贝叶斯原则贝叶斯原则同样地，于是， 的风险函数为：因此其贝叶斯风险为： 2221,0,1RRa 2222,1,0RRa 22122

29、222,00/,11/RP XRP X 1 0.80 0.20.8 2X2,0.8 20.8B4.4.3 4.4.3 贝叶斯原则贝叶斯原则 对于决策法则 ，同样方法可求得其贝叶斯风险为： 对于决策法则 ，其贝叶斯风险为： 3X30.2B4X40.25B4.4.3 4.4.3 贝叶斯原则贝叶斯原则 以上计算结果表明，最佳决策法则为 。 对于N2的情况，同样可计算出各决策法则的风险函数，贝叶斯风险，和最佳法则，对此留作课后习题供读者自己求解。 3X4.4.3 4.4.3 贝叶斯原则贝叶斯原则 以上所介绍的决策分析，又称为正序分析。 其分析过程为：在进行抽样(或其他调查之前)，枚举所有可能出现的抽样

30、结果X，及所有可能的决策法则（方案） ，针对每一种决策法则 ，计算其贝叶斯风险，比较各种方案的贝叶斯风险的大小，贝叶斯风险最小的决策方案即为最佳决策方案。XX4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型 在预先给定先验密度 ，通过试验又得到一个与自然状态有关的另一个随机变量x的值，它的概率密度为f(x|)。当f(x|)为已知时，由后悔值函数 可求得风险函数 。对于给定的先验密度 ，又可由风险函数 ，求得贝叶斯风险值 。贝叶斯决策原则：如果决策规则 的贝叶斯风险小于决策规则 在同样先验密度 下的贝叶斯风险值，即 ,lx ,Rx ,Rx ,r 12 12,rr 4.

31、4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n则定义决策规则 优于另一决策规则 。很显然，在一组决策中，最优决策应当是贝叶斯风险值最小的决策，即n 为行动函数集， 称为对应于先验密度 的贝叶斯规则。12*,inf,rr * 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型 所以： *,inf,rRd inf,|Xlxf xd dx 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型 如果随机变量x和都是离散型的，则 *,inf,|ijijjiixXrlxf x 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝

32、叶斯分析的正规型和扩展型 由此可知，贝叶斯分析就是进行一决策规则 ，使其贝叶斯风险为最小。按这种思路进行的贝叶斯分析，称为贝叶斯分析的正规行。不难看出，按贝叶斯分析的正规型求最优决策规则是比较麻烦的，因为必须给定不同的行动方案 ， ，然后分别求出 ，再找出他们的最小值。实际上，贝叶斯分析都采用另一种思路和形式，一般称为贝叶斯分析的扩展型。12,nr 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n贝叶斯分析方法的扩展型n由n改变积分次序（根据Fubini定理）为 ,rRd ,|Xlxf xd dx 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规

33、型和扩展型n显然要使 为最小，必须选在X域上的积分n为最小，根据贝叶斯定理 ,|Xlxf xdxd ,r ,|lxf xd 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n所以n 为的后验密度。 /fxxm x ,|lxf xd ,/lxm xx d ,/m xlxx d / x 4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n因此如果我们相对于每个给定的x选择一行动a使式n为最小，它必然会使n的后验期望后悔值为极小。由此，对每个x选择一行动a使后验期望后悔值最小，就是等价地使 ,|lxf xd ,|lxf xd 4.4.4 4.4.

34、4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n为极小，就能找到贝叶斯行动a对应的贝叶斯规则 。n这样，问题就变成用试验数据来修正自然状态的先验分布，然后用期望值法求出每一个行动的期望后悔值，选其中期望后悔值最小的行动，就是在给定试验数据x情况下的最优行动。 ,|lxf xd x4.4.4 4.4.4 贝叶斯分析的正规型和扩展型贝叶斯分析的正规型和扩展型n对每一个试验数据x，进行同样的贝叶斯分析，便可以得到决策人根据试验数据x所应采取的一组最优决策规则 。 x4.5 4.5 反序分析反序分析 按贝叶斯原则求解最佳决策方案，对任何一个决策问题，均有两种基本方法： 1）正序分析，上节已作

35、介绍； 2）反序分析。反序分析所需的计算量少且容易掌握，而且理论上可以证明，反序分析方法求得的最佳决策方案，和正序分析求得的最佳决策方案是一致的。故反序分析较常用。4.5 4.5 反序分析反序分析 反序分析的过程为：在抽样之前，针对所有可能出现的抽样结局（抽样方法与样本容量均事先拟定），分别计算各自然状态的后验概率，利用这些概率求出各行动方案的后验损失值，尔后比较这些后验损失值的大小，选探各种抽样结果下的最佳行动方案，综合成最佳决策方案。可以证明，由反序分析得的最佳方案确为贝叶斯原则下的最佳决策方案。 下面通过一个具体实例来说明反序分析的全过程： 4.5 4.5 反序分析反序分析n例4 某公司

36、的产品每1000件装成一箱运交顾客。每箱的不合格品率可分5以下、515之间以及15以上三种情况，为了计算简便，这三种状态分别表示为 ， ， ，按照以往的经验，公司的决策者推测为这三种值的概率分别为0.60，0.30，0.10，即先检概率分布为：10.0520.1030.150.050.6P0.100.3P0.150.1P4.5 4.5 反序分析反序分析 该公司的每箱产品在运交顾客之前，面临这样的决策问题：或是检验箱中每件产品，或是不作任何检验。假如整箱检验，每一件的检验费用为0.1元，于是一箱的检验费为100元，记这种检验方案为a1。采用a1的优点是可检查出一箱中的所有不合格品，保证运交顾客产

37、品百分之百合格。假如整箱都不作检验，顾客买到不合格品时必须准予更换，每更换的一件所需的费用总和为1.25元，这种整箱都不检验的行动方案记为a2。采用a2的优点是可节省检验费100元。4.5 4.5 反序分析反序分析 为了更好地对上述问题做出决策，决策者从每箱中抽出两件产品进行检验这两件产品提供的情况做出最佳决策，方法如下： 设抽出的两件产品为 ， ，并规定当第i件产品检验结果为不合格品时，记 ，否则 。另外设抽样总的结果为：1Z2Z1iZ 0iZ 12XZZ4.5 4.5 反序分析反序分析 X的值刚好为抽出的两件产品中的不合格品数目，它是一个随机变数。在抽样试验前，我们就能知道X可能有0，1，

38、2三种结果。X的概率分布是几何分布，此外可认为X近似服从二项分布。 在实际进行抽样试验前，决策者先作下面分析：假定抽样后观察到的不合格品数为0，即X=0，则可计算各状态 ， ， 的后验概率，及每一种可能行动方案a1，a2的后验损失，计算格式及结果如表4-10所示。 1234.5 4.5 反序分析反序分析 表中数值显示行动a1的后验损失为100元，而行动a2的后验损失为90.75元，故出现的抽样结果X=0时，最佳行动方案为a2。假如抽样结果为X=1，计算列入表4-11中，可得最佳行动方案a1。最后假设抽样结果为X=2，计算结果列入表16-7中，最佳行动方案为a1。综合这些结论，即12 X=1,2

39、 X=0aXa4.5 4.5 反序分析反序分析 表4-10 不合格品为0件（即X = 0）时的后验损失表 自然状态先验概率P()各状态下x=0的概率P(x=0/ )后验概率P(/x=0)各行动方案的损失R(,a)a1a20.050.60.9020.63210062.500.100.30.8100.284100125.00.150.10.7220.084100187.5 后验损失：10090.754.5 4.5 反序分析反序分析 表4-11 不合格品为1件（即X = 1）时的后验损失表 自然状态先验概率P()各状态下x=0的概率P(x=1/ )后验概率P(/x=1)各行动方案的损失R(,a)a1

40、a20.050.60.0950.41810062.500.100.30.1800.396100125.00.150.10.2250.186100132.62 后验损失：100110.54.5 4.5 反序分析反序分析 表4-12 不合格品为2件（即X = 2）时的后验损失表 自然状态先验概率P()各状态下x=0的概率P(x=2/ )后验概率P(/x=2)各行动方案的损失R(,a)a1a20.050.60.0020.19410062.500.100.30.0100.490100125.00.150.10.0220.316100187.5 后验损失：100132.624.5 4.5 反序分析反序分

41、析 从前面的分析看出，利用补充信息来修正先验概率，可以使决策的准确度提高，从而提高决策的科学性和效益性。 因此，信息本身是有价值的-能带来收益。但获得的情报越多，花费也更多。因此有一个获取补充信息是否有利的问题：收益与成本的比较。 4.6 4.6 完全信息价值与最佳样本容量完全信息价值与最佳样本容量4.6.1 完全信息价值与补充信息价值4.6.2 最佳样本容量4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值 完全信息价值与补充信息价值 完全信息价值与补充信息价值，是开展贝叶斯决策分析常用的两个基本指标。所谓完全信息，是指在对某一问题进行决策时，对于所有可能出现的自然

42、状态都可以提供完全确切的情报。 决策者掌握了完全信息，便可以根据一定的目标，选择最佳的行动方案，风险型的决策问题，也就转化为确定型的决策问题。因此，完全信息的价值，可以由掌握完全信息前后，所采取的不同行动方案的收益值的差额来表示。因为，不同状态下收益值的差额有所不同，所以人们用收益值差额的期望值来综合反映完全信息的价值。其计算公式如下：4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值 计算公式： 上式中，EVPI (Expected Value of Perfect Information)是完全信息价值的期望值， *,jjjiEVPIE MaxQ aQ a*1,n

43、jjjjijPMaxQ aQ a4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值 表示各方案在状态 下的最大收益值 表示先验分析中的最佳方案在状态 下的收益值。 EVPI实质上反映了由于未掌握完全信息而造成的平均机会损失。EVPI越大表明通过收集补充信息使决策效益提高的余地越大。同时，它也代表了为取得该项情报可付出的代价的上限。 jj,jQ a,jjiMaxQ a4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值 一个情报值的补充情报价值EVAI( expected value of additional information)是指决策者

44、根据该补充情报进行决策取得的收益与他没有掌握这个补充情报，只能按先验分布进行决策所获得的收益之间的差值 。 定理：任何补充情报价值都是非负的，且不超过完全情报价值，即0EVAIEVPI4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值 抽样情报价值：当补充情报是采用抽样方法获得时，这种补充情报价值习惯上称为抽样情报价值EVSI( expected value of sampling information)。 /,xxoptEVSIEEBa xE a4.6.1 4.6.1 完全信息价值与补充信息价值完全信息价值与补充信息价值4.6.2 4.6.2 最佳最佳样本容量样本

45、容量 最佳样本容量 我们已经知道，抽样调查可以获得补充情报，以减少不确定性代价，改善决策效果。但是与获得其他类型的补充情报一样，一般来说，是要支付一定费用的。所以，对于一个具体的问题，是否要抽样？如果抽样，样本容量又应当是多大？这是抽样之前必须弄清楚的问题。 抽样所支付的费用叫抽样成本。样本容量为N时的抽样成本记为 ，显然有：C N 00C4.6.2 4.6.2 最佳最佳样本容量样本容量 若 ，抽样成本也可以分为两部分：固定成本和可变成本。用 表示固定成本；一般情况下，可变成本与N成正比，用 表示单位可变成本。则有： 当样本容量N确定以后，抽样情报价值也是随之而确定。抽样情报值也是N的函数，记

46、之为EVSI(N)。对不向的N，抽样情报价值可以不同。称下面的差数： 0N jCvCjvC NCC N(0)N 4.6.2 4.6.2 最佳最佳样本容量样本容量 为抽样净值。它反映出在扣除抽样成本之后，抽样给决策带来的纯净的好处。 显然，如果对任何自然数N，都有 ， 则不宜进行抽样；如果对某一个N有 ， 则进行容量为N的抽样是值得的（当然，不一定是最好的)；使 达到最大值的非负整数称为最佳样本容量。0ENGS N ENGS NENGS NEVSI NC N 0ENGSN4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 案例2 某公司考虑生产一种新产品，已知这产品的销售状况取决于

47、市场需求情况。经理在决策前已预见到生产后销售结果为好、中、差三种情况的概率及相应的盈利额见下表所示：n各种情况的概率及赢利额 销售结果预测先验概率P(B)盈利额（万元）B1（好）0.25+15B2（中）0.30+1B3（差）0.45-64.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 在这种情况下，试对两个问题进行决策：1是否值得做一次市场调查，以获得市场需求出现“好”、“中”、“差”的后验概率；2是否生产这种新产品。且设市场调查费用估算需6000元。但为了决定是否进行市场调查，除了要事先估计调查费用外，对调查情况下和不调查情况下的期望盈利位也应事先做出估计，从而可以确定是否值

48、得花这笔调查费用。为此将公司过去实践中的有关资料整理成表如下： 4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 公司过去的有关资料 B1 (好)B2 (中)B3 (差)A1(好)0.650.250.10A2(中)0.250.450.15A3(差)0.100.300.75合计1.001.001.00销售结果BjP(Ai/Bj)调查结论Ai4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 解：依题意，本问题也是一个两阶段决策问题。 表中列出概率，即销售结果B为已知时，调查结论A的条件概率。而决策所需要知道的是即调查结论A为已知，销售结果B的条件概率。那么，如何将已

49、知的条件概率转移为所需要的条件概率呢？ 以下我们就用贝叶斯定理解决这个问题，并进行决策。/p A B/p B A/p A B/p B A4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 1.列出贝叫斯公式： 2.求联合概率和全概率。由概率的乘法定理可知，和的联合概率为： 1(/)()/(/)()ijjjinijjjP ABP BP BAP ABP B /ijijjP ABP AB P B4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 又由全概率公式可得事件的全概率为： 所以，经过计算，可得全概率和。 计算结果如下：1()()niijjjP AP ABP B12

50、30.28250.26500.4525P AP AP A4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 3.求条件概率：如下表所示：/jiP BAB1 (好) B2 (中) B3 (差) 合计A1(好)0.5750.2660.1591.00A2(中)0.2360.5090.2551.00A3(差)0.0550.1990.7461.00销售结果BjP(Bj/Ai)调查结论Ai4.7 4.7 贝叶斯决策的典型案例分析贝叶斯决策的典型案例分析 4.求期望盈利值。“不调查”情况下生产该新产品的期望盈利值为：150.25 0.30 0.45 11.356万元4.7 4.7 贝叶斯决策的