第2章+正态分布时的统计决策3课件.ppt

1、Made in CV&PRLab of Shandong University2.10 正态分布时的统计决策正态分布时的统计决策2.10.1 正态分布概率密度函数的定义及性质正态分布概率密度函数的定义及性质12.10.2 正态分布中的正态分布中的Bayes分类方法分类方法2Made in CV&PRLab of Shandong Universityv 在统计决策理论中，涉及到类条件概率密度函数在统计决策理论中，涉及到类条件概率密度函数 。对许多。对许多实际的数据集，正态分布通常是合理的近似。如果在特征空间中的某一实际的数据集，正态分布通常是合理的近似。如果在特征空间中的某一类样本，较多地分布

2、在这一类均值附近，远离均值点的样本比较少，此类样本，较多地分布在这一类均值附近，远离均值点的样本比较少，此时用正态分布作为这一类的概率模型是合理的。另外，正态分布概率模时用正态分布作为这一类的概率模型是合理的。另外，正态分布概率模型有许多好的性质，有利于作数学分析。概括起来就是：型有许多好的性质，有利于作数学分析。概括起来就是：（1）物理上的合理性；（）物理上的合理性；（2）数学上的简单性）数学上的简单性v 下面重点讨论正态分布分布及其性质，以及正态分布下的下面重点讨论正态分布分布及其性质，以及正态分布下的Bayes决策理决策理论。论。)|(iwxP)|(iwxP2.10 正态分布时的统计决策

3、正态分布时的统计决策Made in CV&PRLab of Shandong University1单变量正态分布单变量正态分布v 定义：定义：（2.8.1-1）其中：其中：为随机变量为随机变量x的期望，也就是平均值；的期望，也就是平均值；v 为为x的方差，的方差，为均方差，又称为标准差。为均方差，又称为标准差。（2.8.1-2）（2.8.1-3）)(21exp21)(2xx2dxxxxE)()(dxxx)()(222.10.1 正态分布概率密度函数的定义及性质正态分布概率密度函数的定义及性质Made in CV&PRLab of Shandong University概率密度函数的一般图形如

4、下：概率密度函数的一般图形如下：Made in CV&PRLab of Shandong University具有以下性质：具有以下性质：从从 的图形上可以看出，只要有两个参数的图形上可以看出，只要有两个参数 就可以完全确定其就可以完全确定其曲线。为了简单，常记曲线。为了简单，常记 为为 。若从服从正态分布的。若从服从正态分布的总体中随机抽取样本总体中随机抽取样本x，约有，约有95的样本落在的样本落在 中。样中。样本的分散程度可以用本的分散程度可以用 来表示，来表示，越大分散程度越大。越大分散程度越大。)(,0)(xx1)(dxx（2.8.1-4）)(x2和)(x),(2N)2,2(Made

5、in CV&PRLab of Shandong University2多元正态分布多元正态分布v 定义：定义：（3.1-5）其中：其中：为为d维随机向量，对于维随机向量，对于d维随机向量维随机向量x，它的均值向量它的均值向量 是是d维的。也就是：维的。也就是：为为d维均值向量。维均值向量。是是 维协方差矩阵，维协方差矩阵，是是 的逆矩阵，的逆矩阵，为为 的行列式。的行列式。协方差矩阵协方差矩阵 是对称的，其中有是对称的，其中有 个独立元素。由于个独立元素。由于 可由可由 和和 完全确定，所以实际上完全确定，所以实际上 可由可由 个独立元素来确定。个独立元素来确定。)()(21exp|)2(1)

6、(1212xxxTdTdxxxx,21Td,21dd 1|2/)1(dd)(x)(x2/)1(dddMade in CV&PRLab of Shandong University 是是 的转置，且：的转置，且：、分别是向量分别是向量x和矩阵和矩阵 的期望。的期望。具体说：若具体说：若 是是 的第的第i个分量，个分量，是是 的第的第i个分量，个分量，是是 的第的第i、j个元素。个元素。（3.1-6）；其中为边缘分布）；其中为边缘分布Tx)()(xxE)(TxxETxx)(ixxi2ijiiiiiidxxxdxxxxE)()(didxdxdxxx21)()(Made in CV&PRLab of

7、Shandong University对于二维随机变量对于二维随机变量X和和Y作为一个整体，其分布函数作为一个整体，其分布函数F（x，y），而），而X和和Y都是随机变量，各别也有分布函数都是随机变量，各别也有分布函数FX(x)、FY(y)，分别称为二维随机变，分别称为二维随机变量（量（X，Y）关于）关于X和和Y的边缘分布函数。有：的边缘分布函数。有：),()(xFxFX和和),()(yFyFY对于离散随机变量有：对于离散随机变量有：xxjijXipxFxF1),()(从中得到从中得到X的分布律为：的分布律为：1jijipxXP同样，同样，Y的分布律为：的分布律为：1iijjpyYPMade i

8、n CV&PRLab of Shandong University对于连续型随机变量（对于连续型随机变量（X，Y），假定它的概率密度为），假定它的概率密度为 ，由：，由：),(yxfdxdyyxfxFxFxX),(),()(知道，知道，X的概率密度为：的概率密度为：dyyxfxfX),()(同样也可以求出同样也可以求出Y的概率密度函数。的概率密度函数。Made in CV&PRLab of Shandong University)(j2jiiijxxE),()(jjijijiidxdxxxxx 222212222221221212211dddddd而：而：（3.1-7）（3.1-8）协方差协方

9、差矩阵矩阵：是一个对称矩阵，只考虑是一个对称矩阵，只考虑 为正定矩阵的情况，也就是为正定矩阵的情况，也就是 所有的所有的子式都大于子式都大于0。即。即 ，同单变量正态分布一样，多元正态分布同单变量正态分布一样，多元正态分布 可以由可以由 和和 完全完全确定，常记为确定，常记为 。|0|2110222212212211)(x),(NMade in CV&PRLab of Shandong University3多元正态分布的性质多元正态分布的性质（1）参数）参数 对分布的决定性对分布的决定性对于对于d维随机向量维随机向量x，它的均值向量，它的均值向量 也是也是d维的，协方差矩阵是维的，协方差矩阵

10、是对称的，其中有对称的，其中有 个独立元素。个独立元素。可由可由 完完全确定，实际上全确定，实际上 可由可由 个独立元素决定。个独立元素决定。常记为：常记为：。（2）等密度点的轨迹为一超椭球面）等密度点的轨迹为一超椭球面由由 的定义公式（的定义公式（3.1-5）可知，当右边指数项为常数时，密）可知，当右边指数项为常数时，密度度 的值不变，所以等密度点满足：的值不变，所以等密度点满足：和2/)1(dd)(x和)(x2/)1(ddd)(x),(N)(x)(xMade in CV&PRLab of Shandong University常数)()(1xxT可以证明，上式的解是一个超椭球面，其主轴方向

11、取决于可以证明，上式的解是一个超椭球面，其主轴方向取决于 的本征向量的本征向量（特征向量），主轴的长度与相应的本征值成正比。如下图所示：（特征向量），主轴的长度与相应的本征值成正比。如下图所示：Made in CV&PRLab of Shandong University从上图可以看出，从正态分布总体中抽取的样本大部分落在由从上图可以看出，从正态分布总体中抽取的样本大部分落在由 和和 所确定的一个区域里，这个区域的中心由均值向量所确定的一个区域里，这个区域的中心由均值向量 决定，区域的大决定，区域的大小由协方差矩阵决定。小由协方差矩阵决定。在数理统计中，令：在数理统计中，令：式中式中 称为称为

12、x到到 的马氏距离（的马氏距离（Mahalanobis）距离。所以，等密）距离。所以，等密度点轨迹是度点轨迹是x到到 的马氏距离的马氏距离 为常数的超椭球面。该超椭球面构为常数的超椭球面。该超椭球面构成的球体的大小是样本对于均值向量的成的球体的大小是样本对于均值向量的“离散度度量离散度度量”。体积：体积：)()(12xxTdd21|Made in CV&PRLab of Shandong University!)!21(2)!2(2)1(2dddddddd为偶数为偶数d为奇数为奇数如果如果d确定了，则确定了，则 不变，不变，v与与 有关。也就是对于给定的有关。也就是对于给定的维数维数d，样本离

13、散度随，样本离散度随 而变。而变。21|21|dMade in CV&PRLab of Shandong University（3）不相关性等价于独立性概率论中，两个随机变量概率论中，两个随机变量 和和 之间不相关，并不意味着它们之间不相关，并不意味着它们一定独立。如果一定独立。如果 和和 之间不相关，则的数学期望有：之间不相关，则的数学期望有：如果如果 和和 相互独立，则有：相互独立，则有：独立性是比不相关更强的条件。不相关反映了独立性是比不相关更强的条件。不相关反映了 和和 的总体性质。的总体性质。如果如果 和和 相互独立，则它们之间一定不相关，反之则不成相互独立，则它们之间一定不相关，反

14、之则不成立。但是对服从正态分布的两个分量立。但是对服从正态分布的两个分量 和和 ，若，若 与与 互互不相关，则它们之间一定独立。不相关，则它们之间一定独立。ixjxixjx)()()(jijixExExxE)()(),(jijixPxPxxPixjxixjxixjxixjxixjxMade in CV&PRLab of Shandong Universityixjx)(2jjiiijxxE)()(),(jijixExExxE)()()(2jjiijjiiijxExExxE)(iixE0)()()()(iiiiiixEExExE02ij证明：根据定义，证明：根据定义，和和的协方差的协方差又根据不

15、相关定义又根据不相关定义有：有：又：又：，所以：有所以：有Made in CV&PRLab of Shandong University2211dd221111001dddiii12|diii121|协方差矩阵协方差矩阵成为对角阵。成为对角阵。，可以计算出：可以计算出：Made in CV&PRLab of Shandong UniversityddddddxxxxxTx1122111111001,)()(21)(diiiiix)()(21exp|)2(1)(1212xxxTddiiiiiidiiixx121)()(21exp21因此，因此，根据独立性的定义：正态分布随机向量的各分量间互不相关

16、性与相互独立等价。根据独立性的定义：正态分布随机向量的各分量间互不相关性与相互独立等价。Made in CV&PRLab of Shandong University（4）边缘分布与条件分布的等价性）边缘分布与条件分布的等价性不难证明正态随机向量的边缘分布与条件分布仍服从正态分布。从不难证明正态随机向量的边缘分布与条件分布仍服从正态分布。从（3）证明得出的结论）证明得出的结论 表达式，如果表达式，如果x用用 表示，有：表示，有：也就是说，边缘分布也就是说，边缘分布 服从均值为服从均值为 ，方差为，方差为 的正态分的正态分布：布：同理，同理，)(x1x)(21exp(21)(211111xxii

17、)(1x1211),()(21111Nx),()(22222NxMade in CV&PRLab of Shandong University另外，条件分布，给定另外，条件分布，给定 的条件下的条件下 的分布：的分布：1x2x)(),()|(12112xxxxx)()()(|21exp|21),(22112122222112112222121xxxxxx代入上式，代入上式，服从正态分布，同理服从正态分布，同理 也服从正也服从正态分布。态分布。)|(12xx)|(21xxMade in CV&PRLab of Shandong University（5）线性变换的正态性）线性变换的正态性对于多元

18、随机向量的线性变换，仍为多元正态分布的随机向量。对于多元随机向量的线性变换，仍为多元正态分布的随机向量。就是：就是：x服从正态分布服从正态分布 ，对，对x作线性变换作线性变换 ，其，其中中A为线性变换矩阵，且为线性变换矩阵，且 ，则，则y服从正态分布：服从正态分布：),()(NxAxy 0|A),()(TAAANyMade in CV&PRLab of Shandong University（6）线性组合的正态性）线性组合的正态性若若x为多元正态随机向量，则线性组合是一维的正态随机变量：为多元正态随机向量，则线性组合是一维的正态随机变量：其中，其中，a与与x同维。同维。),()(aaaNyTT

19、Made in CV&PRLab of Shandong University2.10.2 正态分布中的正态分布中的Bayes分类方法分类方法在上一章，我们已经把基于在上一章，我们已经把基于Bayes公式的几种分类判决规则抽象为相公式的几种分类判决规则抽象为相应的判决函数和决策面方程。这几种方法中应的判决函数和决策面方程。这几种方法中Bayes最小错误率判最小错误率判决规则是一种最基本的方法。如果取决规则是一种最基本的方法。如果取01损失函数，最小风险判损失函数，最小风险判决规则和最大似然比判决规则均与最小错误判决规则等价。为了决规则和最大似然比判决规则均与最小错误判决规则等价。为了方便，我们

20、以最小错误判决规则为例来研究方便，我们以最小错误判决规则为例来研究Bayes分类方法在正分类方法在正态分布中的应用。态分布中的应用。由最小错误率判决规则抽象出来的判决函数如下：由最小错误率判决规则抽象出来的判决函数如下：)()|()(iiiwPwxxgci,2,1Made in CV&PRLab of Shandong University)|(iwx),(iiN)()(21exp|)2()()(1212iiTiidiixxwPxg)(ln|ln212ln2)()(21)(1iiiiTiiwPdxxxg2ln2d如果类概率密度是正态分布的，则如果类概率密度是正态分布的，则由于对数函数是一个单调

21、变化的函数，上式右边取对数后作为判决函数由于对数函数是一个单调变化的函数，上式右边取对数后作为判决函数使用不会改变类型区域的划分。因此：使用不会改变类型区域的划分。因此：其中，其中，域的划分，可以去掉。域的划分，可以去掉。与类型无关，所有函数皆加上此项后，并不影响区与类型无关，所有函数皆加上此项后，并不影响区Made in CV&PRLab of Shandong University下面对几种特殊情况进行讨论。下面对几种特殊情况进行讨论。1情况一：情况一：，该情况下，每类的协方差矩阵相等，而且类的各特征间相互独立该情况下，每类的协方差矩阵相等，而且类的各特征间相互独立（由上节的性质得知），具

22、有相等的方差（由上节的性质得知），具有相等的方差 。因此：因此：将上两式代入将上两式代入 ：Ii2ci,2,12di2|Ii211)(xgi)(lnln212ln22)()()(22idiTiiwPdxxxgMade in CV&PRLab of Shandong University上式中的第上式中的第2、3项与类别无关，可以忽略，因此项与类别无关，可以忽略，因此 可以简化为：可以简化为：其中：其中：，为为x到类到类 的均值向量的均值向量 的的“欧氏距离欧氏距离”的平方。的平方。讨论一个特殊情况，讨论一个特殊情况，所有各类概率相等。则：，所有各类概率相等。则：此时，对此时，对x的归类表示为：

23、计算的归类表示为：计算x到各类均值到各类均值 的欧氏距离的平的欧氏距离的平方方 ，)(xgi)(ln)()(21)(2iiTiiwPxxxg22)(|)()(ijiiiTixxxxci,2,1iwiPwPi)(222|21)()(21)(iiTiixxxxgi2|ix然后把然后把x归于具有归于具有 2,1|minicix Made in CV&PRLab of Shandong University的类（即的类（即 最大）。这种分类器叫最小距离分类器。最大）。这种分类器叫最小距离分类器。)(xgiMade in CV&PRLab of Shandong University接着对接着对 进一步

24、化简：进一步化简：)(xgi)(ln)()(21)(2iiTiiwPxxxg)(ln)2(212iiTiTiTwPxxx式中：式中：与与i无关，可以忽略：无关，可以忽略：xxT02)(ln)2(21)(iTiiiTiTiiwxwwPxxg式中：式中：iiw21)(ln2120iiTiiwPwMade in CV&PRLab of Shandong University0)(iTiiwxwxg是一个线性函数。是一个线性函数。决策规则：对某个决策规则：对某个x计算计算 ，若，若 ，则决策则决策 。由于为由于为 线性函数，其决策面由线性方程线性函数，其决策面由线性方程 构成，决策面是一个超平面。构成

25、，决策面是一个超平面。)(xgici,2,1)(max)(xgxgiikkwx0)(iTiiwxwxg0)()(xgxgji0)()(00 xxwwxwxgTiTii推导出jiw)()()(ln)(21220jijijijiwPwPxMade in CV&PRLab of Shandong University上述结果表示在二维特征空间里，如下图所示：上述结果表示在二维特征空间里，如下图所示：Made in CV&PRLab of Shandong University两个同心圆是两类概率分布等密度点轨迹，两个圆心就是两类的均两个同心圆是两类概率分布等密度点轨迹，两个圆心就是两类的均值点。值点

26、。两类的区分线两类的区分线 与与 垂直，其交点为垂直，其交点为 。一般不是一般不是的中点，但当的中点，但当 时，时，为为 的中点。若的中点。若 时，时，向先验概率较小的那个类型的均值点偏移。可以向先验概率较小的那个类型的均值点偏移。可以l210 x0 x21)()(21wPwP0 x21)()(21wPwP0 x推广到多类的情况，注意这种分类方法没有不确定的区域。推广到多类的情况，注意这种分类方法没有不确定的区域。Made in CV&PRLab of Shandong University2.2.情况二：情况二：各类的协方差矩阵相等，在几何上，相当于各类样本集中在以该类各类的协方差矩阵相等，

27、在几何上，相当于各类样本集中在以该类均值为中心的同样大小和形状的超椭球内。均值为中心的同样大小和形状的超椭球内。i21)(ln|ln212ln2)()(21)(1iiiiTiiwPdxxxg 不变，与不变，与i无关：无关：)(ln)()(21)(1iiiTiiwPxxxgMade in CV&PRLab of Shandong University一个特例，当一个特例，当 时，各样本先验概率相等。时，各样本先验概率相等。其中：其中：为为x到均值点到均值点 的的“马氏距离马氏距离”的平方（的平方（Mahalanobis）。）。进一步简化：进一步简化：对于样本对于样本x 只要计算出只要计算出 ，把

28、，把x归于归于 最小的类别。最小的类别。PwPi)()()(21)(1iiTiixxxg)()(12iiTixx2i)()()(12iiTiixxxg22接着对接着对 化简：化简：)(xgiMade in CV&PRLab of Shandong University)(ln2121)(111iiTiTiTiwPxxxxg去掉与去掉与 无关的项：无关的项：i)(ln21)(11iiTiTiiwPxxg0iTiwxwiTiw1)(ln2110iiTiiwPw其中：其中：0)(iTiiwxwxg也是一个线性函数，对应的决策面也是一个超平面。也是一个线性函数，对应的决策面也是一个超平面。Made i

29、n CV&PRLab of Shandong University对于对于 和和 相邻，决策面方程：相邻，决策面方程：其中：其中：与第一种情况不同，此时决策面通过与第一种情况不同，此时决策面通过 ，但不与，但不与 正正交（垂直）。交（垂直）。iRjR0)()()(0 xxwxgxgTji)(1jiw)()()()()(ln()(2110jijiTjijijiwPwPx0 xjiMade in CV&PRLab of Shandong University二维情况：二维情况：Made in CV&PRLab of Shandong University当各类先验概率相等时当各类先验概率相等时位于

30、位于 的中点上。当各类先验概率不相等时，的中点上。当各类先验概率不相等时，不在不在 的中点上，而是偏向先验概率较小的均值点。的中点上，而是偏向先验概率较小的均值点。)()(jiwPwP)(210jix0 xji0 xjiMade in CV&PRLab of Shandong University3第三种情况第三种情况各类协方差矩阵不等：各类协方差矩阵不等：，由于：由于：去掉与去掉与 无关的项无关的项 ，得：，得：表示为：表示为：jicji,2,1,)(ln|ln212ln2)()(21)(1iiiiTiiwPdxxxgi2ln2d)(ln|ln21)()(21)(1iiiiTiiwPxxxg

31、)(xgi0)(iTiiTiwxwxWxxg其中：其中：121iiW矩阵dd Made in CV&PRLab of Shandong Universityiiiw1维向量维向量 d)(lnln212110iiiiTiiwPw此时此时 表示为表示为 的二次型。的二次型。对于对于 和和 相邻，决策面应为：相邻，决策面应为：)(xgixiRjR0)()(xgxgji0)()(00jiTjijiTwwxwwxWWxMade in CV&PRLab of Shandong University该曲线为超二次曲面。随该曲线为超二次曲面。随 、的不同，超二次曲面的不同，超二次曲面为：超球面、超椭球面、超抛

32、物面、超双曲面，或超平面等。为：超球面、超椭球面、超抛物面、超双曲面，或超平面等。假设特征空间是二维的，模式样本的两个分量之间是相互独立的，假设特征空间是二维的，模式样本的两个分量之间是相互独立的，所以协方差矩阵是所以协方差矩阵是2X2维的对角矩阵。令各类的先验概率相等，维的对角矩阵。令各类的先验概率相等，那么不同类型区域的划分取决于各类的均值向量和两个方差项的那么不同类型区域的划分取决于各类的均值向量和两个方差项的差异，而决策面的形状主要取决于两个方差项的差异。差异，而决策面的形状主要取决于两个方差项的差异。ii)(iwP 222100iii222100jjjMade in CV&PRLab

33、 of Shandong University（1）若）若 ，且，且 ，则两类的概率分布等密度线分别是以各自均值点为圆心的同心圆，则两类的概率分布等密度线分别是以各自均值点为圆心的同心圆，圆的大小与相应的方差相一致。由于圆的大小与相应的方差相一致。由于 ，所以来自类型，所以来自类型 的样本更密集于它的均值点附近；同时，由于园的对称性，决策面的样本更密集于它的均值点附近；同时，由于园的对称性，决策面为包围均值点为包围均值点 的一个圆。的一个圆。iii21jjj21jijijwjMade in CV&PRLab of Shandong UniversityMade in CV&PRLab of S

34、handong University（2）若在上图的）若在上图的(a)的基础上增大分量的基础上增大分量x2的方差的方差 和和 ，使使 和和 ，这样图，这样图(a)中的圆在中的圆在x2方向上伸方向上伸展，而变成椭圆，如图展，而变成椭圆，如图(b)所示，决策面也变成了椭圆。所示，决策面也变成了椭圆。（3）若）若 ，在这种情况下，分量，在这种情况下，分量x2大的样本大的样本x很可能来自类型很可能来自类型 ，使决策面变成一条抛物线，使决策面变成一条抛物线，如图如图(c)所示。所示。22i22j21ii21jj211jji21iiiwMade in CV&PRLab of Shandong Univer

35、sity（4）若在）若在(c)的基础上增大的基础上增大 ，使，使 ，1 j21ji在这种情况下，决策面变成双曲线，如图在这种情况下，决策面变成双曲线，如图(d)所示。所示。21ii21jj（5）在一非常特殊的对称条件下，使）在一非常特殊的对称条件下，使(d)中的双曲线向一对互中的双曲线向一对互 相垂直的直线退化，如图相垂直的直线退化，如图(e)所示。在这种情况下，两所示。在这种情况下，两种类型是线性可分的。种类型是线性可分的。清华清华模式识别模式识别书上书上P34中间用图讨论了几种决策面的变化。中间用图讨论了几种决策面的变化。Made in CV&PRLab of Shandong Unive

36、rsity例例1：设在三维特征空间里，两类的类概率密度是正态分布的，：设在三维特征空间里，两类的类概率密度是正态分布的，分别在两个类型中获得分别在两个类型中获得4个样本，位于一个单位立方体的顶点上，个样本，位于一个单位立方体的顶点上，如下图。两类的先验概率相等，试确定两类之间的决策面及相应如下图。两类的先验概率相等，试确定两类之间的决策面及相应的类型区域和。的类型区域和。Made in CV&PRLab of Shandong University解：解：和和 表示两个类型，由图可知，两个类型的样本：表示两个类型，由图可知，两个类型的样本：，：，用各类样本的算术平均值近似代替各类均值向量，也就

37、是：用各类样本的算术平均值近似代替各类均值向量，也就是：为为 中的样本数，中的样本数，表示表示 的第的第 个样本。个样本。协方差矩阵由其定义求得：协方差矩阵由其定义求得：1w2w1wT)0,0,0(T)0,0,1(T)0,1,1(T)1,0,1(2wT)0,1,0(T)1,0,0(T)1,1,0(T)1,1,1(11kikiixNiNiwikxiwkMade in CV&PRLab of Shandong UniversityTiiTikNkikiTjiiixxNRi11式中式中 为类为类 的自相关函数。的自相关函数。由题中所给条件：由题中所给条件：，有：有：，iRiw2,1i421 NNT)

38、1,1,3(411T)3,3,1(412113113339161)41,41,43(414143)41,41,43()41,41,43(11TTMade in CV&PRLab of Shandong University10101111341)1,0,1(101)0,1,1(011)0,0,1(001)0,0,0(000411R221231111412R同理：同理：Made in CV&PRLab of Shandong University311131113161113113339161101011113411111TR3111311131612因此，因此，符合情况二。用情况二的公式确定决

39、策面。符合情况二。用情况二的公式确定决策面。2121112111241Made in CV&PRLab of Shandong University决策面为决策面为 0)(0)()(021xxwxgxgT)(211w，)(21210 x先验概率相等先验概率相等，)()(21wPwP888222412111211124)(211wTx)1,1,1(21)(21210Made in CV&PRLab of Shandong University决策方程：决策方程：0)(0 xxwT0212121)8,8,8(321xxx也就是：也就是：0)21(8)21(8)21(8321xxx04888321xxxMade in CV&PRLab of Shandong University01222321xxx如下图所示。如下图所示。w指向的一侧为正，是指向的一侧为正，是w1的区域的区域R1，负向的一侧为，负向的一侧为w2。Made in CV&PRLab of Shandong University