线性最小均方误差估计的估计规则课件.ppt

1、信号检测与估值信号检测与估值 20162016年春季年春季西电通院郑贱平西电通院郑贱平3.1 问题描述问题描述3.2 随机参量的随机参量的Bayes估计估计3.3 ML估计估计3.4 估计量的性质估计量的性质3.5 线性最小均方误差估计线性最小均方误差估计3.6 最小二乘估计最小二乘估计信号检测与估值信号检测与估值 20162016年春年春季季2数字通信数据帧结构数字通信数据帧结构信道估计：根据信道估计：根据yP、xP以及以及hP的统计的统计 信息，估计信息，估计hP，即：，即：(yP,xP,stat_info(hP)hP （如（如yP=hPxP+w)可行性：一般信道都是可行性：一般信道都是s

2、lowly time varying的（相干时间的（相干时间时延要时延要求），因此求），因此hdhp其他估计问题：载波频率、相位、时延等其他估计问题：载波频率、相位、时延等信号检测与估值信号检测与估值 20162016年春年春季季3估计规则参量空间观测空间Rxp x需要接收端作出估计的参量集合需要接收端作出估计的参量集合参量空间：参量空间：观测空间：观测空间：接收端收到的观测信号的集合接收端收到的观测信号的集合概率映射：概率映射：信源发送信号到接收端过程中，会有噪声的影响，观测信号中信源发送信号到接收端过程中，会有噪声的影响，观测信号中包含被估计矢量的信息，所以观测信号是以被估计矢量为参包含被

3、估计矢量的信息，所以观测信号是以被估计矢量为参数的随机矢量，用数的随机矢量，用 来描述。来描述。xp信号检测与估值信号检测与估值 20162016年春年春季季4本章的核心问题之一就是研究上述函数的构造方法，评估所构造估计量的优劣。本章的核心问题之一就是研究上述函数的构造方法，评估所构造估计量的优劣。估计规则：估计规则：利用被估计矢量的先验知识和观测信号的统计特性，根据指标利用被估计矢量的先验知识和观测信号的统计特性，根据指标要求，构造观测矢量的函数来定义估计量。要求，构造观测矢量的函数来定义估计量。Nxxxgg,21xx估计量性能的评估估计量性能的评估 估计量的均值估计量的均值 估计量的均方误

4、差估计量的均方误差 E x xx 22xxEE信号检测与估值信号检测与估值 20162016年春年春季季5常用代价函数常用代价函数贝叶斯估计的概念贝叶斯估计的概念最小均方误差估计最小均方误差估计最大后验概率估计最大后验概率估计条件中值估计条件中值估计最佳估计的不变性最佳估计的不变性信号检测与估值信号检测与估值 20162016年春年春季季6 2c误差平方代价函数误差平方代价函数 误差绝对值代价函数误差绝对值代价函数 c均匀代价函数均匀代价函数 1,/20,/2cc 贝叶斯估计：使平均代价最小的一种估计准则。贝叶斯估计：使平均代价最小的一种估计准则。代价函数的基本特性：非负性和代价函数的基本特性

5、：非负性和 时的最小性。时的最小性。0信号检测与估值信号检测与估值 20162016年春年春季季7设被估计的单随机变量的先验概率密度函数为设被估计的单随机变量的先验概率密度函数为 p平均代价平均代价C为为 ddpcCxx,的函数和观测矢量是随机参量xc易知代价函数易知代价函数在在 给定，选定代价函数的条件下，使平均代价最小的估计称为贝叶斯给定，选定代价函数的条件下，使平均代价最小的估计称为贝叶斯估计。估计。p信号检测与估值信号检测与估值 20162016年春年春季季8 xxxppp,由由 ddpcCxx,ddppcxxx xxxddpcp是非负值，是非负值，dpcx因此使平均代价最小，就等价于

6、使因此使平均代价最小，就等价于使 dpcCxx最小。最小。条件平均代价条件平均代价信号检测与估值信号检测与估值 20162016年春年春季季9 1100lim|limlim|limlim|lim,|,|,iMMijijjMjiijijjMMjiijjjRMMjijjRMjRRCc P HHP Hc P HHP HcP x HdxP Hc j x P x HdxP Hcx P xdxpdcx P xdxd 估计：参数连续取值；检测：参数取自有限个离散点集合。估计：参数连续取值；检测：参数取自有限个离散点集合。信号检测与估值信号检测与估值 20162016年春年春季季10检测：参量的状态是有限的（

7、检测：参量的状态是有限的（M-ary检测）检测）估计：参量的状态是连续的（比如实数域，复数估计：参量的状态是连续的（比如实数域，复数域）域）当当M时，检测就变成了估计时，检测就变成了估计用检测做估计：用检测做估计：复杂度太高，不合适复杂度太高，不合适用估计做检测：用估计做检测：可以，实际上经常这样用可以，实际上经常这样用比如，在衰落信道比如，在衰落信道y=hx+w的信号检测中，经常对信号的信号检测中，经常对信号先进行先进行估计估计得到得到x的估计值的估计值x1（复数域上的任意值），（复数域上的任意值），然后将其然后将其量化量化到信号星座上的某个点，即检测值到信号星座上的某个点，即检测值x2。无

8、线通信中，有时候并不严格区分检测与估计无线通信中，有时候并不严格区分检测与估计信号检测与估值信号检测与估值 20162016年春年春季季11 2c选定的代价函数为选定的代价函数为 dpcCxxdpx2使条件平均代价最小的一个必要条件是对上式中使条件平均代价最小的一个必要条件是对上式中 求偏导求偏导令偏导为零来求得最佳的估计量令偏导为零来求得最佳的估计量 求解方法求解方法 信号检测与估值信号检测与估值 20162016年春年春季季12xCdpx2dpx222022msedpdpxx1dpxdpmsex信号检测与估值信号检测与估值 20162016年春年春季季13dpmsex注：注：1.最小均方误

9、差估计的估计量实际是条件均值最小均方误差估计的估计量实际是条件均值xxEdpmse2.最小均方误差估计的条件平均代价实际是条件方差最小均方误差估计的条件平均代价实际是条件方差dpCmsemsexx2dpExx23.最小均方误差估计量的另一种形式最小均方误差估计量的另一种形式dpmsex dppxx,dpdpxx,dppdppxx信号检测与估值信号检测与估值 20162016年春年春季季14 1,/20,/2cc dpcCxx选定的代价函数为选定的代价函数为 22221pdpdpd xxx使条件平均代价最小，应该使使条件平均代价最小，应该使 取到最大值取到最大值22dpx当当很小时，为保证上式最

10、大，应当选择估计量很小时，为保证上式最大，应当选择估计量 ，使它处于后验概率密度函数使它处于后验概率密度函数 最大值的位置。最大值的位置。xp22pdp xx信号检测与估值信号检测与估值 20162016年春年春季季150mappx根据上述分析，得到最大后验概率估计量为根据上述分析，得到最大后验概率估计量为两种等价形式两种等价形式0lnmappx 0lnlnmapppx xxxpppp信号检测与估值信号检测与估值 20162016年春年春季季16 c选定的代价函数为选定的代价函数为 dpcCxxdpxdpdpxx使条件平均代价最小的一个必要条件是对上式中使条件平均代价最小的一个必要条件是对上式

11、中 求偏导求偏导 令偏导为零来求得最佳的估计量令偏导为零来求得最佳的估计量 求解方法求解方法 信号检测与估值信号检测与估值 20162016年春年春季季17dpdpxxdpdpxxdpdpdpdpxxxxxxxxxxpdppppdpdpdpxx信号检测与估值信号检测与估值 20162016年春年春季季18研究在加性噪声中单随机参量 的估计问题。观测方程为 Nknxkk,2,1,其中nk是均值为零，方差为 的独立同分布高斯随机噪声 2n被估计量 是均值为零，方差为 高斯随机变量 2求 的贝叶斯估计量(最小均方误差、最大后验和条件中值)信号检测与估值信号检测与估值 20162016年春年春季季19

12、解：0lnlnmapppx根据最大后验估计准则，估计量为满足以下方程的解，即 最大后验估计 2222exp21p2222exp21nknkxxpNknknNkkxxpp122212exp21x由题设，可知，给定由题设，可知，给定 条件下，观测信号条件下，观测信号xk是均值为是均值为 ，方差为，方差为 的高斯的高斯随机变量随机变量 2n信号检测与估值信号检测与估值 20162016年春年春季季20 2212222lnlnNknkxpp x2122222Nknkx所以最大后验估计量为满足以下方程的解所以最大后验估计量为满足以下方程的解 02222212mapNknkxNkknmapxNN12221

13、012212mapnNknkNx 2222exp21pNknknNkkxxpp122212exp21x信号检测与估值信号检测与估值 20162016年春年春季季21估计量的均方误差为估计量的均方误差为 2122221NkknmapxNNEE21222NkknnNE2122222222NkknnnnNNNNE2224222224nnnnNNN2222222nnnNN2222nnN信号检测与估值信号检测与估值 20162016年春年春季季22根据最小均方误差估计准则，估计量为 最小均方误差估计最小均方误差估计 2222exp21p2222exp21nknkxxpNknknNkkxxpp122212

14、exp21x由题设，可知，给定由题设，可知，给定 条件下，观测信号条件下，观测信号xk是均值为是均值为 ，方差为，方差为 的高斯的高斯随机变量随机变量 2ndpmsex信号检测与估值信号检测与估值 20162016年春年春季季23 xxxpppp x1K NknkNnxp1222222222exp21211x NknkkxxK1222221221expx NknknnnNkkxNxK12222222121221exp2expx x2K信号检测与估值信号检测与估值 20162016年春年春季季24 NknknnxNK12222222221expx NknknnnnxNNK122222222222

15、221expx 212222222321expNkknnnxNNKx 2122222222231/2expNkknnnnxNNNKKxx信号检测与估值信号检测与估值 20162016年春年春季季25 212222222321expNkknnnxNNKpxx上述分布是高斯型的，其均值为上述分布是高斯型的，其均值为NkknxN1222估计量的均方误差为估计量的均方误差为方差为方差为2222Nnn所以最小均方误差估计量为所以最小均方误差估计量为NkknmsexN122222222NEnnmse信号检测与估值信号检测与估值 20162016年春年春季季26条件中值估计条件中值估计估计量的均方误差为估计

16、量的均方误差为所以条件中值估计量为所以条件中值估计量为NkknmedxN122222222NEnnmeddpdpxx 212222222321expNkknnnxNNKpxx由于由于信号检测与估值信号检测与估值 20162016年春年春季季27结论：如果被估计量的后验概率密度函数是高斯型的，在三种典型代价函数下，结论：如果被估计量的后验概率密度函数是高斯型的，在三种典型代价函数下，使平均代价最小的估计量相同，都等于最小均方误差估计量，估计量的均方误差使平均代价最小的估计量相同，都等于最小均方误差估计量，估计量的均方误差都是最小的都是最小的 最佳估计的不变性最佳估计的不变性。条件中值估计条件中值

17、估计NkknmedxN1222NkknmsexN1222最小均方误差估计最小均方误差估计最大后验估计最大后验估计NkknmapxNN12221信号检测与估值信号检测与估值 20162016年春年春季季28研究在加性噪声中单随机参量 的估计问题。观测方程为 s,xsn其中n是均值为零，方差为 的独立同分布高斯随机噪声 2n被估计量 在(-SM,SM)之间均匀分布的随机变量s求 的贝叶斯估计量(最小均方误差和最大后验)s信号检测与估值信号检测与估值 20162016年春年春季季29解：lnln0maps sp x sp sss根据最大后验估计准则，估计量为满足以下方程的解，即 最大后验估计 其他,

18、0,21MMMSsSSsp2221exp22nnxsp x s由题设，可知，给定由题设，可知，给定 条件下，观测信号条件下，观测信号xk是均值为是均值为 ，方差为，方差为 的高斯的高斯随机变量随机变量 ss2n信号检测与估值信号检测与估值 20162016年春年春季季30 2212lnln2nMxsp x sp sSssss 2222nnxsxs所以最大后验估计量为满足以下方程的解 20mapns sxsmapsx 其他,0,21MMMSsSSsp2221exp22nnxsp x s信号检测与估值信号检测与估值 20162016年春年春季季31由于s在(-SM,SM)之间取值，所以,MMmap

19、MMMMSxSsxSxSSxS 信号检测与估值信号检测与估值 20162016年春年春季季32根据最小均方误差估计准则，估计量为 最小均方误差估计 222222()11exp22211exp222MMMMmsessnMnssnMnssp s x dssp x s p s dsp x s p s dsxssdssxsdss信号检测与估值信号检测与估值 20162016年春年春季季33222222222211exp22211exp222exp2,exp2MMMMMMMMssnMnssnMnsxsxnsxsxnxssdssxsdssuxuduuxsudu信号检测与估值信号检测与估值 20162016

20、年春年春季季3422222222exp2,/,/,/exp2exp/2exp/2exp2exp/2exp/22d vnd vnnMnd vnd vnd vd vnttdtxtuvxdstdtdvdvxtdtdvdvxQ dvQ dv信号检测与估值信号检测与估值 20162016年春年春季季35ML估计：先验等概下的估计：先验等概下的MAP估计估计出发点：若先验概率出发点：若先验概率 未知，或者未知，或者为非随机为非随机的未知量，此时的未知量，此时MAP不适用。不适用。构造：构造：()p0MLp xln0MLp xargmaxMLpxA信号检测与估值信号检测与估值 20162016年春年春季季3

21、6如果参量如果参量的观测方程为的观测方程为 其中其中nk是均值为零，方差为是均值为零，方差为 的独立同分布高斯随机噪的独立同分布高斯随机噪声；声；是均值为零，方差为是均值为零，方差为 的高斯变量。求的高斯变量。求 并与并与 比较比较Nknxkk,2,1,2n2MLb信号检测与估值信号检测与估值 20162016年春年春季季372211222ln2NNkkknknxxp x2222exp21nknkxxpNknknNkkxxpp122212exp21x0lnmlpxNkkmlxN11信号检测与估值信号检测与估值 20162016年春年春季季38均方误差均方误差221221122211111Nml

22、kkNNkkkkNnkkEExNEnEnNNE nNN信号检测与估值信号检测与估值 20162016年春年春季季3922211NbkknxNN22222211bnnnMLENEN信号检测与估值信号检测与估值 20162016年春年春季季40若若 是一对一变换，有是一对一变换，有.是一对是一对J(J1)变换，变换，g()gMLMLx gMLMLg(|)|;1,.,jp xpxjJ|max|,1,.,argmax|jMLp xpxjJp x信号检测与估值信号检测与估值 20162016年春年春季季41同例同例1，求，求 的的ML估计估计 exp信号检测与估值信号检测与估值 20162016年春年春

23、季季422222exp21nknkxxpNknknNkkxxpp122212exp21x由题设，可知，给定由题设，可知，给定 条件下，观测信号条件下，观测信号xk是均值为是均值为 ，方差为，方差为 的高斯的高斯随机变量随机变量 2n由于由于 是是 的一对一变换，即是单调函数，因此可得的一对一变换，即是单调函数，因此可得解：解：expNknknxp12222lnexp21x信号检测与估值信号检测与估值 20162016年春年春季季43mlNkkmlxNexp1exp1所以最大似然估计量为所以最大似然估计量为Nknkxp1222lnlnx12ln221nNkkx由最大似然估计原理，得最大似然估计量

24、为满足以下方程的解。由最大似然估计原理，得最大似然估计量为满足以下方程的解。0lnmlpx信号检测与估值信号检测与估值 20162016年春年春季季44非随机变量非随机变量 无偏估计无偏估计 有偏估计有偏估计 已知偏差的有偏估计已知偏差的有偏估计 为无偏估计为无偏估计 Epdb xx if 0,.,bie E if 0b if 0bbb信号检测与估值信号检测与估值 20162016年春年春季季45随机变量随机变量 无偏估计无偏估计 有偏估计有偏估计渐近无偏估计渐近无偏估计 if EE ,Epd d xx if EE 1,RVlim,RVNNExE非信号检测与估值信号检测与估值 20162016

25、年春年春季季46对于被估计量对于被估计量 的任意无偏估计的任意无偏估计 和和 ，若估计的均方误差，若估计的均方误差12则称估计量则称估计量 比比 更有效。更有效。12如果如果 的无偏估计量的无偏估计量 小于其他任意无偏估计量的均方误差，则小于其他任意无偏估计量的均方误差，则称该估计量为最小均方误差估计量。称该估计量为最小均方误差估计量。问题：能否确定一个均方误差的下界？问题：能否确定一个均方误差的下界？2212EE信号检测与估值信号检测与估值 20162016年春年春季季47则称估计量则称估计量 是一致收敛的估计量。是一致收敛的估计量。假设根据假设根据N次观测量构造的估计量为次观测量构造的估计

26、量为 Nx若若Nx0lim2NNEx则称估计量则称估计量 是均方一致收敛的估计量。是均方一致收敛的估计量。若若Nxlim0NNPx信号检测与估值信号检测与估值 20162016年春年春季季48若被估计量若被估计量 的估计量为的估计量为 ，x是观测量。如果以是观测量。如果以 为参量的似然为参量的似然函数函数 能够表示为：能够表示为：则称则称 为充分估计量。为充分估计量。其中，其中，是通过是通过 才与才与x有关的函数，并且以有关的函数，并且以 为参量。为参量。有效估计量必然是充分估计量有效估计量必然是充分估计量()x(|)()|)(),()0p xgxh xh x(|)p x()x()|)gx()

27、x信号检测与估值信号检测与估值 20162016年春年春季季49非非RV情况：设情况：设 是非随机参量是非随机参量 的无偏估计，则有的无偏估计，则有 当且仅当对任意的当且仅当对任意的 和和x，均满足，均满足 时，不等式取等号。时，不等式取等号。222211lnlnVarEppEE xx kplnx信号检测与估值信号检测与估值 20162016年春年春季季50设设 是非随机参量是非随机参量 的无偏估计，则有的无偏估计，则有对上式求偏导，对上式求偏导，得得0 xxdpExxdpxxxxdpdp0E 信号检测与估值信号检测与估值 20162016年春年春季季51xxdpxxxxdpdp01xxdpx

28、xxpppln上式改写为上式改写为1lnxxxdpp1ln2xxxdpp信号检测与估值信号检测与估值 20162016年春年春季季52根据柯西根据柯西-施瓦滋不等式施瓦滋不等式 xxxdxhxwdxgxwdxhxgxw222当且仅当当且仅当 时，上式等号成立。时，上式等号成立。xkhxg xxpw xxpgln xh信号检测与估值信号检测与估值 20162016年春年春季季532ln1xxxdppxxxxxdppdp22ln22lnxpEE22ln1xpEE等号成立条件等号成立条件 xxhkg lnkp x信号检测与估值信号检测与估值 20162016年春年春季季54克拉美克拉美-罗不等式的另

29、一种形式罗不等式的另一种形式1xxdp0 xxdpxxxdppln求偏导求偏导再求一次偏导再求一次偏导xxxxxxdppdpp222lnln222lnlnxxpEpExxxxxxdppdpplnln220信号检测与估值信号检测与估值 20162016年春年春季季55克拉美克拉美-罗不等式的另一种形式罗不等式的另一种形式222lnlnxxpEpE所以所以 222ln1xpEEVar信号检测与估值信号检测与估值 20162016年春年春季季56非随机参量情况下的克拉美非随机参量情况下的克拉美-罗不等式的含义和用途罗不等式的含义和用途222ln1ln1xxpEpE(1)非随机参量非随机参量 的任意无

30、偏估计量的任意无偏估计量 的方差的方差 ，即均方误差恒，即均方误差恒不小于不小于 (2)若非随机参量若非随机参量 的无偏估计量的无偏估计量 满足满足 kplnx则估计量的方差则估计量的方差 取到最小值，即取到克拉美取到最小值，即取到克拉美-罗界。罗界。2EVarVar 信号检测与估值信号检测与估值 20162016年春年春季季57(3)若非随机参量若非随机参量 的无偏估计量的无偏估计量 满足满足 kplnx 2EVar则无偏估计量则无偏估计量 是有效的，否则是无效的。是有效的，否则是无效的。(4)若非随机参量若非随机参量 的无偏估计量的无偏估计量 是有效的，则估计量的方差，即均是有效的，则估计

31、量的方差，即均方误差可由克拉美方误差可由克拉美-罗界取得。罗界取得。222ln1ln1xxpEpE信号检测与估值信号检测与估值 20162016年春年春季季58(5)若非随机参量若非随机参量 的的无偏无偏有效估计量有效估计量 存在，它必定是存在，它必定是 的最大似然的最大似然估计量估计量 ，且可由最大似然方程解得。，且可由最大似然方程解得。ml(6)非随机参量非随机参量 的最大似然估计量的最大似然估计量 不一定是无偏有效的。不一定是无偏有效的。ml0lnmlpx最大似然估计量为 kplnx由 0mlkml信号检测与估值信号检测与估值 20162016年春年春季季59若非随机参量若非随机参量 的

32、无偏估计量的无偏估计量 也是有效的，则其均方误差为也是有效的，则其均方误差为 kEVar12 kplnx由 kkpln22x kkkEpEln22x kpEEVar1ln1222x信号检测与估值信号检测与估值 20162016年春年春季季60如果参量如果参量 的观测方程为的观测方程为Nknxkk,2,1,其中其中nk是均值为零，方差为是均值为零，方差为 的独立同分布高斯随机噪声，的独立同分布高斯随机噪声，2n试讨论估计量试讨论估计量 的最大似然估计量的最大似然估计量 的无偏性、有效的无偏性、有效性和一致性。性和一致性。NkkmlxN11信号检测与估值信号检测与估值 20162016年春年春季季

33、61NkkNkkmlnNExNEE1111NknknNkkxxpp122212exp21x由题设，由题设，由于由于的无偏估计量。是mlNknkxp1222lnx2122nNkkx21nNkkxN211nNkkxNN2nmlN信号检测与估值信号检测与估值 20162016年春年春季季62 NkEnml221NkkNNmlNnNPP11limlimxml最大似然估计量最大似然估计量是是 的有效估计量，且估计量的均方误差为的有效估计量，且估计量的均方误差为NkkNnNP11lim0ml最大似然估计量最大似然估计量是一致收敛估计量。是一致收敛估计量。0limlim22NEnNmlNml最大似然估计量最

34、大似然估计量是均方一致收敛估计量是均方一致收敛估计量信号检测与估值信号检测与估值 20162016年春年春季季63设设 是随机参量是随机参量 的无偏估计，则有的无偏估计，则有 22,ln1xpEEVar或 222,ln1xpEEVar当且仅当当且仅当 时，上述两式取等号。时，上述两式取等号。kp,lnx克拉美克拉美-罗罗不等式不等式克拉美克拉美-罗不等式取等号的条件罗不等式取等号的条件信号检测与估值信号检测与估值 20162016年春年春季季64(1)由于由于 ppplnln,lnxx所以所以 22222lnln1ppEEVarx 22lnln1ppEEVarx信号检测与估值信号检测与估值 2

35、0162016年春年春季季65222,ln1,ln1xxpEpE(2)随机参量随机参量 的任意无偏估计量的任意无偏估计量 的方差的方差 ，即均方误差恒不小于，即均方误差恒不小于 Var(3)若随机参量若随机参量 的无偏估计量的无偏估计量 满足满足 kp,lnx 则估计量的方差则估计量的方差 取到最小值，即取到克拉美取到最小值，即取到克拉美-罗罗界。界。2EVar信号检测与估值信号检测与估值 20162016年春年春季季66222,ln1,ln1xxpEpE 2EVar(5)若随机参量若随机参量 的无偏估计量的无偏估计量 是有效的，则估计量的方差，即均方是有效的，则估计量的方差，即均方误差可由克

36、拉美误差可由克拉美-罗界取得。罗界取得。(4)若随机参量若随机参量 的无偏估计量的无偏估计量 满足满足 则无偏估计量则无偏估计量 是有效的，否则是无效的。是有效的，否则是无效的。kp,lnx信号检测与估值信号检测与估值 20162016年春年春季季67(6)若随机参量若随机参量 的无偏有效估计量的无偏有效估计量 存在，它必定是存在，它必定是 的最大后验估的最大后验估计量计量 。map 0lnlnmapppx最大后验估计量为 kpplnlnx0mapkmap信号检测与估值信号检测与估值 20162016年春年春季季68若随机参量若随机参量 的无偏估计量的无偏估计量 也是有效的，则其均方误差为也是

37、有效的，则其均方误差为 kEVar12kp,lnx由kp22,lnxkpE22,lnx kpEEVar1,ln1222x信号检测与估值信号检测与估值 20162016年春年春季季69同例同例1。试讨论估计量。试讨论估计量 的贝叶斯估计量的贝叶斯估计量的无偏性、有效性和一致性。的无偏性、有效性和一致性。NkknbxNN12221/信号检测与估值信号检测与估值 20162016年春年春季季70NknknNkkxxpp122212exp21x由题设，由题设，由于由于的无偏估计量。是bNknkxp1222lnx2122nNkkx21nNkkxN NkknbxNNEE12221/NkknnNNE1222

38、1/E 0信号检测与估值信号检测与估值 20162016年春年春季季71 pplnlnx 2222exp21p由于由于 222ln p2221nNkkxNNkknnnxN1222221NkknnnxNN12222222NkknnnxNNN122222221/bnnN2222信号检测与估值信号检测与估值 20162016年春年春季季72222221nnbNkE222122222211limlim/1lim0/NbNkNNknNnkNknnPPxNNNPnNNNxb贝叶斯估计量贝叶斯估计量是是 的有效估计量，且估计量的均方误差为的有效估计量，且估计量的均方误差为b贝叶斯估计量贝叶斯估计量是一致收敛

39、估计量。是一致收敛估计量。0limlim22222nnNbNNEb贝叶斯估计量贝叶斯估计量是均方一致收敛估计量是均方一致收敛估计量信号检测与估值信号检测与估值 20162016年春年春季季73设设 非随机参量非随机参量 的函数的函数 ，其估计量，其估计量 是是 的任意无偏估计，则有的任意无偏估计，则有 222lnxpEgEVar或 2222lnxpEgEVar当且仅当当且仅当 时，上述两式取等号。时，上述两式取等号。kplnx克拉美克拉美-罗罗不等式不等式克拉美克拉美-罗不等式取等号的条件罗不等式取等号的条件 g信号检测与估值信号检测与估值 20162016年春年春季季74 同例同例1。求求

40、的无偏性和有效性，并求估的无偏性和有效性，并求估计的均方误差。计的均方误差。bml信号检测与估值信号检测与估值 20162016年春年春季季75解NknknNkkxxpp122212exp21x由于由于易知易知NkkmlxN11根据最大似然估计的不变性，得到根据最大似然估计的不变性，得到NkkmlmlxNbb1bxNbEENkkml1的无偏估计量是ml信号检测与估值信号检测与估值 20162016年春年春季季76NknknNkkxxpp122212exp21xNknkxp1222lnx222lnxpEbarVml的有效估计量是mlNkknx12121nNkkbNxNbbkml22nNbNbn2

41、2信号检测与估值信号检测与估值 20162016年春年春季季77Model MMSE、MAP估计：需要后验概率信息估计：需要后验概率信息ML估计：需要先验概率信息估计：需要先验概率信息若仅已知前二阶距信息：观测信号和被估计随机矢量若仅已知前二阶距信息：观测信号和被估计随机矢量的均值矢量、协方差矩阵和互协方差矩阵。的均值矢量、协方差矩阵和互协方差矩阵。-采用采用LMMSE估计估计pxpxxHn信号检测与估值信号检测与估值 20162016年春年春季季78线性最小均方误差估计准则线性最小均方误差估计准则 首先，构造的估计矢量首先，构造的估计矢量 是观测矢量是观测矢量x的线性函数，即：的线性函数，即

42、：同时要求估计矢量的均方误差最小，即为同时要求估计矢量的均方误差最小，即为 最小，式中最小，式中 表示矩阵的迹。表示矩阵的迹。所以，线性最小均方误差估计的估计规则，就是把估计量构造成观测所以，线性最小均方误差估计的估计规则，就是把估计量构造成观测量的线性函数，同时要求估计量的均方误差最小。量的线性函数，同时要求估计量的均方误差最小。aBx 2()()()()TTETr E ()Tr 信号检测与估值信号检测与估值 20162016年春年春季季792()()()()TTETr E BxaBxaTTEE TTEEaBxaBxaaBxaE2xBa2令令0 xxaBaB信号检测与估值信号检测与估值 20

43、162016年春年春季季80 222TTTTTTTTTTTTTTTTTEETrETrEEBEEEaBxaBxBBaBxaBxBaaa x BBx aBxx BBa xa xxxxxaxBxxx信号检测与估值信号检测与估值 20162016年春年春季季81Lemmatrtr trtr TTTTTTTddddddddX AAXAXXX AXAAXXXAXX AAX信号检测与估值信号检测与估值 20162016年春年春季季8212222200TTTTTTTxxxxEEEEEEEBCCBC CxxxaBBxBxxxBxxxxx注意到注意到信号检测与估值信号检测与估值 20162016年春年春季季83解

44、得解得1xxCCBxxxxCCBa1所以所以xCCCCBxaxxxxx11lmsexxxxCC1信号检测与估值信号检测与估值 20162016年春年春季季841lmsexxxC Cx均值（先验）均值（先验）新息（观测提供的信息）新息（观测提供的信息）11/2xxxC CxC1/2 xxxxuCx1/21/21/211 xxxxCCCC CxC Cx11lmse xxxxxC CxC Cx1/21/21/21/21/21/21/21/21Cov,Cov,VarVarCov,xxxxxxxxxxxxxC CxxCC CxCC CCxCC Cx观测量的信息观测量的信息参量的信息参量的信息信号检测与估

45、值信号检测与估值 20162016年春年春季季85(1)估计矢量是观测矢量的线性函数估计矢量是观测矢量的线性函数(2)线性最小均方误差估计矢量是无偏估计线性最小均方误差估计矢量是无偏估计lmsexxxxCC1lmseExxxxCC1ExxxxCCE1lmse所以所以是是 无偏估计无偏估计1111111()()lmseTlmselmseTTTTxxxTxMEECCCCCxxxxxxxxxxxxxxxxC CxC CxC C C CC CC CCC C信号检测与估值信号检测与估值 20162016年春年春季季86(3)估计的误差矢量与观测矢量的正交性估计的误差矢量与观测矢量的正交性被估计矢量被估计

46、矢量与观测矢量与观测矢量x是正交的，即是正交的，即与线性最小均方误差估计矢量与线性最小均方误差估计矢量 之间的误差矢量之间的误差矢量lmselmse0TlmseEx信号检测与估值信号检测与估值 20162016年春年春季季870TlmseExlmse由于由于是是 无偏估计无偏估计1110TTTlmselmseTTTTEEEEExxxxxxxxxxxxxxxxC CxxxC CxxCC C C信号检测与估值信号检测与估值 20162016年春年春季季88(4)最小均方误差估计与线性最小均方误差估计的关系最小均方误差估计与线性最小均方误差估计的关系当观测矢量与被估计矢量是联合高斯分布时，最小均方误

47、差估计与线性当观测矢量与被估计矢量是联合高斯分布时，最小均方误差估计与线性最小均方误差估计两者相同最小均方误差估计两者相同随机矢量的最小均方误差估计矢量可以是观测矢量的非线性函数，而线随机矢量的最小均方误差估计矢量可以是观测矢量的非线性函数，而线性最小均方误差估计的估计矢量一定是观测矢量的线性函数。性最小均方误差估计的估计矢量一定是观测矢量的线性函数。信号检测与估值信号检测与估值 20162016年春年春季季89设设M维被估计随机矢量的均值矢量和协方差矩阵分别为维被估计随机矢量的均值矢量和协方差矩阵分别为 和和 ，观测方程为观测方程为求求 的线性最小均方误差估计矢量的线性最小均方误差估计矢量

48、和估计矢量的均方误差阵和估计矢量的均方误差阵且已知且已知CnHx 0nEnCnnTE0TE nlmslmsMlmsexxxxCC1 nHxxEEHTExxxCxx解：解：由由信号检测与估值信号检测与估值 20162016年春年春季季90TTTEExxxxxnCxxHnHnHC HCTTTEExxxCxHnC HlmsenHxCHHCHC1TT信号检测与估值信号检测与估值 20162016年春年春季季911TTlmsenC HHC HCxHTlmslmsElmsMnHCCHHCHCC1TT信号检测与估值信号检测与估值 20162016年春年春季季9292的线性函数的线性函数 的线性的线性MMSE

49、估计矢量估计矢量 为：为：Ablmse lmselmseAbp 线性变换上的线性变换上的可转换性可转换性的线性的线性MMSE估计矢量为估计矢量为 lmse 1()lmseaaxxxC Cx证明：证明：()()EEaaAbAb ()()()()TTEaxaxxxC=EaxAbAb xAC1()lmselmsexxxAbAC CxAb信号检测与估值信号检测与估值 20162016年春年春季季9393lmselmseAbp 线性变换上的线性变换上的可转换性可转换性()()lmseEE无偏性：无偏性：()()lmselmseTlmselmseTEaMaaaaAMA 均方误差阵：均方误差阵：的线性函数的

50、线性函数 的线性的线性MMSE估计矢量估计矢量 为：为：Ablmse 信号检测与估值信号检测与估值 20162016年春年春季季94n 线性线性MMSE估计的估计的可叠加性可叠加性若若 和和 分别是同维随机矢量分别是同维随机矢量 和和 的线性的线性MMSE估计矢量，估计矢量，那么那么 的线性的线性MMSE估计矢量估计矢量 为：为：12lmselmselmse()()lmseEE无偏性：无偏性：121 22 1 lmselmselmselmselmseaMMMMM 均方误差阵：均方误差阵：1 2lmse 2 1lmse 12 lmse 22221lmseTxxxMCCCC 11111lmseTx