第6讲谱估计4最大熵法课件.ppt

1、主主 要要 内内 容容最大熵谱估计的基本原理最大熵谱估计与AR模型谱估计、预测误差滤波法等效最大熵功率谱的计算 (AR模型参数的计算）最大熵谱估计（AR模型）的稳定性和阶数的确定 有附加噪声的AR过程的谱估计最大熵谱估计的特点最大熵的基本思想：最大熵的基本思想：就是根据已知数据信息，在 不进行任何新的假设(不增加任何虚假信息)的情 况下，合理地预测未知延迟离散时间上的相关函 数。即在根据已知信息外推相关函数时，每一步 都保持未知事件的不确定性或熵为最大。 信息量信息量 可见熵是消息源发出每个消息的平均信息量。 njjjnjjjjppppIEH110110log1log对于高斯分布的随机变量，布

2、卡乔夫证明了其熵和 自协方差矩阵间存在关系： 当时间序列为零均值时，熵和自相关函数之间存在 关系 ：当过程为无限长时，用熵率作为信息的度量 时间序列功率谱密度和熵率的关系： 时间序列的频率范围是-fc ，fc xHcdetlog2110 xHR Rdetlog21101110detlog21lim1limmxmmmHhRccffxccdffsffh)(ln412ln21从最大熵原理出发进行谱估计 若已知自相关函数Rx(m)的前2M+1个序列值，则选择 未知自相关函数要使： 从而可以外推出Rx(M+1)。并依此类推得到其它自相 关函数值。于是功率谱 10)(MmmRHx0) 1() 1(det)

3、 1(MRMRMRHxxx0) 1 ()() 1() 2() 1 () 2 () 1() 0 () 1 (xxxxxxxxxRMRMRMRRRMRRRmfmTjxxemRTfs2)()(若选择 可以得到 令 整理后得到 【最小相位(其零点都在单位圆之内) 最大相位】 令 ， 最大熵谱估计 10)(MmmRhx10)(2MmdffSeccffxfmTjMmdzzczjfmRMMnnnmcx0)(1)1()(*zGzGzcMMMMnnn2*)0(2)0()0(2gfggfPccM)1()(2)1()(*zAzAPfzGzGMMMcMM21212)(MmmfTjmcMxeafPfSMMnfnTjnx

4、ecfS2)(1 ARAR谱和最大熵谱估计等价谱和最大熵谱估计等价对于M阶AR模型： x(n)的估值 估计误差 输入视为e(n)，输出视为x(n)，则系统函数为 ： 设激励信号e(n)为零均值，方差为 的白噪声序列， 功率谱密度为Pn，则数据序列x(n)的功率谱为： 而 即AR谱估计为：Mkkneknxanx1)()()(MkkkzazAzAzH11)(,)(1)(其中2nfTjARxPeHfs22)()(212221211)(MkfkTjkMkfkTjknARxeaTeaPfsTfPcn222可见，序列的最大熵功率谱和AR模型拟合所对应的 功率谱是等价的，并且 由于 ，所以AR参数和自相关函

5、数Rx(m)之间的关系为： 即Yule-Walker方程。AR模型谱估计实质是模型参数 的辨识问题。 cMMnfPTPP22)0(1gPn2)0(2gfPcMMmmkmRaMkxMk, 2 , 100)(20)(预测误差滤波法和最大熵谱估计等价预测误差滤波法和最大熵谱估计等价 预测：由随机序列x(n)过去和现在的M个值来预测下 一个取样值x(n+1)。即 通过合理选择预测系数，使预测均方误差达到最小 确定出的M阶FlR滤波器，称为数字预测滤波器。 MkMkknxanx1)()1() 1( 预测误差为：当估值均方误差达到最小时，满足正交原理。即 简化后，得： 最小预测误差功率为：MkMkknxa

6、nxnxne0)()()()()(MmmnxnxnxEmnxneE, 2 , 1 , 00)()()()()(MmkmRamRMkMkx, 2 , 1 , 0)()(1)()()2() 1 ()0()()()()()() )()()()()()(2)(1*1)(*1)(22)(minMRaRaRaRnxknxanxEnxneEknxanxneEneEPxMMxMxMxMkMkMkMkpM 合并整理，得到： 可见，对同一数据列用AR模型和预测误差滤波所解 得的参数值是完全相同的。预测误差滤波器是一个白化滤波器，滤波器的系统 函数为： x(n)的功率谱可求得：0001)0()2() 1()()2(

7、)0() 1 ()2() 1() 1 ()0() 1 ()()2() 1 ()0()(min)()(2)(1MMMMMxxxxxxxxxxxxxxxxPaaaRMRMRMRMRRRRMRRRRMRRRRMkkMkzazA1)(1)(212)(min221)()(MkfkTjkMfkTjnpreeaTPeAPfS利用Yule-Walker方程求解系数 很困难，因为要 进行矩阵求逆运算。 改进方法包括：改进方法包括： Levinson-DurbinLevinson-Durbin递推算法；递推算法；（需要从时间序列x(n) 的有限个数据得到其自相关函数的估计值 ，可 能在计算AR参数时引入很大误差，

8、导致谱线分裂与 谱峰偏移等现象。） BurgBurg算法算法；（提出利用前、后向预测误差功率之和最小的方法来求得反射系数，进而求得预测误差滤波器系数。对应于格形滤波器。） )M(ka)(mRx最大熵（最大熵（AR模型）谱估计的稳定性和阶数确定模型）谱估计的稳定性和阶数确定 阶数确定：阶数确定： 必须正确选择模型的阶数。阶数M估计得太小，对序列长度N的序列的最大熵谱估计会过分平滑，不能给出足够的分辨率，结果可能仅出现被测信号中最易预测，变化最缓慢的频率点的峰值。阶数M估计得太大，拟合会产生急剧变化和振荡，所得的谱估计具有虚假的细节。在低噪声或无噪声时，AR模型的阶数过分大，将会发生谱线分裂现象。

9、阶数最优阶数最优(用用M Moptopt表示表示)的选取准则：的选取准则： 1最终预测误差(FPE)准则 零均值情况下，Akaike给出使FPE最小的估值公式 M为AR模型的阶数，N为信号采样点数，P(M)为预测误差功率。 非零均值情况下，)(11)(FPEMPMNMNM)()(MPMNMNMFPE2. 信息论(AIC)准则 Akaike提出最佳阶次的选择应使下式为最小值： AIC准则和FPE（最终预测误差）准则的关系是：3自回归(CAT)传递函数准则 parzen提出最佳阶数的选择应使得精确预测滤波 器和近似预测滤波器输出的预测误差之差的估值 为最小。即使 最小。 NMPMAICM2ln)(

10、)()()(limMAICMFPENMmMmNPMNNPmNNMCAT1)()(1)(结论： 信噪比较高时，上述三种方法确定的阶数M基本一 致。当信噪比较低时，三种方法结果不同，给出的 M值偏低，其中以FPE方法较为正确。最优阶数的计算： 上述各准则所确定的阶数，都可以在计算预测滤波 器参数（ 、 ）的每一次递推中求出。由于最 大熵谱估计与预测滤波器等价，而对于预测滤波器 中的 ，存在 ，因此在算出新值后 与以前的值作比较，若新值比以前的值大，则终止 迭代，得到最优阶数Mopt。)M(ka)(minMP)(minMP)(min) 1(min0MMPPARAR模型谱估计的稳定性模型谱估计的稳定性

11、AR模型稳定的充要条件是其转移函数 的 极点都在单位圆内，即 的根在单位 圆内。可以证明，此时Yule-Walker方程中系数矩阵（自相关矩阵）是正定的。AR模型对应的预测滤波器中反射系数MkkkzazA11)()(1)(zAzH)(min) 1(min0MMPP1)(Mkka有附加噪声的有附加噪声的ARAR过程的谱估计过程的谱估计 在原有AR(p)过程 上附加均值 为0，方差为 ，并与 无关的白噪声。即 这时x(n)不再是严格意义上的AR过程，其自相关函 数为 功率谱为 令 ，则pkknuknyany1)()()(2w)(ny)()()(nnynx)()()()()()()(2*mmRmnw

12、mnynwnyEmRwyx22222222)()()()()(jjwuwjuwyxeAeAeASS)()()()(12212zAzAzBzBwu 因此可以将x(n)看成一ARMA过程，其等效的白噪声 驱动源的平均功率为 ，既不等于 ，也不等于 等效的MA分支为B(z)，与A(z)同阶数但不同参数， 因此x(n)是一个ARMA(p,p)过程。若仍对x(n) 数据按AR(p)模型进行谱估计，结果将 偏离真实谱 ，得到一个趋于平坦化的谱。这种 平滑现象与 的大小有关， 越小，越接近原来 的AR功率谱； 越小，功率谱越平滑。可见，AR谱估计的分辨率随着信噪比的减小而减小。 )()()()()(112z

13、AzAzBzBzSx22u2w)(Sy22/wu2w22/wu当信噪比给定时，AR谱估计的分辨率需要用增大模型阶次的方法来改善。克服克服ARAR谱技术在实际应用中限制的方法包括：谱技术在实际应用中限制的方法包括： (1) 改用ARMA(p,p)模型 ； (2) 噪声补偿法：估计出 ， 删去删去 缺点是可能使自相关矩阵失去正定性，从而增 大谱估计的方差。 (3) 用维纳滤波器对数据滤波，增强噪声中的信号； (4) 采用更高阶的AR模型，以降低模型失配引起的 偏差。取最大阶次为P=N/2 。 )()()(2mmRmRwyx2w最大熵谱估计的特点最大熵谱估计的特点优点：优点： 1.最大熵谱估计的分辨率与序列长度N2成反比，序 列长度越长，分辨率越高。相比之下，传统谱估 计的分辨率与观察时间（序列长度N）成反比； 2.解决了旁瓣泄漏问题。缺点：缺点： 1.运算的非线性性质； 2.对信噪比非常敏感。有噪声时最大熵谱估计不再是 全极点模型。在低信噪比下，分辨率较差。传统谱 估计的分辨率与信噪比无关。