自适应滤波器原理第四讲NLMS算法..课件.ppt

1、2022-8-16自适应信号处理1第四讲 归一化最小均方（NLMS)自适应滤波算法 Y.J.Pang第1页，共33页。自适应信号处理22022-8-16CONTENTnNLMS算法推导过程nNLMS算法稳定性nNLMS算法在回声消除中的应用第2页，共33页。自适应信号处理32022-8-16为什么归一化？如何归一化及归一化的稳定性回声消除应用仿射投影滤波器应用第3页，共33页。自适应信号处理42022-8-16为什么归一化？为什么归一化？由第五章的传统的LMS滤波器的标准形式)(*)()()1(nenunwnw从上式可以看出n+1次迭代中应用于滤波器抽头权向量的失调为w(n+1)-w(n)由以

2、下三点影响：1.步长参数 u （由设计者控制）2.抽头输入向量u(n)（由信息源提供）3.实数据的估计误差e（n）或复数据估计误差e*（n）（n次迭代计算的结果）可知失调与抽头输入向量u（n）成正比。我们在调整滤波器的权向量使滤波器达到稳定状态的过程中，应当使权向量以最小方式改变，这样才能的得到最优解。当u（n）较大时，出现梯度噪声放大问题。归一化：n+1次迭代时对抽头权向量的失调相对于n次迭代时抽头输入向量u（n）的平方欧式范数进行归一化。第4页，共33页。自适应信号处理52022-8-164.1.归一化归一化LMS滤波器作为约束最优化问题滤波器作为约束最优化问题的解的解（1）在结构上，归一

3、化LMS滤波器与标准LMS滤波器完全一样，都是横向滤波器。区别在于权值控制器的机理，如下图横向滤波器w(n）自适应控制算法+输出信号y（n）期望响应d（n）误差信号e(n）输入向量u（n）自适应横向滤波器框图第5页，共33页。自适应信号处理62022-8-16最小化干扰原理最小化干扰原理：归一化LMS滤波器设计准则表述为约束优化问题。即给定抽头输入向量u（n）和目标响应d（n），确定更新的抽头向量w（n+1），使得增量的欧式范数最小化，并受制于以下约束条件我们应用拉格朗日乘子法来解决这个约束优化问题。代价函数为 其中Re.表示取实部运算，约束对代价函数的贡献是实值的；为复数拉格朗日乘子，*表示

4、复共轭；表示欧式范数的平方运算，其结果也是实值的。因此代价函数J（n）是实值的二次函数，且表示为(1)()1()1(nwnwnw(2)()()1(ndnunwH2)1(nw(3)()1()(*Re)1()(2nunwndnwnJH)()1()(*Re)()1()()1()(nunwndnwnwnwnwnJH第6页，共33页。自适应信号处理72022-8-16为了得到代价函数为最小的最优更新权向量，推到如下：第一步；代价函数对w（n+1）求导，得：令其为零，得最优解为第二步;将第一步的结果带入式（2）得)(*)()1(2)1(*)(nunwnwnwnJ)(*21)()1(nunwnw2)(21)

5、()()()(21)()()()(*21)()()1()(nununwnunununwnununwnunwndHHHHH第7页，共33页。自适应信号处理82022-8-16对 求解得其中是误差信号。第三步；由上两步的结果，表示增量变化的最优值。故归一化LMS算法抽头权向量期望的递归结果为2)()(2nune)()()()(nunwndneH)(*)()(1)()1()1(2nenununwnwnw)(*)()(1)()1(2nenununwnw第8页，共33页。自适应信号处理92022-8-16为了对一次迭代到下一次迭代抽头权向量的增量变化进行控制而不改变向量的为了对一次迭代到下一次迭代抽头权

6、向量的增量变化进行控制而不改变向量的方向，引入了一个正的实数标度因子方向，引入了一个正的实数标度因子 。故得到归一化抽头权向量的递归方程)(*)()()()1(2nenununwnw以上便是解决了当u（n）较大时，造成的LMS滤波器的梯度噪声放大的问题。而当而当u（n）较小时，不得不用较小的平方范数除以）较小时，不得不用较小的平方范数除以 ，以致有可能出现数值计，以致有可能出现数值计算困难。故将递归方程修改为；算困难。故将递归方程修改为；)(*)()()()1(2nenununwnw其中.0第9页，共33页。自适应信号处理102022-8-164.2归一化LMS滤波器的稳定性)()()(nvn

7、uwndH)()(nwwn)(*)()()()1(2nenununn)()(2nEnD期望响应d（n）多重回归模型控制，重写如下加权误差向量为 于是从w中减去式得到以均方偏差为基础，进行稳定性分析。对式两边取平方欧式范数，并取期望值得：)()(*)(Re2)()()()1(2222nunenEnuneEnDnDu)()()()()(nunnunwwnuHH其中是无干扰误差信号第10页，共33页。自适应信号处理112022-8-16由式看做 为变量的一元二次函数 则当满足如下条件归一化LMS滤波器在均方误差意义下是稳定的。)(/)()(/)(*)(Re20222nuneEnunenuE最优步长参

8、数为)(/)()(/)(*)(Re222nuneEnunenuEopt0u第11页，共33页。自适应信号处理122022-8-16特殊情况：复数据 实数据)(/)()(/)(*)(Re222nuneEnunenuEopt)(/)()(/)()(Re222nuneEnunenuEopt为便于计算最优步长提出三个假设：假设一假设一：从一次迭代到下一次迭代的输入信号能量的波动足够小满足第12页，共33页。自适应信号处理132022-8-16)()()()()()()()()()(222222nuEneEnuneEnuEnenuEnunenEu从而得到简化的最优步长假设二假设二：无干扰误差信号与期望响

9、应d（n）的多重回归模型干扰（噪声）v(n)无关第五章中，干扰信号e（n）与无干扰信号有关。)()()()()()(2nuEnvnunuEnenuE)()()(nvnune)()()(2neEnenuEopt)()(22neEnuEopt最优步长第13页，共33页。自适应信号处理142022-8-16假设三假设三：输入信号u（n）的谱内容在比加权误差向量每一个分量所占频带更宽的频带上基本上是平坦的，因此证实了如下近似：（低通滤波作用）)()()()()()()(2222nuEnDnuEnEnUnEnuET)()()(22neEnuEnDopt最优步长第14页，共33页。自适应信号处理15202

10、2-8-164.3回声消除中的步长控制 几乎所有的谈话都在存在回声的情况下进行。根据是否可察觉是有所涉及的时延决定。语音与回声之间时延较短，不容易察觉。（频谱失真频谱失真）时延较长，(超过几十毫秒)，就能感觉到。现实生活中很常见；电话电路电话电路：电路中的混合变换器的桥式电路，当平衡不好时，输入与输 出之间存在耦合现象，引起回声。免提电话免提电话：啸叫声。这是由于麦克风得到了扬声器的语音信号和 机壳反射的回波信号。听到自己的延迟的声音。经系统环绕-往返时间延迟造 成的。第15页，共33页。自适应信号处理162022-8-16回声消除中的步长控制扬声器-机壳-麦克风环境（LEM）横向滤波器w（n

11、）自适应和步长控制器期望响应d（n）u（n）远处说话者的信号u(n)误差信号e（n）+合成回声y（n）回声消除器 回声控制系统的结构框图回声控制系统的结构框图第16页，共33页。自适应信号处理172022-8-16步长控制多重回归模型的干扰v（n）误差e（n）增大步长参数的上界下降可能过大回声滤波器不稳定1.本地说话者语音信号导致的干扰。（双说话）2.永久的本地噪声（汽车内的背景噪声）3.需要长的滤波器长度，但不能满足的话，不能考虑全部脉冲响应，而不能建模的那部分系统的剩余回声成为本地噪声4.定点数字信号处理器中的定点计算的量化噪声。本地干扰大时，步长参数u可能很高（滤波器不稳定）本地干扰小时

12、，步长参数u很小 （降低了滤波器收敛速率）因此应用时变步长参数因此应用时变步长参数u（n）来代替不变参数）来代替不变参数u第17页，共33页。自适应信号处理182022-8-16)()()()(22neEnuEnDnopt对最优步长的估计由上式可变为下列三个独立的估计：1.误差信号功率估计，即Ee2(n)2.输入信号功率估计，即Eu2(n)3.均方偏差的估计，即D（n）（由于表征LEM环境的多重回归模型 参数w未知）（人工时延方法人工时延方法）（凸组合思想表示一阶递归凸组合思想表示一阶递归 ）_22_2)()1()1()1(nxnxnxr取值一般在0.9,0.999 内如图中远端说话者信号被延

13、迟了MD个样值。用自适应横向滤波器模型，故对应的人工时延的参数向量w为0，可令将自适应滤波器趋向均匀地将加权误差向量扩展到它的M个抽头上。将均方偏差近似为1-DM.,0,1,2,3.k )()(nwnkk)()(201nwnDDDMKkMM第18页，共33页。自适应信号处理192022-8-16 本地激励引起的误差信号e（n）增大时，步长参数减小，稳定。系统卡滞，阻断了滤波器的自适应和延迟系数。用LEM的附加检测器来解决第19页，共33页。自适应信号处理202022-8-164.4 实数据时收敛过程的几何考虑)1()()1()()(nununununTsamplen权向量调整量用于n+1次迭代

14、的归一化滤波器得1）调整量的方向与输入向量u（n）的方向一致。2）调整量的大小取决于输入向量u（n）与u（n-1）的样值相关系数。对实数据，该系数为 是所有权向量 的集合，它作用于输入向量u（n）以产生输出y（n），同理两个超平面的夹角就是输入向量u（n）和u（n-1）的夹角。由空间理论可知，1n)1()()1()(cosnunununuT)(nw第20页，共33页。自适应信号处理212022-8-16a）当 （即输入向量u（n）与u（n-1）正交）时，归一化LMS滤波器收敛速度最快。b）当 =0 或180（输入向量u（n）与u（n-1）处于相同方向或相反方向）时，归一化LMS滤波器的收敛速度

15、最慢。为防止b）让收敛速率基本上为常数，独立于输入向量u（n）与u（n-1）的夹角。我们使用放射投影滤波器。图（a）权值空间内，w（n+1）与w（n）的连线正交与图（b）正交于1nnn90第21页，共33页。自适应信号处理222022-8-16第22页，共33页。自适应信号处理232022-8-16第23页，共33页。自适应信号处理242022-8-16特点特点LMS滤波器简易，稳定收敛速率慢自适应常数u有反功率量纲模型独立性，性能有鲁棒性归一化LMS滤波器减轻了当u（n）过大时梯度噪声收敛速率快于传统LMS自适应常数没有量纲的较LMS计算复杂均方意义上稳定收敛仿射投影自适应滤波器归一化LMS

16、的推广收敛性最好计算难度大第24页，共33页。自适应信号处理252022-8-164.5仿射投影滤波器 )()1()1(nwnwnw 1-0,1,2.Nk )()1()(knunwkndH归一化LMS滤波器为仿射投影自适应的一个特例，N=1,仿射投影自适应滤波器阶数为N个约束个数的约束最优准则。权值增量约束条件代价函数)()1()(*Re)()1()(102knunwkndnwnwnJkNkN M 数据矩阵A(n),其埃尔米特转置为：AH(n)=u(n),u(n-1),.u(n-N+1)N 1期望响应向量，它的埃尔米特转置为：dH(n)=d(n),d(n-1,.d(n-N+1)第25页，共33

17、页。自适应信号处理262022-8-16由上式重新写代价函数：)1()()(Re()()1()(102HNknwnAndnwnwnJ对权向量微分：)()()1(2)1(*)(nAnwnwnwnJ)(21)()1(nAnwnwH令其为0得由式 得 )1()()(dnwnAnH由式 (n)A(n)A 21)()()(HnwnAndH移项并求12()()()()()()()HA n Ane ne nd nA n w n第26页，共33页。自适应信号处理272022-8-16代入式 并为保证权向量迭代控制的方向不变引入步长参数得到所期望的仿射投影滤波器的更新方程如下)()()()()()1(1nenA

18、nAnAnwnwHH将公式)()()()(nwnAndne代入上式得)()()()()()()()()1(11ndnAnAnAnwnAnAnAInwHHHH定义投影算子定义投影算子P=)()()()(1nAnAnAnAHH第27页，共33页。自适应信号处理282022-8-16仿射投影自适应滤波器的稳定性分析以均方偏差D(n)的基础上，得到)()()()()()1(1nenAnAnAnnHH)()()()()()()(Re2 )()()()()()1(112nwwnAnunenAnAnEnenAnAneEnDnDHHuHH)()()()()()()()(Re2011nenAnAneEnenAn

19、AnuEHHHH若稳定须满足)()()()()()()()(Re11nenAnAneEnenAnAnuEHHHHopt最优步长第28页，共33页。自适应信号处理292022-8-16假设4：从一个迭代到下一次迭代，矩阵乘积A(n)AH(n)之逆的波动足够小以使得最优步长近似为)()()(Re2neEnenuEHopt假设5：无干扰误差向量与干扰误差向量不相关。在复数据中第29页，共33页。自适应信号处理302022-8-1610210210210222)()()()()()()(NkNkNkNkoptkneEknuEknDkneEknuEneEnuE第30页，共33页。自适应信号处理31202

20、2-8-16仿射投影滤波器中的实际考虑1.在噪声环境下，(A(n)AH(n)）-1 可能发生计算困难.正则化(防止近端噪防止近端噪声过大声过大)()()()()()1(1nenAnAnAnwnwHH)()()()()()1(1neInAnAnAnwnwHH2.当投影维数N增大时，上式的得到w（n）的收敛上升。但是计算复杂度太大。快速实现（是它与滤波器的阶数是它与滤波器的阶数M成线性关系成线性关系）第31页，共33页。自适应信号处理322022-8-16小结特点特点LMS滤波器简易，稳定收敛速率慢自适应常数u有反功率量纲模型独立性，性能有鲁棒性归一化LMS滤波器减轻了当u（n）过大时梯度噪声收敛速率快于传统LMS自适应常数没有量纲的较LMS计算复杂均方意义上稳定收敛仿射投影自适应滤波器归一化LMS的推广收敛性最好计算难度大第32页，共33页。自适应信号处理332022-8-16LMSNLMS第33页，共33页。