向量与矩阵的范数课件.ppt

1、 第四章第四章 向量与矩阵的范数向量与矩阵的范数定义：定义：设设 是实数域是实数域 （或复数域（或复数域 ）上）上的的 维线性空间，对于维线性空间，对于 中的任意一个向量中的任意一个向量 按照某一确定法则对应着一个实数，这个按照某一确定法则对应着一个实数，这个实数称为实数称为 的的范数范数，记为，记为 ，并且要求，并且要求范数满足下列运算条件：范数满足下列运算条件：（1）非负性：当）非负性：当 只只有且仅有当有且仅有当 （2）齐次性：齐次性：为任为任意数。意数。VRnVC0,00,0,kkk（3）三角不等式：对于三角不等式：对于 中的任意两个中的任意两个向量向量 都有都有例例 ：在在 维线性空

2、间维线性空间 中，对于任意的中，对于任意的向量向量 定义定义V,nnC12(,)nna aaC11122211(1)(2)()(3)maxniiniiii naaa 证明：证明：都是都是 上的范数，并且还有上的范数，并且还有引理（引理（Hoider不等式）：不等式）：设设nC12,12122(1)(2)(3)nnn1212,TTnnna aab bbC则则 其中其中 且且 。引理（引理（Minkowski不等式）：不等式）：设设则则 11111()()nnnpqpqiiiiiiiabab1,1pq111pq1212,TTnnna aab bbC111111()()()nnnppppppiiii

3、iiiabab其中实数其中实数 。几种常用的范数几种常用的范数定义：定义：设向量设向量 ，对任，对任意的数意的数 ，称，称为向量为向量 的的 范数范数。常用的常用的 范数：范数：（1）1范数范数 p 12,Tna aa1p 11()nppipiap 11niia1p（2）2范数范数也称为欧氏范数。也称为欧氏范数。（3）范数范数 定理：定理：证明：证明：令令 ，则，则121 2221()()nHiia 1maxii na limpp1maxii nxa,1,2,iiayinx于是有于是有另一方面另一方面11()nppipixy111111()npiinpppiiynyn11lim()1nppip

4、iy故故由此可知由此可知定义：定义：设设 是是 维线性空间维线性空间 上定义的两种向量范数，如果存在两个与上定义的两种向量范数，如果存在两个与 无关的正数无关的正数 使得使得1limmaxippi nxa nV,ab12,dd12,babddV定理：定理：有限维线性空间有限维线性空间 上的任意两个向上的任意两个向量范数都是等价的。量范数都是等价的。利用向量范数可以去构造新的范数。利用向量范数可以去构造新的范数。例例：设设 是是 上的向量范数，且上的向量范数，且 ，则由，则由所定义的所定义的 是是 上的向量范数。上的向量范数。例例：设设 数域数域 上的上的 维线性空间，维线性空间，VmCb,()

5、m nACrank An,nabACanCVFn 为其一组基底，那么对于为其一组基底，那么对于 中的任意一个向量中的任意一个向量 可唯一地表示成可唯一地表示成又设又设 是是 上的向量范数，则由上的向量范数，则由所定义的所定义的 是是 上的向量范数。上的向量范数。矩阵范数矩阵范数V12,n 121,nniinixXx xxFnFVXVV定义：定义：对于任何一个矩阵对于任何一个矩阵 ，用，用 表示按照某一确定法则与矩阵表示按照某一确定法则与矩阵 相对相对应的一个实数，且满足应的一个实数，且满足AA（1）非负性：当）非负性：当 只有只有且仅有当且仅有当 （2）齐次性：齐次性：为任为任意复数。意复数。

6、（3）三角不等式：对于任意两个同种形三角不等式：对于任意两个同种形状矩阵状矩阵 都有都有0,0AA0,0AA,kAk Ak,A BABABm nAC（4）矩阵乘法的相容性：对于任意两个可以）矩阵乘法的相容性：对于任意两个可以相乘的矩阵相乘的矩阵 ，都有，都有那么我们称那么我们称 是是矩阵矩阵 的范数的范数。例例 1：对于任意对于任意 ，定义，定义可以证明如此定义的可以证明如此定义的 的确为矩阵的确为矩阵 的范的范数。数。,A BABA BAAm nAC11mnijijAaAA证明：证明：只需要验证此定义满足矩阵范数的只需要验证此定义满足矩阵范数的四条性质即可。非负性，齐次性与三角不四条性质即可

7、。非负性，齐次性与三角不等式容易证明。现在我们验证乘法的相容等式容易证明。现在我们验证乘法的相容性。设性。设 ，则，则,m pp nACBC11111111111111()()()()ppmnmnikkjikkjijkijkppmnikkjijkkppmnikkjikjkABa babababA B 例例 2 ：设矩阵设矩阵 ，证明：，证明：是矩阵范数。是矩阵范数。证明：非负性，齐次性和三角不等式容易证明：非负性，齐次性和三角不等式容易证得。现在我们考虑乘法的相容性。设证得。现在我们考虑乘法的相容性。设 ，那么，那么n nAC,maxiji jAna,n nn nACBC,11,maxmaxm

8、axmaxmaxmaxnnikkjikkji ji jkkikkji kk jikkji kk jABna bnabn nabnanbA B因此因此 为矩阵为矩阵 的范数。的范数。AA例例 3 ：对于任意对于任意 ，定义，定义可以证明可以证明 也是矩阵也是矩阵 的范数。我们称此的范数。我们称此范数为矩阵范数为矩阵 的的Frobenious范数范数。证明证明：此定义的非负性，齐次性是显然的。：此定义的非负性，齐次性是显然的。利用利用Minkowski不等式容易证明三角不等式。不等式容易证明三角不等式。现在我们验证乘法的相容性。现在我们验证乘法的相容性。设设 ，则，则 m nAC12211()mn

9、ijFijAaAAA,m ll nACBC22211111122111122111122()()()()()mnlmnlikkjikkjFijkijkmnllikkjijkkmlnlikkjikjkFFABa babababAB 于是有于是有 例例 4：对于任意对于任意 ，定义，定义证明如此定义的证明如此定义的 是矩阵是矩阵 的范数。的范数。证明：证明：首先注意到这样一个基本事实，首先注意到这样一个基本事实，即即由上一个例题可知此定义满足范数的性质。由上一个例题可知此定义满足范数的性质。n nAC12()HATr A AAA1122211()()mnHijijTr A AaFFFABABFro

10、benious范数的性质：范数的性质：（1）如果）如果 ，那么，那么（2）（3）对于任何）对于任何 阶酉矩阵阶酉矩阵 与与 阶酉矩阵阶酉矩阵 12nA2221niFiA21()()nHHiFiATR A AA AnmU 都有等式都有等式关于矩阵范数的等价性定理。关于矩阵范数的等价性定理。定理：定理：设设 是矩阵是矩阵 的任意两的任意两种范数，则总存在正数种范数，则总存在正数 使得使得VHFFFFFAUAAAVUAV,AA12,ddA12,m ndAAdAAC 诱导范数诱导范数定义：定义：设设 是向量范数，是向量范数，是矩阵范是矩阵范数，如果对于任何矩阵数，如果对于任何矩阵 与向量与向量 都有都

11、有则称矩阵范数则称矩阵范数 与向量范数与向量范数 是相容是相容的。的。例例 1：矩阵的矩阵的Frobenius范数与向量的范数与向量的2-范范数是相容的数是相容的.证明证明:因为因为 XAAXAXAXAX12211()mnijFijAa121 2221()()nHiiXxXX根据根据Hoider不等式可以得到不等式可以得到222211112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFAXa xa xaxaxAX 于是有于是有 例例 2：设设 是向量的范数，则是向量的范数，则满足矩阵范数的定义，且满足矩阵范数的定义，且 是与向量范

12、是与向量范 相容的矩阵范数。相容的矩阵范数。证明证明：首先我们验证此定义满足范数的四：首先我们验证此定义满足范数的四条性质。非负性，齐次性与三角不等式易条性质。非负性，齐次性与三角不等式易证。现在考虑矩阵范数的相容性。证。现在考虑矩阵范数的相容性。22FAXAXX0maxiXAXAXiAX设设 ，那么，那么 0B 000000()maxmax()()maxmaxmaxmaxiXXBXXXXiiABXA BXBXABXBXXA BXBXBXXAXBXXXAB因此因此 的确满足矩阵范数的定义。的确满足矩阵范数的定义。iA 最后证明最后证明 与与 是相容的。是相容的。由上面的结论可知由上面的结论可知

13、这说明这说明 与与 是相容的。是相容的。定义：定义：上面所定义的矩阵范数称为由向量范上面所定义的矩阵范数称为由向量范数数 所诱导的所诱导的诱导范数诱导范数或或算子范数算子范数。由。由 iAXiiAXAXAXAXiAXX向量向量 P-范数范数 所诱导的矩阵范数称为矩所诱导的矩阵范数称为矩阵阵P-范数。即范数。即常用的常用的矩阵矩阵P-范数范数为为 ，和和 。定理：定理：设设 ，则，则（1）我们称此范数为矩阵我们称此范数为矩阵 的的列和范数列和范数。pX0maxppXpAXAX1A2AAm nAC11max(),1,2,mijjiAajnA（2）表示矩阵表示矩阵 的第的第 个特征值。我们称此范个特

14、征值。我们称此范数为矩阵数为矩阵 的的谱范数谱范数。（3）我们称此范数为矩阵我们称此范数为矩阵 的的行和范数。行和范数。例例 1：设设 122max(),()HHjjjAA AA AHA AjA1max(),1,2,nijijAaimA210023120A计算计算 ，和和 。解：解：1A2AAFA15A5A23FA215A500096069HA A因为因为所以所以 。练习练习 ：设设 或或0110000iAi100010001A分别计算这两个矩阵的分别计算这两个矩阵的 ，和和 。例例 2：证明：对于任何矩阵证明：对于任何矩阵 都有都有2A1AAFAm nAC11222222221HTHTHAA

15、AAAAA AAAAA如何由矩阵范数构造与之相容的向量范数？如何由矩阵范数构造与之相容的向量范数？定理：定理：设设 是矩阵范数，则存在向量范数是矩阵范数，则存在向量范数 使得使得证明：证明：对于任意的非零向量对于任意的非零向量 ，定义向量范，定义向量范数数 ，容易验证此定义满足向，容易验证此定义满足向量范数的三个性质，且量范数的三个性质，且*AX*AXAX*HXX*HHAXAXAXAX例：例：已知矩阵范数已知矩阵范数求与之相容的一个向量范数。求与之相容的一个向量范数。解：取解：取 。设。设*11mnijijAAa010T12TnXxxx那么那么矩阵的谱半径及其性质矩阵的谱半径及其性质定义：定义

16、：设设 ，的的 个特征值为个特征值为 ，我们称，我们称为为矩阵矩阵 的谱半径的谱半径。例例 1 ：设设 ，那么，那么1*1nHiiXXxXm nACnA12,n 12()max,nAAm nAC()AA这里这里 是矩阵是矩阵 的任何一种范数。的任何一种范数。例例 2 ：设设 是一个正规矩阵，则是一个正规矩阵，则证明：证明：因为因为 AAA2()AA222220022maxmax()()HHHXXHAXXA AXAXXXA AA于是有于是有例例 3 ：设设 是是 上的相容矩阵范数。上的相容矩阵范数。证明：证明：（1）（2）为可逆矩阵，为可逆矩阵，为为 的特征值的特征值则有则有2()AAn nC1

17、I AA11AA例例 5 ：如果如果 ，则，则 均为可逆均为可逆矩阵，且矩阵，且这里这里 是矩阵是矩阵 的算子范数。的算子范数。矩阵序列与极限矩阵序列与极限定义：定义：设矩阵序列设矩阵序列 ，其中，其中1A I A111()11IAAAAA()kA()()kkm nijAaC ，如果，如果 个数列个数列都收敛，则称矩阵序列都收敛，则称矩阵序列 收敛。收敛。进一步，如果进一步，如果那么那么 我们称矩阵我们称矩阵 为为矩阵序列矩阵序列 的极限的极限。mn(),1,2,;1,2,kijaim jn()kA()limkijijkaa()limkijkAAaA()kA例例 ：如果设如果设 ，其中，其中那

18、么那么()()2 2kkijAaC()()111221()()212221,(01)3(1),kkkkkkkaarrkkkarrakk()103lim11kkAA 定理：定理：矩阵序列矩阵序列 收敛于收敛于 的充分必的充分必要条件是要条件是其中其中 为任意一种矩阵范数。为任意一种矩阵范数。证明：取矩阵范数证明：取矩阵范数必要性：设必要性：设 ()kAA()lim0kkAA()kAA11mnijijAa()limkijkAAa那么由定义可知对每一对那么由定义可知对每一对 都有都有从而有从而有上式记为上式记为,i j()lim0(1,2,;1,2,)kijijkaaim jn()11lim0mnk

19、ijijkijaa()lim0kkAA充分性：设充分性：设那么对每一对那么对每一对 都有都有即即()()11limlim0mnkkijijkkijAAaa,i j()lim0(1,2,;1,2,)kijijkaaim jn()lim(1,2,;1,2,)kijijkaaim jn故有故有现在已经证明了定理对于所设的范数成立现在已经证明了定理对于所设的范数成立，如果，如果 是另外一种范数，那么由范数是另外一种范数，那么由范数的等价性可知的等价性可知()limkijkAAaA()()()12kkkdAAAAdAA这样，当这样，当时同样可得时同样可得因此定理对于任意一种范数都成立。因此定理对于任意一

20、种范数都成立。同数列的极限运算一样，关于矩阵序同数列的极限运算一样，关于矩阵序列的极限运算也有下面的性质。列的极限运算也有下面的性质。（1）一个收敛的矩阵序列的极限是唯一的。）一个收敛的矩阵序列的极限是唯一的。（2）设）设()lim0kkAA()lim0kkAA()()lim,limkkkkAABB则则（3）设）设，其中，其中 ，那么，那么（4）设）设 ，其中，其中 ()()lim,kkkaAbBaAbBa bC()()lim,limkkkkAABB()(),km lkl nACBC()()limkkkABAB()limkkAA(),km nm mn nACPCQC那么那么（5）设）设 ，且，

21、且 ，均可均可逆，则逆，则 也收敛，且也收敛，且例例 1：若对矩阵若对矩阵 的某一范数的某一范数 ，则，则()limkkPA QPAQ()limkkAA()kAA()1()kA()11lim()kkAAA1A lim0kkA例例 2：已知矩阵序列：已知矩阵序列：则则 的充要条件是的充要条件是 。证明：证明：设设 的的Jordan标准形标准形其中其中2,kA AAlim0kkA()1AA1122diag(),(),()rrJJJJ1()(1,2,)1iiiiiiiddJir11122diag(),(),()kkkkrrAPJJJP于是于是显然，显然，的充要条件是的充要条件是又因又因lim0kkA

22、lim()0,1,2,kiikJir111111()iiiidk dkkikikikkiiikkikid dccJc 其中其中(1)(1)()!0()lklkk kklclklclk 当当于是于是 的充要条件是的充要条件是 。因此因此 的充要条件是的充要条件是 矩阵的幂级数矩阵的幂级数lim()0kiikJ1ilim0kkA()1A()()kkm nijAaC定义：定义：设设 ，如果，如果 个常数项级数个常数项级数都收敛，都收敛，则称矩阵级数则称矩阵级数收敛。如果收敛。如果 个个常数项级数个个常数项级数mn()1,1,2,;1,2,kijkaim jn()(1)(2)()1kkkAAAAmn(

23、)1,1,2,;1,2,kijkaim jn都绝对收敛，都绝对收敛，则称矩阵级数则称矩阵级数绝对收敛。绝对收敛。例例 ：如果设如果设 ，其中，其中()()2 2kkijAaC()(1)(2)()1kkkAAAA()()111231111()()2122111111,(1),sin22kkkkkkkkkkkkkkaak kkaa那么矩阵级数那么矩阵级数是收敛的。是收敛的。()(1)(2)()1kkkAAAA()()kkm nijAaC定理：定理：设设 ，则矩阵级，则矩阵级数数绝对收敛的充分必要条件是正项级数绝对收敛的充分必要条件是正项级数收敛，其中收敛，其中 为任意一种矩阵范数。为任意一种矩阵范

24、数。证明：证明：取矩阵范数取矩阵范数 ()(1)(2)()1kkkAAAA()(1)(2)()1kkkAAAAA()()11mnkkijijAa那么对每一对那么对每一对 都有都有因此如果因此如果收敛，则对每一对收敛，则对每一对 常数项级数常数项级数,i j()()kkijAa()(1)(2)()1kkkAAAA,i j()(1)(2)()1kkijijijijkaaaa都是收敛的，于是矩阵级数都是收敛的，于是矩阵级数绝对收敛。绝对收敛。反之，若矩阵级数反之，若矩阵级数绝对收敛，则对每一对绝对收敛，则对每一对 都有都有()(1)(2)()1kkkAAAA()(1)(2)()1kkkAAAA,i

25、j()(1)(2)()1kkijijijijkaaaa 于是于是根据范数等价性定理知结论对任何一种范数都根据范数等价性定理知结论对任何一种范数都正确。正确。()()1111111mnmnkkkijijkkijijkAaa 定义：定义：设设 ，称形如，称形如的矩阵级数为矩阵幂级数。的矩阵级数为矩阵幂级数。()m nijAaC2()0120kkkkkc Ac Ic Ac Ac A定理：定理：设幂级数设幂级数 的收敛半径为的收敛半径为为为 阶方阵。若阶方阵。若 ，则矩阵幂级数，则矩阵幂级数 绝对收敛；若绝对收敛；若 ，则，则 发散。发散。0kkkc x,R An()AR0kkkc A()AR0kkk

26、c A证明：证明：设设 的的Jordan标准形为标准形为其中其中于是于是A1122diag(),(),()rrJJJJ1()(1,2,)1iiiiiiiddJir11122diag(),(),()kkkkrrAPJJJP111111()iiiidk dkkikikikkiiikkikid dccJc 所以所以1001011220010()=()=diag(),(),()kkkkkkkkkkkkkKKkkrrKc Ac PJ PPc JPPc Jc Jc JP其中其中1111000001100()iiiidk dkkkik kik kikkkkkikkkiikkk kikkkikd dcc cc

27、 ccc Jc cc(1)(1)()!0()lklkk kklclklclk 当当当当 时，幂级数时，幂级数都是绝对收敛的，故矩阵幂级数都是绝对收敛的，故矩阵幂级数 绝绝对收敛。对收敛。()AR1100110,iikkkikkikkdk dkkikcc cc c0kkkc A()AR当当 时，幂级数时，幂级数发散，所以发散，所以 发散。发散。定理：定理：矩阵幂级数矩阵幂级数绝对收敛的充分必要条件是绝对收敛的充分必要条件是 。且。且其和为其和为 。0kkikc0kkkc A2kIAAA()1A1()IA例例 1：（1）求下面级数的收敛半径）求下面级数的收敛半径（2）设）设判断矩阵幂级数判断矩阵幂级数 的敛散性。的敛散性。解：解：设此级数的收敛半径为设此级数的收敛半径为 ，利用公式，利用公式2323122 122232kkkkkxxxxxkk1413AR12kkkAk容易求得此级数的收敛半径为容易求得此级数的收敛半径为2。而。而。所以由上面的定理可知矩阵幂级数。所以由上面的定理可知矩阵幂级数绝对收敛。绝对收敛。11limkkkaaR()1A2323122 122232kkkkkAAAAAkk