向量范數(shù)和矩陣范數(shù)

1、第二章 向量范數(shù)和矩陣范數(shù),§1、向量范數(shù),一、 向量范數(shù)的概念,，當(dāng)且僅當(dāng) 時(shí)，等號成立。,定義1　如果 是數(shù)域 上的線性空間，對 中的任意向量 ，都有一個(gè)非負(fù)實(shí)數(shù) 與之對應(yīng)，并且具有下列三個(gè)條件（非負(fù)性、正齊性和三角不等式）：,則稱 是向量 的向量范數(shù)，稱定義了范數(shù)的線性空間 為賦范線性空間。,二、 常用的向量范數(shù),特別地，p=1

2、時(shí)，有,在廣義實(shí)數(shù)范圍內(nèi)，P能否取到正無窮大呢？具體而言，如何計(jì)算這種范數(shù)呢？,證明： 驗(yàn)證 是向量范數(shù)顯然很容易。下證 。,令 ，則有,由極限的兩邊夾法則，并注意到

3、 ，即得欲證結(jié)論。,這些范數(shù)在幾何上如何理解呢？,例 7 對任意 ，對應(yīng)于 四種范數(shù)的閉單位球 的圖形分別為,特別地， 范數(shù)、 范數(shù)和 范數(shù)分別為,定義的 是 上的向量范數(shù)，稱為加權(quán)范數(shù)或橢圓范數(shù)。,例 9 若矩陣

4、為Hermite正定矩陣，則由,如果 ，此時(shí) ，這就是加權(quán)范數(shù)或橢圓范數(shù)名稱的由來。,由于 是Hermite正定矩陣，從而有可逆矩陣 ，使得 ，因此

5、 這從幾何上可以看成是求可逆變換 后的像的“長度” 。這說明 只要是列滿秩的矩陣即可。,三、 向量范數(shù)的性質(zhì),定理1 　Euclid范數(shù)是酉不變的，即對任意酉矩陣 以及任意 ，均有,這個(gè)定理的結(jié)論是顯然的，因?yàn)橛献儞Q保持向量的內(nèi)積不變，自然也保持了Euclid意義下的幾何結(jié)構(gòu)（角度、長度或范數(shù)等）不變。,注意這個(gè)結(jié)論對無限維未必成立。另外，根

6、據(jù)等價(jià)性，處理向量問題（例如向量序列的斂散性）時(shí)，我們可以基于一種范數(shù)來建立理論，而使用另一種范數(shù)來進(jìn)行計(jì)算。,定理2　有限維線性空間 上的不同范數(shù)是等價(jià)的，即對 上定義的任意兩種范數(shù) ，必存在兩個(gè)任意正常數(shù) ，使得,§2、矩陣范數(shù),一、 矩陣范數(shù)的概念,，當(dāng)且僅當(dāng) 時(shí)，等號成立。,定義1　 對 中的任意矩陣 ，都有一個(gè)非負(fù)實(shí)數(shù)

7、與之對應(yīng)，并且具有下列三個(gè)條件（非負(fù)性、正齊性和三角不等式）：,則稱 是矩陣 的（廣義）矩陣范數(shù)。,例 1 對任意 ，由,定義的 是 上的矩陣范數(shù)，稱為 范數(shù)。,例 2 對任意 ，由,定義的 是

8、 上的（廣義）矩陣范數(shù)，稱為 范數(shù)。,例 3 對任意 ，由,定義的 是 上的矩陣范數(shù)，稱為 范數(shù)，Euclid 范數(shù)或Frobenius范數(shù)(F—范數(shù))。,二、 算子范數(shù)和范數(shù)的相容性,實(shí)際中，從算子或變換的角度來定義范數(shù)更加有用。,定義2　 對 中的任意矩陣 ，用一個(gè)非負(fù)實(shí)數(shù)

9、 表示對于任意向量 ， 可以“拉伸”向量 的最大因子，即使得不等式成立的最小的數(shù) 。稱 為范數(shù) 和 誘導(dǎo)出的矩陣范數(shù)或算子范數(shù)。,由矩陣范數(shù)的正齊性可知 的作用是由它對單位向量的作用所決定，因此可以等價(jià)地用單位向量在 下的像來定義矩陣范數(shù)，即,而且考慮到矩陣乘法的重要地位，因此討論矩陣范數(shù)時(shí)一般附加“范數(shù)相容性”條件（這里的范數(shù)一般要求是同類的

10、）：,注意到即,可以證明，前面給出的矩陣范數(shù) 都滿足“相容性條件”，即成立,但是矩陣范數(shù) 不滿足“相容性條件”。例如對于矩陣,就有,在“相容性條件”中，如果 而且范數(shù) 與范數(shù) 相同時(shí)，如果有則稱矩陣范數(shù)

11、 與向量范數(shù) 是相容的。,定理1　 上的矩陣F-范數(shù)與 上的向量2-范數(shù)相容。,證明：,根據(jù)算子范數(shù)的定義，當(dāng)向量范數(shù) 分別為 時(shí)，我們可誘導(dǎo)出相應(yīng)的相容矩陣范數(shù) 。,設(shè)任意矩陣 ，則1-范數(shù)單位球,在 下的像中的任意向量

12、 滿足,從而,如果 ，則選取 ，此時(shí)由 ，得,因此,類似地可得，,實(shí)際上，這些誘導(dǎo)矩陣范數(shù)具有如下的表示定理。,定理2　 對 中的任意矩陣 ，有,最大列和,最大行和,最大譜,證明：,所以 是半正定Hermite矩陣,因此特征值全部為非負(fù)實(shí)

13、數(shù)。設(shè)為,并設(shè)對應(yīng)的兩兩互相正交且2-范數(shù)都為1的特征向量為 ，那么，對于任意的單位2-范數(shù)向量 ，必成立,由于,因此有,所以,因此成立,另外，由于 ，而且,同樣給出這些范數(shù)在幾何上的理解。,例 1 對應(yīng)于 三種向量范數(shù)的閉單位球

14、 在矩陣作用下的效果分別為,定理3　 上的譜范數(shù)具有下列性質(zhì)：,三、矩陣范數(shù)的一些性質(zhì),(1),設(shè)有 使 ，令 ，則有,證明：,(2),(3),設(shè)有

15、 使 ，則,定理4　 上的矩陣F--范數(shù)和譜范數(shù)都是酉不變的，即對任意酉矩陣 ，恒有,令,則,即,對于譜范數(shù)的情形，利用定義即可。,對于譜范數(shù)， 這個(gè)定理的結(jié)論可以推廣到列正交酉矩陣，即的情形，此時(shí)仍然成立,利用定理3可以證明這個(gè)推廣結(jié)論。,§3、 范數(shù)的應(yīng)用,一、譜半徑與矩陣范數(shù),定義1　 設(shè) 的特征值為

16、 ，稱為矩陣 的譜半徑。,關(guān)于譜半徑，最著名的莫過于下面的定理。,定理1　 對 的任意矩陣范數(shù) ，恒有,特別地，當(dāng) 是正規(guī)矩陣時(shí)，等號成立。,設(shè) 為 的任意特征對，則,從而 ，即得,當(dāng) 是正規(guī)陣時(shí)，有特征值分解,從而,由于已證

17、 ，故結(jié)論成立。,證明：,定理2　 對 ，存在 上矩陣范 ，對任意 ，恒有,對任意矩陣 ，存在Jordan標(biāo)準(zhǔn)型,其中 ，,證明：,令

18、 ，則,從而,易證函數(shù) 是 上的矩陣范數(shù)，這里,二、矩陣逆和線性方程組解的擾動分析,如果系數(shù)矩陣和常數(shù)項(xiàng)分別有一個(gè)擾動,則擾動后的線性方程組為,它的精確解為,顯然，由于原方程組本身的固有性質(zhì)導(dǎo)致原始數(shù)據(jù)的小擾動引起解的很大變化，我們稱這樣的問題是病態(tài)的（敏感的）或不穩(wěn)定的；否則，我們稱問題是良態(tài)的（不敏感的）或穩(wěn)定的。,證

19、明：,引理1　 對 ，若 ，則矩陣 非奇異，且,所以 的特征值,從而 的特征值 均不為零，因此 非奇異。,從而結(jié)論成立。,定理3　 設(shè) 均非奇異，則,證明：,定理4　 設(shè)

20、 非奇異，且 。如果 擾動矩陣 滿足條件,則擾動后的矩陣 為非奇異矩陣，并且,其中，,證明：,由于 ，由引理1知 非奇異，因此 也非奇異，且,定義2　 對非奇異的

21、 ，稱數(shù)為矩陣 關(guān)于求逆的條件數(shù)。,定理5 設(shè) 非奇異，且 。如果 擾動矩陣 滿足條件,則非齊次線性方程組 經(jīng)過擾動后的方程組有唯一解 ，并且,因此 也稱為求解線性方程組的條件數(shù)。,證明：,由于 ，則,由 定理4知 非奇異，