特徵值問題:
ax= lamda*x
(a-lamda*i)x = 0
b = a-lamda*i
特徵值與特徵向量
將矩陣a都看做線性變換(這一點在程雲鵬的《矩陣論》中也是這麼做的),矩陣a左乘乙個向量x,就是對這個向量x做線性變換。
對於向量x來說,總是存在那麼些線性變換的方法,能夠將x的方向不變化(也就是不改變x中元素的相互比例關係,i.e 將向量x進行數乘,也就是縮放)。
對於矩陣a來說,總是有那麼些向量 x,在對x做自己所對應的變換之後不改變x的方向,這些 x 就是矩陣a的特徵向量,而變換後與原 x 相差的數乘倍數,就是特徵值。
有些矩陣「改造能力」比較強,只允許少量的向量在自己的變換之後方向不變。有些則比較「隨便」,能允許更多的向量在經過自己的變換之後能夠保持方向。
評判標準:將得到的lamda代入b之後,b的秩。
特徵值的數目:
求解|b|=0的過程,實際是乙個求解1元n次方程(最高次數必然為n,因為對角線上每個元素都含有lamda)的過程,由方程知識可知,1元n次方程有n個解(重解累計計數)。
所以必然有n個特徵值。
相同特徵值的情況:
求解 |b|=0 的過程中可能會有重根,重根和b的秩有什麼關係?
將重根代入b,得到的r(b) = n - 重根的重數。
證明:在方程方面,有重根說明在將一元n次方程因式分解的過程中有多個因式是一樣的,這多個因式中的lamda必然來自於不同行和不同列(行列式的基本性質)。
在矩陣b方面,利用|b|值不會因為某一行的數乘加到另一行而改變的性質,可以將b化成上三角形式,這時的|b|僅由對角線上的元素相乘就可以得到,得到的也就是那個一元n次方程因式分解後的情況。
於是可以知道,將乙個m重根代入|b|之後,會令m個因式,也就是m個b的對角元素為0,於是r(b)=n-m。
重根的重數直接影響b的秩,進而影響特徵向量的維數。更進一步地看,特徵向量的維數=n-(n-m)=m,也就是說重根的特徵值的重數就是對應的特徵向量空間的維數。
應用到例子中:
a為三維單位矩陣,特徵值為3重根,其特徵向量的維數為3,即整個歐式空間。用之前的理論來解釋,就是說a是乙個極度無「改造能力」的變換,可以將任何3維向量保持方向。
問題又來了:
為什麼重根的個數或者說b的秩,就能影響a「改造能力」是強還是弱呢?
這裡我想到了乙個很不嚴密的解釋。前面提到了i是最沒有」改造欲「的,如果我們把 b=a-lamda*i,求秩運算可以看做一種度量,這就是說,r(b)變成了衡量a的「改造能力」與i(lamda*i的「改造能力」一樣為0)之間的「距離」。r(b)越大,a的「改造能力」與單位矩陣相差越大,「改造能力」越大,所支援的特徵向量的維數越少。r(b)越小,a的「改造能力」和單位矩陣i越接近,「改造能力」就越小,如此,得到的特徵向量的維數就越多。
特徵值為0的情況:
特徵值為0,說明a的行列式為0。
特徵向量與特徵值的對應關係:
若a1,...,as 是a的屬於同乙個特徵值的特徵向量
則其非零線性組合 k1a1+...+ksas 也是a的屬於此特徵值的特徵向量
某個特徵值的全部特徵向量是對應齊次線性方程組的基礎解系的非零線性組合
特徵值在什麼情況下對應多個特徵向量:
將特徵值lamda代入之後,b肯定不是滿秩的,也就是說x的維數應該是 n - r(b) 其中 n是b的列數,即x的行數 ,i.e 方程的未知數個數。
於是x的維數d>=1。
如果r(b)=n-1,那麼d=1。得到的特徵向量只有一維,那麼我們隨便加乙個 k,得到的kx 依然是方程的解,就依然是a的對應於lamda的特徵向量。
如果r(b)=n-2,那麼d=2.。得到的特徵向量有兩維,得到乙個特徵向量的解空間,k1x1+k2x2就是a對應於lamda的特徵向量的解。
極端例子:
a是單位矩陣
矩陣作為變換的理解:
ax = lamda*x的理解:
左邊:a的列的線性組合,係數為x的元素 右邊:向量x的數乘
如果|a|=0,
那麼|a-lamda*i|必有 lamda=0這個解,即含有0特徵值,這點由特徵值之積等於行列式值也看知道。
而且由於svd分解是將矩陣分解成 正交矩陣*奇異值矩陣*正交矩陣 所以奇異值矩陣的行列式為0,由於奇異值矩陣是對角矩陣,所以對角上必然包含0元素,即a的奇異值中也有0.
反過來,特徵值x確定了之後(指的是方向的確定)
如果 x1 = [1 1 2]'
x2 = [1 1 3]'
都是特徵值,那麼
rank(a-lamda*i ) = 1
而且a-lamda*i的矩陣的行向量與x1 x2都正交,可以列乙個方程
c = [1 1 2 3
1 1 3 4]
cx = 0
使用高斯消去法
得到:x1 + x2 + + x4 = 0
x3+ x4 =0
令x4 = 1,分別令 x1=1和x2=1,得到兩個基
[1 0 1 1]'
[0 1 -1 1]'
如此可以令
a-lamda*i = [1 -1 0;1 -1 0; 1 -1 0];
就是說如果有幾個相同,幾個不同,那麼用高斯消去法可以將相同的那幾個消為0,剩下的右端為0即可
廣義特徵值:
ax = lamda*bx
相對於一般的特徵值問題,將i替換成了b。繼續之前的敘述,廣義特徵值就是a的「改造能力」與b之間的差別,即rank(a-lamda*b)看做a,b之間的一種度量。如果令b=a,那麼x可以任意取值,也就是說a同其自身的」改造「一樣。如果rank(a-lamda*b)滿秩,則說明二者的改造能力以及改造方式差距很大,根本沒有x能在分別經歷兩個「改造」之後還是一樣的方向。
rank(a-lamda*b)在lamda未確定時,就已經不滿秩,說明a和b的「改造方向」本身就比較像,必然存在非零的特徵向量x,
會有什麼影響????
特徵值 特殊矩陣的特徵值和特徵向量
特徵值與特徵向量 2 前 言 1 今天我們來討論一類特殊矩陣的特徵值和特徵向量。秩1 矩陣的性質希望同學們還沒有完全遺忘,正好通過今天的內容帶著大家複習下。2 i 雖然今天的矩陣不是抽象矩陣,但是想通過定義法求特徵值較為麻煩。這裡我們需要做乙個轉換 ax 0有非零解說明0是a的特徵值。ii 這裡我們...
矩陣特徵值 特徵向量 奇異值
1.特徵值與奇異值的主要區別兩者的主要區別在於 奇異值分解主要用於資料矩陣,而特徵植分解主要用於方型的相關矩陣。自相關矩陣正定時,特徵值分解是奇異值分解的特例,且實現時相對簡單些。2.定義 一矩陣a作用與一向量a,結果只相當與該向量乘以一常數 即a a a,則a為該矩陣a的特徵向量,為該矩陣a的特徵...
理解矩陣特徵值與特徵向量
從線性空間的角度看,在乙個定義了內積的線性空間裡,對乙個n階 對稱方陣進行特徵分解,就是產生了該空間的n個標準正交基,然後把矩陣投影到這n個基上。n個特徵向量就是n個標準正交基,而特徵值的模則代表矩陣在每個基上的投影長度。特徵值越大,說明矩陣在對應的特徵向量上的方差越大,功率越大,資訊量越多。1 應...