這節課將講解課程中很大的主題,還是對方陣而言,討論特徵值和特徵向量,下一節課講解應用。
給定矩陣 \(a\)
矩陣作用在向量上,矩陣 \(a\) 的作用就像輸入向量 \(x\) ,結果得到向量 \(ax\)。就像乙個函式,微積分中的函式表示作用在數字 \(x\) 上得到 \(f(x)\) ,矩陣就是一種變換。
在這些 \(x\) 向量中,我們比較感興趣的是變換前後還與原來互相平行的向量,多數向量而言,\(ax\) 是不同方向的,有特定的向量能使得 \(ax\) 平行於 \(x\) 。這些 \(x\) 就是特徵向量。
\(x\) 只經行了縮放變換,方向並沒有改變。
\[ax=\lambda x
\]其中,\(\lambda\) 是所成係數,可以是負值或零。負值表示變換前後方向相反。這個值就是特徵值。
零特徵值,表示 \(ax=0x\) ,\(x\) 是零空間裡面的向量。如果 \(a\) 是奇異矩陣,說明把她作用到非零向量 \(x\) 後得到 0
零向量可以取任意方向,和任意向量平行。
前面也提過,零向量垂直於任意向量,因為零向量點乘任何向量都為零。
注意,\(x\) 非零。
在引入行列式求解特徵向量和特徵值之前,我們先看看已學矩陣的特徵向量和特徵值是什麼。
例子1假設給定某個平面,將向量 \(b\) 通過投影矩陣 \(p\) 投影到平面上。投影矩陣的特徵向量和特徵值分別是什麼?
當 \(b\) 是平面上任意向量時,投影的結果還是 \(x\) 。
\[px=x
\]\(p\) 是變換矩陣,此時 \(x\) 是特徵向量,特徵值 \(\lambda=1\)。
垂直於平面的向量(零空間)是特徵向量,特徵值 \(\lambda=0\)
\[px=0
\]例子2
假設有 \(2*2\) 置換矩陣
\[a=\left(
\begin
0 & 1 \\
1 & 0 \\
\end
\right)
\]我們可以求出她的兩個特徵向量和特徵值
\[x_1=\left(
\begin
1 \\
1 \\
\end
\right),\text=\left(
\begin
1 \\
1 \\
\end
\right),\lambda=1
\]\[x_1=\left(
\begin
-1 \\
1 \\
\end
\right),\text=\left(
\begin
1 \\
-1 \\
\end
\right),\lambda=-1
\]特徵值的性質
\(n*n\) 矩陣有 \(n\) 個特徵值
特徵值的和等於對角線的元素和,這個和數叫做"跡(trace)"。
\[\lambda's=a_+a_+a_+...+a_
\]在 \(2*2\) 例子中,一旦找到了乙個特徵值 ,就可以找到另乙個特徵值.
特徵值之積等於行列式
怎麼求解特徵值和特徵向量,此時方程有兩個未知量?
將右側向量移到左邊:
\[(a-\lambda i)x=0
\]對於非零 \(x\) ,相乘以後等於0,我們可以知道 \((a-\lambda i)\) 不可逆,是奇異的。可得
\[|a-\lambda i|=0
\]這個只含有 \(\lambda\) 方程叫做特徵(值)方程。
思路是先解出 \(\lambda\) 。\(\lambda\) 可能不只乙個,而是 \(n\) 個。
解出 \(\lambda\) 之後,取出乙個 \(\lambda\) 代入,利用消元法求解零空間基向量的方法,就可以求解出 \(x\) 。
\[a=\left(
\begin
3 & 1 \\
1 & 3 \\
\end
\right)
\]給定矩陣 \(a\) ,計算特徵值和特徵向量。
\[\begin
|a-\lambda i|=
\left|
\begin
3-\lambda & 1 \\
1 & 3-\lambda \\
\end
\right|=(3-\lambda)^2-1=
0\\\end
\]解得 \(\lambda_1=2\) , \(\lambda_2=4\) .
當 \(\lambda_1=4\) 時,
\[a-4i=\left(
\begin
-1 & 1 \\
1 & -1 \\
\end
\right)
\]該矩陣零空間基向量為
\[x_1=\left(
\begin
1 \\
1 \\
\end
\right)
\]當 \(\lambda_2=2\) 時,
\[a-2i=\left(
\begin
1 & 1 \\
1 & 1 \\
\end
\right)
\]該矩陣零空間基向量為
\[x_1=\left(
\begin
-1 \\
1 \\
\end
\right)
\]對比給定矩陣 \(\left(
\begin
0 & 1 \\
1 & 0 \\
\end
\right)\)和 \(\left(
\begin
3 & 1 \\
1 & 3 \\
\end
\right)\) .
會發現,
如果已知 \(a=\left(
\begin
0 & 1 \\
1 & 0 \\
\end
\right)\) ,$ax=\lambda x $ ,已知此時 \(a\) 的特徵值和特徵向量。
那麼對於\(a』=\left(
\begin
3 & 1 \\
1 & 3 \\
\end
\right)\) , $(a+3i)x=ax+3x=(\lambda+3) x $
矩陣 \(a\) 加上 \(3i\) ,特徵值加3,特徵向量不變。特徵向量 \(x\) 是兩個矩陣共同的特徵向量。
注意:
如果知道 \(b\) 的特徵值 \(\alpha\),\(b≠i\) ,已知 $ax=\lambda x $ ,是否可以 通過\(bx=\alpha x\),知道 \(a+b\) 的特徵值呢?
即 \((a+b)x=(\lambda+\alpha)x\) ?
不行,因為沒有理由 \(b\) 的特徵向量就是 \(x\) .。新矩陣 \(a+b\) 的特徵值不等於 \((\lambda+\alpha)\)
假設乙個 \(2*2\) 正交矩陣
\[q=\left(
\begin
0 & -1 \\
1 & 0 \\
\end
\right)
\]我們知道 跡 \(trace=\lambda_1+\lambda_2=0\) ,行列式為 \(detq=\lambda_1*\lambda_2=-1\)
計算\[det(q-\lambda i)=\left(
\begin
-\lambda & -1 \\
-1 & -\lambda \\
\end
\right)=\lambda^2+1=0
\]解得
\[\lambda_1=i,\lambda_2=-i
\]兩個特徵值是虛數。且互為共軛。
複數將在這裡正是進入這門課。實矩陣的特徵值是有可能是複數的。
如果矩陣是對稱,就不會存在複數特徵值,特徵值是實數。
如果越不對稱,比如上例,\(q^t\) 和 \(q\) 是反對陣,\(q^t=-q\),而對稱矩陣性質告訴我們,對稱矩陣的轉置還是原矩陣,該例子與對稱性質完全相反,這種矩陣的特徵值是純虛數。這時極端情況。
中間則是介於對稱和反對稱之間的矩陣,部分對稱,部分反對稱。
給定矩陣 \(a\)
\[a=\left(
\begin
3 & 1 \\
0 & 3 \\
\end
\right)
\]求這個矩陣的特徵向量和特徵值。
\[det(a-\lambda i)=\left|
\begin
3-\lambda & 1 \\
0 & 3-\lambda \\
\end
\right|=(3-\lambda)(3-\lambda)
\]解得
\[\lambda_1=3,\lambda_2=3
\]將 \(\lambda\) 代入,
\[(a-\lambda) x=\left(
\begin
0 & 1 \\
0 & 0 \\
\end
\right)x=0
\]計算零空間基向量
\[x_1=\left(
\begin
1 \\
0 \\
\end
\right),x_2=nothing
\]\(2*2\) 矩陣,只有乙個無關的特徵向量。
線性代數導論21 特徵值和特徵向量
第二十一課時 特徵值和特徵向量 對方陣的特徵值和特徵向量做講解,矩陣的特徵值和特徵向量會反映出矩陣的重要資訊,後面的課將講解特徵值和特徵向量的應用以及為什麼需要特徵值和特徵向量。特徵向量和特徵值概念 ax,矩陣a的作用就像輸入向量x,結果得到向量ax 就像乙個函式,微積分中的函式表示作用在數字x上得...
線性代數筆記22 特徵值和特徵向量
平行的向量用方程來表示比較簡單 其中a是方陣,x 0。是乙個係數,被稱為特徵係數或特徵值 x和 x平行,方程的解x就是a的特徵向量。這裡需要對 方向相同 做出一些特殊的解釋,它也包括正好相反的方向和無方向,所以 的值可以取0或負數。現在的問題是,給定矩陣a,如果求解a的特徵向量?這裡沒有ax b這樣...
線性代數精華 矩陣的特徵值與特徵向量
今天和大家聊乙個非常重要,在機器學習領域也廣泛使用的乙個概念 矩陣的特徵值與特徵向量。我們先來看它的定義,定義本身很簡單,假設我們有乙個n階的矩陣a以及乙個實數 lambda 使得我們可以找到乙個非零向量x,滿足 ax lambda x 如果能夠找到的話,我們就稱 lambda 是矩陣a的特徵值,非...