1、線性變換
首先來個線性方程組
換個表達方式，
所以可以寫成如下格式，
現在有矩陣a，列向量x和y，向量x通過矩陣a線性變換到y，如下圖
2、接下來，我們說明上述公式的幾何意義。
也就是
這就一目了然了，x 經過線性變換後變為y，涉及到了兩個變化，伸縮和旋轉，
也就是x先作伸縮變換，然後旋轉到y的位置。
矩陣a記錄了如何由x1 and x2 線性變換到y1 and y2，換句話說，記錄了y1 and y2 在x1 and x2上的投影。
此時，我們應該認識到，矩陣a代表了線性變化規則，矩陣乘法代表了乙個線性變化。
在我後來的理解中，a可以理解為座標，一種在原始座標軸（比如我們最熟悉的xy座標）上各分量的座標，經過線性變換，換到了另乙個座標系下，當然會得到一套新座標。
3、這時，我們可以思考乙個問題，有沒有一種矩陣a，可以向量在這個變換下不改變方向呢？可以實現下面的效果
也就是只有伸縮變化，沒有旋轉。
即
這裡就眼熟了，λ為特徵值(eigenvalue)， x為特徵向量(eigenvector)。
引用《線性代數的幾何意義》的描述：「矩陣乘法對應了乙個變換，是把任意乙個向量變成另乙個方向或長度都大多不同的新向量。在這個變換的過程中，原向量主要發生旋轉、伸縮的變化。如果矩陣對某乙個向量或某些向量只發生伸縮變換，不對這些向量產生旋轉的效果，那麼這些向量就稱為這個矩陣的特徵向量，伸縮的比例就是特徵值。」
4、特徵值和特徵向量的實際用途
特徵值和特徵向量的計算容易，但是用途呢？
經過數學上的推導的，我們就可以知道，特徵值對應的特徵向量就是理想中想取得正確的座標軸，而特徵值就等於資料在旋轉之後的座標上對應維度上的方差。
以特徵向量作為座標軸，在這個座標系下，向量的每個分量的變換就僅僅是個數乘了。
或者說，
就是尋找乙個正交系去表示你原來的函式，特徵向量就是新的正交系的座標軸，特徵值就是座標軸對應的座標。
如何理解特徵值和特徵向量
學完線性代數的同學,可能會對線性代數的很多概念有所疑惑.這個東西有什麼用?那個玩意定義出來有什麼意義?本文將 線性代數中及其重要的兩個概念 特徵值與特徵向量.ps 下文中的矩陣 a 均認為是方陣 矩陣不單單是二維的陣列,它更重要的角色是對映 y ax y ax 就相當於y f x 矩陣 a 是把向量...
特徵值和特徵向量
在剛開始學的特徵值和特徵向量的時候只是知道了定義和式子，並沒有理解其內在的含義和應用，這段時間整理了相關的內容，跟大家分享一下 首先我們先把特徵值和特徵向量的定義複習一下 定義 設a是n階矩陣，如果數 和n維非零向量x使關係式 成立，那麼，這樣的數 稱為矩陣a的特徵值，非零向量x稱為a的對應於特徵值...
特徵值和特徵向量
特徵向量和特徵值在計算機視覺和機器學習中有許多重要的應用。眾所周知的例子是pca 主成分分析 進行降維或人臉識別是特徵臉。特徵向量和特徵值的乙個有趣應用在我的另一篇有關誤差橢圓的博文中提到。此外，特徵值分解形成協方差矩陣幾何解釋的基礎。在這篇文章中，我將簡單的介紹這個數學概念，並且展示如何手動獲取二...