既然是寫思想，那麼也把之前寫過的一些個人覺得比較好的思考文章陸續發表到這個部落格吧。下面這篇寫關於「特徵值和特徵向量」的理解（寫於2011-11-11），是在本人考研期間複習線性代數時思考好些天寫的。之前只覺得對以後的學弟學妹比較有用，本人這段時間研究回歸分析，發現也需要大量線性代數知識，就拿出來跟更多人分享。文章除了排版，內容並未改動，現在讀來是有不少疑問的。
-------------------------------下面是當時寫的文章----------------------------------------
和很多大學生朋友一樣，我也一直被線性代數中的矩陣的特徵值和特徵向量的意義所困。它似乎是先有公式，而後才有定義。就像有人告訴你女人就是那個樣子，抽象的你無法**為什麼是這個樣子。自己思索了一段時間，又在網上查了哈相關的部落格文章，特徵值與特徵向量的意義漸漸清晰起來。不揣冒昧，權且對特徵值和特徵向量內涵探索的小打小鬧。
特徵值和特徵向量是矩陣專有的特徵？
特徵值與特徵向量究竟代表著矩陣的什麼具體特徵？
矩陣本身代表著什麼意義呢？
特徵值與特徵向量是雞生蛋的關係，還是蛋生雞的關係？
這是幾個大問題，還有一些小問題是在搞懂這些大問題之後產生並需要搞懂的。
上面的問題，前三個問題基本有了答案，還差第4個問題，暫沒法解答。
矩陣的一定有n個特徵值（算上重根），那麼對應的特徵向量之間是什麼關係了？
為什麼會有重根，重根到底對應幾個線性無關的特徵向量呢？
如果某特徵值為0，那麼說明對應的特徵向量上投影為0，那還有什麼方向可言，可為什麼a * x = 0 居然還有解了，即特徵向量？
我們都發現這個現象，不關是什麼樣的矩陣，不同的特徵值對應的都是互相線性無關的特徵向量。而重根有可能對應線性無關的特徵向量，也可能都對應乙個方向。這只是對上面問題的解釋。現在我們再來審視矩陣的幾何意義。特徵值只是代表某特徵方向上的投影（大小），這樣想來他們相不相等沒有任何直接關係，完全可以各自對應不同的特徵方向，這只是矩陣在他的某幾個特徵方向上的投影大小相等而已。而重根對應同乙個特徵方向，又該如何解釋了？這個問題，暫時保留**。
關於特徵值為0時，為什麼有特徵方向？我們能說（0,y,z）就是（y,z）嗎？顯然不能，前者說明在三個方向上定義某物，儘管其中乙個方向上沒有作用，後者卻只**某物在兩個方向的作用。定義的基礎都不一樣，自然不能完全一樣。矩陣的定義也是如此，可以看出方向較之投影是先行特徵，方向是與投影無關的一種特性。
到這裡了，大部分問題已經解決了。也許，聰慧的朋友們可以用上面的理解來解釋問題或者做題了。或者跟著我繼續看看這些理解能怎麼做題。
前提：ci是a的特徵值，xi是對應的特徵向量。
可逆a^(a逆)的特徵呢？——由(a^)*a = e . a逆只需要在原有的矩陣基礎上將各特徵方向上的特徵值取倒，同方向相乘，即可歸一化為投影為1.那就是說對a逆，1/ci 對應 xi。
轉置a的特徵呢？ ——由a的轉置的定義，可以想象a轉置是將a圍繞原點做乙個正交角度的的旋轉。那就是特徵值沒變，那特徵向量呢？可千萬別秒殺說：必須也不變啊，因為是旋轉的是正交角度嘛。估計看到這篇文章的都是學弟學妹，我苟且告誡你們，思考問題一定不要想當然（我的這篇文章也存在一些想當然，因為量有點大，考驗期間，時間有限，無法考證，非常抱歉）。開始想象在二維座標空間裡，兩個垂直的向量a，b，繞原點逆時針90度，那麼最後新的向量a』肯定與b方向相同，b'肯定與a方向相反（記得，相反也約定為方向相同哦）。那麼，對矩陣a而言，如果其n個特徵方向是正交的，那麼對a轉置，就有ci 對應 xi。此時也說明a轉置就等於a（因為他們連幾何意義即本質都相等了）。這時候不難理解書上實對稱矩陣的那些性質了。而非對稱矩陣的特徵方向組是一組線性無關但不互相正交的向來組。在二維空間上，a，b線性無關卻不垂直時，旋轉90度，顯然得到僅僅是兩個新的線性無關的a',b'. 那麼，對於矩陣a而言，如果其n個特徵方向僅僅是線性無關的，那麼對a轉置，就有ci 對應 乙個新的yi .
相似b~a, b的特徵呢？——b相似a等價於兩者特徵值相同。剛才上面討論過，特徵值相同跟特徵方向沒有任何直接關係，完全可以對應不同的特徵方向。所以，b的ci並不對應xi. 但是注意了，特徵值相等是a和b相似的必要條件，而非充分條件。那麼就說矩陣相似，除了特徵值相等，特徵向量之間應該還有某種聯絡，只不過不一定相等罷了。那麼是什麼關係呢？就是相似<=>特徵值相等，以及a的特徵向量組和b的特徵向量組等價。比如，在n維座標中，a和b特徵值相等，但是a的特徵向量組可以與其中確定的n-1個維度的等價，b的特徵向量組等價於另n-1個維度。這樣a與b就不相似。
還有類似（a + a^ - e）= 3e,為什麼可以帶入ci直接運算了？等等問題，都可以很容易解釋了，留給大家自己思考吧
最後，我來總結一下。簡單點：線性無關的方向 + 相應的投影 = 矩陣 = 變換
如果將人生各階段當作不同的維度 ：n個不同人生階段 + 相應的能量 = 人生
於2011-11-11
對特徵值 特徵向量的理解
特徵向量確實有很明確的幾何意義，矩陣 既然討論特徵向量的問題，當然是方陣，這裡不討論廣義特徵向量的概念，就是一般的特徵向量 乘以乙個向量的結果仍是同維數的乙個向量，因此，矩陣乘法對應了乙個變換，把乙個向量變成同維數的另乙個向量，那麼變換的效果是什麼呢？這當然與方陣的構造有密切關係，比如可以取適當的二...
理解矩陣特徵值與特徵向量
從線性空間的角度看，在乙個定義了內積的線性空間裡，對乙個n階 對稱方陣進行特徵分解，就是產生了該空間的n個標準正交基，然後把矩陣投影到這n個基上。n個特徵向量就是n個標準正交基，而特徵值的模則代表矩陣在每個基上的投影長度。特徵值越大，說明矩陣在對應的特徵向量上的方差越大，功率越大，資訊量越多。1 應...
特徵向量與特徵值
在看線性代數這一部分的時候，真是一頭霧水。雖然明白了特徵值和特徵向量的求法，但總覺得沒有用。在 理解矩陣 一文中，雖然提到了這與矩陣的本質有關，但並未詳細提及，但我知道了一定具有一定的幾何意義。後來，檢視了 特徵向量的幾何意義 一文，才明白了。特別是wikipedia中關於 特徵向量 的文章，終於對...