概念：若n階矩陣a滿足ata=i，則a為正交矩陣，簡稱正交陣。
ata=i解釋的話就是：
「a的第i行」*「a的第i列」= 1
「a的第i行」*「a的非第i列」= 0。
其他：
1，a是正交陣，x為向量，則a·x稱作正交變換；
正交變換不改變向量長度。
如：a=
b= (x0, y0)，ps：b是對映到x，y座標軸上的乙個點
於是a·bt的結果就是讓b這個點在座標上逆時針旋轉°。
2，a、b都是n階正交陣，那麼a*b是正交陣。
定義：a是n階矩陣，若數λ和n維非0列向量x滿足ax=λx，那麼，數λ稱為a的特徵值，x稱為a的對應於特徵值λ的特徵向量。
解釋：
ax=λx意味著：ax正好是列向量x的λ倍，即：向量x乘上矩陣a的結果僅僅是改變向量x的長度。那麼，這個x和a一定有著某種聯絡（因為x被a作用之後x的方向壓根就沒變），就好像很多故事中將保護公主的人稱為騎士一樣(公主和騎士是有聯絡的)，那這裡就把這個x稱作a的特徵向量。
ok，等號左邊至少可以理解了吧，然後為了描述等號右邊，就把λ稱作特徵向量x的特徵值。
ps：上學時我們經常這樣求解特徵值和特徵向量：
根據定義，立刻得到(a-λi)x= 0，令關於λ 的多項式|a-λi|為0，方程|a-λi|=0的根為a的特徵值；將根λ帶入方程組(a-λi)x = 0 ，求得到的非零解，即λ對應的特徵向量。
不過，雖然這樣能解，但這樣沒啥實際價值。實踐中一般使用q·r分解。
性質：
1，設n階矩陣a=(aij) 的特徵值為λ1 ,λ2 ,...λn ，則
a，λ1+ λ2 + ... + λn =a11 + a22 + … + ann
即：矩陣a的主對角線的元素的和 = 特徵值的和
於是乎a的主對角線一定是十分重要的，那麼我們就給它乙個稱呼吧，於是我們把矩陣a主行列式的元素和，稱作矩陣a的跡。
b，λ1λ2… λn =|a|
即：特徵值的乘積 = a的行列式
2，已知λ是方針a的特徵值，則
a，λ2是a2的特徵值
b，a可逆時，λ-1是a-1的特徵值
3，如果a0= i，則λk是ak的特徵值，k∈r。
4，設λ1 ,λ2 ,...,λm 是方陣a的m個特徵值，p1 ,p2,...,pm 是依次與之對應的特徵向量，若λ1 ,λ2 ,...,λm 各不相等，則p1 ,p2 ,...,pm 線性無關。
即：不同特徵值對應的特徵向量線性無關。
5，實對稱陣不同特徵值的特徵向量正交
6，對稱矩陣a的特徵向量是x，則xtax是乙個對角陣。
ps：如果a不是對稱陣，則x-1ax是對角陣。
最終結論：
設a為n階對稱陣，則必有正交陣p，使得
p-1ap= ptap = λ
λ是以a的n個特徵值為對角元的對角陣。
該變換稱為「合同變換」，a和λ互為合同矩陣。
特徵值 特徵向量 正交分解 PCA
無意間想到的，有時間會補充內容。還記得學線性代數時計算矩陣的特徵值和特徵向量，然後這個矩陣就可以用這個特徵值和特徵向量表示。這樣就可以理解成矩陣其實是多個向量拼在一起的，這樣就可以將矩陣和向量建立聯絡。特徵值和特徵向量其實就是尋求原向量組合的最簡單表示，因為向量是可以分解和組合的。為什麼要用特徵值和...
特徵向量與特徵值
在看線性代數這一部分的時候，真是一頭霧水。雖然明白了特徵值和特徵向量的求法，但總覺得沒有用。在 理解矩陣 一文中，雖然提到了這與矩陣的本質有關，但並未詳細提及，但我知道了一定具有一定的幾何意義。後來，檢視了 特徵向量的幾何意義 一文，才明白了。特別是wikipedia中關於 特徵向量 的文章，終於對...
特徵值與特徵向量
我們知道，矩陣乘法對應了乙個變換，是把任意乙個向量變成另乙個方向或長度都大多不同的新向量。在這個變換的過程中，原向量主要發生旋轉 伸縮的變化。如果矩陣對某乙個向量或某些向量只發生伸縮變換，不對這些向量產生旋轉的效果，那麼這些向量就稱為這個矩陣的特徵向量，伸縮的比例就是特徵值。實際上，上述的一段話既講...