第三十四課時：左右逆和偽逆
本講的主題是左右逆，偽逆，當然也包括以前的內容，四個基本子空間。
am×n，m行n列
1）矩陣可逆：即兩邊逆，a
a-1
= i =a-1
a ， 此時r=m=n，a為方陣且滿秩，零空間和左零空間都只有零向量。
2） 左逆：當列滿秩，列向量線性無關，行向量不一定，r=n，零空間只有零向量，ax=b存在0個或1個解。 at
a是n×n的對稱矩陣，滿秩，at
a是可逆的，稱( at
a)-1
at 為a的左逆，因為 (a
ta)-1a
t*a=i。
這在最小二乘中至關重要，因為最小二乘以a
t a為係數矩陣（為什麼統計學家喜歡這些？因為統計學家最喜歡用最小二乘
），在列滿秩的情況下，at
a可逆。此時[(a
ta)-1a
t]為n×m，am×n，得i為n×n。
3） 右逆：當行滿秩，行向量線性無關，r=m，
at的零空間只含零向量，ax=b有或無窮多個解，因為 a* at
(aat
)-1=i，所以
把 at(
aat)
-1稱為a的右逆。 4）
偽逆：r行空間和列空間的維數相同，都是r維，行空間的任意向量x，與a相乘，得到恰好是列空間中的所有向量，行空間向量x與列空間向量ax的關係是一 一對應的。所有向量都能由行空間的分量和零空間的分量構成，
行空間中向量x對應著列空間中的ax（零空間中的x乘以a得零ax=0），行空間中向量y對應著列空間中的ay（如果x與y不同，那麼ax和ay必然不同，證明：假設ax=ay, a(x-y)=0, 那麼x-y屬於零空間，那麼x=y）。
但如果要從列空間得到行空間的向量呢，要得到行空間的向量，那麼x=a+(
ax)，a+
就是偽逆，偽逆把左零空間變為0，即如果a+
乘以左零空間的向量，結果為0。（假設沒有零空間的干擾，即假設零空間只有零向量，存在逆，那麼行空間的向量x得到列空間的向量ax，反過來，通過a的逆就能從列空間得到行空間，a-1
(ax)=x。）
考察如上左逆中有： (a
ta)-1a
t*a=i，如果將左逆寫在右邊將得不到單位矩陣了，那麼 a(at
a)-1at
是什麼？
是在列空間投影的投影矩陣，它會盡量靠近單位矩陣，乙個投影矩陣很想成為單位矩陣，但不可能做到。
右逆中， a* at
(aat
)-1=i，如果將右逆寫在左邊也不是單位矩陣了，那 at
(aat
)-1a是什麼？
是在行空間投影的投影矩陣。
找偽逆 a+
方法1：svd，a=
uσvt，對角陣σ對角線上的元素為：σ1,σ2,...σr,0,0...，秩為r，那麼σ的偽逆是多少？
如果對角線上沒有0元素，那麼σ是可逆的，σς
-1=i，σ
-1中對角線元素為1/σ1,1/σ2,...1/σn。現在對角線上有0元素。
σm×n和σ+n×m都是秩為r的矩陣，偽逆是最接近逆的矩陣，那σς+對角陣m×m，對角線上方有r個1，下邊為0。這是到列空間的投影矩陣。
那σ+σ將得到n×n的對角矩陣，是到行空間的投影矩陣。 那麼
a的偽逆是多少？a
+=vς+ut，這就是最小二乘不適用的情況，當統計學家遇到非滿秩的時候，svd的奇妙之處就在於將所有問題都歸到對角矩陣上。
以上就是
偽逆所做的事，乘在左邊或右邊得不到單位矩陣，得到的是投影矩陣。（乘在右邊得到列空間的投影矩陣，乘在左邊得到行空間的投影矩陣）
線性代數導論34 左右逆和偽逆
第三十四課時 左右逆和偽逆 本講的主題是左右逆，偽逆，當然也包括以前的內容，四個基本子空間。am n，m行n列 1 矩陣可逆 即兩邊逆，a a 1 i a 1 a 此時r m n，a為方陣且滿秩，零空間和左零空間都只有零向量。2 左逆 當列滿秩，列向量線性無關，行向量不一定，r n，零空間只有零向量...
左右逆和偽逆
第三十四課時 左右逆和偽逆 本講的主題是左右逆，偽逆，當然也包括以前的內容，四個基本子空間。am n，m行n列 1 矩陣可逆 即兩邊逆，a a 1 i a 1 a 此時r m n，a為方陣且滿秩，零空間和左零空間都只有零向量。2 左逆 當列滿秩，列向量線性無關，行向量不一定，r n，零空間只有零向量...
線性代數導論3 乘法與逆矩陣
第三課時 乘法與逆矩陣 本課時先講解矩陣乘法運算，然後是逆矩陣 一 矩陣乘法 5種方法 am n bn p cm p，a列必須等於b的行數 1 常規方法，行列點乘法 c ab，c中的第i行j列結果來自a的第i行向量與b的第j列向量的點乘。整行整列的進行。2 列方法，整列考慮，列的線性組合方式 b的乙...