1. svd
任意矩陣a(mxn), 都能被奇異值分解為:
其中,u是mxm的正交矩陣,v是nxn的正交矩陣,σr是由r個沿對角線從大到小排列的奇異值組成的方陣. r就是矩陣a的秩.
2. moore-pseudo逆
任意矩陣a, 若存在矩陣x, 使得:
則稱x是a的moore-pseudo逆, 簡稱廣義逆, 記為a+.
矩陣a的廣義逆是唯一的, 並且可以利用a的svd分解進行計算. 令a的svd分解為:
不難驗證
3. 線性最小二乘問題
考慮線性方程組ax=b, 求其最小二乘解.
如果a的秩是n, 則其唯一解是a+b; 如果秩小於n, 則有無窮多解, 其中的最小範數解仍然是a+b. 我們通常關心的也就是這個解.
摘自：
奇異值分解 SVD
最近不小心接觸到了svd，然後認真看下去之後發現這東西真的挺強大的，把乙個推薦問題轉化為純數學矩陣問題，看了一些部落格，把乙個寫個比較具體的博文引入進來，給自己看的，所以把覺得沒必要的就去掉了，博文下面附原始部落格位址。一 基礎知識 1.矩陣的秩 矩陣的秩是矩陣中線性無關的行或列的個數 2.對角矩陣...
SVD奇異值分解
原文出處 今天我們來講講奇異值分解和它的一些有意思的應用。奇異值分解是乙個非常，非常，非常大的話題，它的英文是 singular value decomposition，一般簡稱為 svd。下面先給出它大概的意思 對於任意乙個 m n 的矩陣 m 不妨假設 m n 它可以被分解為 m udv t 其...
奇異值分解（SVD）
svd是singular value decomposition的縮寫，是去除冗餘 資訊提取和資料約簡的強大工具。若a為p q實數矩陣，則存在p階正交矩陣u和q階正交矩陣v，使得 a u v 上式就是奇異值分解，其中p q矩陣 中，i，i 元素 i 0,i 1,2,3,min p,q 其他元素均為0...