在介紹svd之前，先補充一些基礎知識
1.酉矩陣：
2.正規（正定）矩陣
3.譜分解：
4.svd分解
作為譜定理的泛化，svd 分解對於原矩陣的要求就要弱得多。
4.手動svd分解的乙個例項
svd的分解實際可以將矩陣
m寫成乙個求和形式
5.svd分解的應用：
（1）分析了解原矩陣的主要特徵和攜帶的資訊（取若干最大的奇異值），這引出了主成分分析（pca）；
丟棄忽略原矩陣的次要特徵和攜帶的次要資訊（丟棄若干較小的奇異值），這引出了資訊有失真壓縮、矩陣低秩近似等話題。
這兩方面的應用實際上是對偶的：因為，按重要度排序之後，一方面我們可以知道哪些資訊（奇異值）重要，另一方面我就很自然地就可以丟棄不重要的部分。
（2）舉乙個具體的例項：在影象數位化技術中，一副可轉換成乙個m*n階畫素矩陣來儲存，儲存量是m*n個數。如果利用矩陣a（秩為r）的奇異值展開式（即上述將svd分解寫成求和的形式），則只要儲存a的奇異值，奇異向量u，v的分量，總計r*（m+n+1）個數。取m=n=1000，r=100，則m*n = 10的6次方，而r*（m+n+1）=200100
參考鏈結
書籍：矩陣論--楊明，劉先忠
奇異值分解 SVD 原理詳解及推導
今天學習svd原理，檢視一些博文與資料，為了方便複習，做一下學習筆記。svd不僅是乙個數學問題，在工程應用中的很多地方都有它的身影，比如前面講的pca，掌握了svd原理後再去看pca那是相當簡單的，在推薦系統方面，svd更是名聲大噪，將它應用於推薦系統的是netflix大獎的獲得者koren，可以在...
奇異值分解 SVD 原理詳解及推導
在網上看到有很多文章介紹svd的，講的也都不錯，但是感覺還是有需要補充的，特別是關於矩陣和對映之間的對應關係。前段時間看了國外的一篇文章，叫a singularly valuable decomposition the svd of a matrix，覺得分析的特別好，把矩陣和空間關係對應了起來。本...
機器學習 SVD分解
3 svd的舉例 4 svd的應用 5 svd的優缺點 參考經常看到svd奇異值分解，但一直沒有去了解它講的什麼，剛好在李航老師統計學習方法第二版上是單獨的一章，下面看了一些部落格總結一下 任意乙個m n m nm n的矩陣 m mm階正交陣 降序排列的非負對角線元素組成的m n m nm n對角陣...