由於我的畢設要用pcanet提取特徵,因此學習一下常見的機器降維方法。
1. pca 最大化對映後資料的方差(無監督)
2. lda 最小的類內間距,最大的類間間距(有監督)
原理推導:
3. 區域性線性嵌入(lle,非線性)它能夠使降維後的資料較好地保持原有
流形結構
。它的思想就是在降維時保持區域性的線性關係。
原理推導:
4. 拉普拉斯特徵對映
在學習拉普拉斯矩陣的時候,涉及到圖的概念,所以先學習一下圖吧·····
邏輯結構
分為兩部分:v和e集合。因此,用乙個一維
陣列存放圖中所有頂點資料;用乙個二維陣列存放頂點間關係(邊或弧)的資料,這個二維陣列稱為鄰接
矩陣。鄰接矩陣又分為
有向圖鄰接矩陣和
無向圖鄰接矩陣。
無線圖的鄰接矩陣一定是對稱矩陣,頂點n的度就表示為n行非零元素的個數和
原理推導:
在其中,涉及廣義特徵值的概念 ,矩陣論的知識快忘完了~~~ax=λbx ,以後慢慢看吧~~
機器學習降維方法
特徵降維方法包括 lasso,pca,小波分析,lda,奇異值分解svd,拉普拉斯特徵對映,sparseautoencoder,區域性線性嵌入lle,等距對映isomap,embedding。lasso least absolute shrinkage and selection operator,...
機器學習降維方法概括
最近刷題看到特徵降維相關試題,發現自己了解的真是太少啦,只知道最簡單的降維方法,這裡列出了常見的降維方法,有些演算法並沒有詳細推導。特徵降維方法包括 lasso,pca,小波分析,lda,奇異值分解svd,拉普拉斯特徵對映,sparseautoencoder,區域性線性嵌入lle,等距對映isoma...
機器學習降維方法概括
目錄 lasso通過引數縮減達到降維的目的 主成分分析pca 小波分析 線性判別lda 拉普拉斯對映 深度學習sparseautoencoder 矩陣奇異值分解svd lle區域性線性嵌入 isomap等距對映 最近刷題看到特徵降維相關試題,發現自己了解的真是太少啦,只知道最簡單的降維方法,這裡列出...