降維方法分為線性核非線性降維,非線性降維又分為基於核函式和基於特徵值的方法。
線性降維方法:pca ica lda lfa lpp(le的線性表示)
基於核函式的非線性降維方法:kpca kica kda
基於特徵值的非線性降維方法(流型學習):isomap lle le lpp ltsa mvu
lle(locally linear embedding)演算法(區域性線性嵌入):
每乙個資料點都可以由其近鄰點的線性加權組合構造得到。
演算法的主要步驟分為三步:
(1)尋找每個樣本點的k個近鄰點(k是乙個預先給定的值);
(2)由每個樣本點的近鄰點計算出該樣本點的區域性重建權值矩陣;
(3)由該樣本點的區域性重建權值矩陣和其近鄰點計算出該樣本點的輸出值,定義乙個誤差函式。
**:
機器學習常用的降維方法
特徵降維方法包括 lasso,pca,小波分析,lda,奇異值分解svd,拉普拉斯特徵對映,sparseautoencoder,區域性線性嵌入lle,等距對映isomap。lasso least absolute shrinkage and selection operator,tibshirani...
資料降維方法
資料降維基本原理是將樣本點從輸入空間通過線性或非線性變換對映到乙個低維空間,從而獲得乙個關於原資料集緊致的低維表示。資料降維工具箱drtoolbox中眾多演算法,這裡簡單做個分類。因為很多並沒有仔細了解,在此次只對八種方法做分類 主成分分析 principal component analysis,...
降維方法總結
對降維效果的評價 比較降維前後學習器的效能 低維可以通過視覺化技術來判斷降維的效果 分類 一 低維嵌入 代表 mds演算法 基本思想 降維的乙個基本思想是,降維前後 保證樣本點的距離相等,即 原始空間中的距離在低維空間得以保持 mds演算法 1 通過距離不變的原理,推導出由高維空間距離矩陣d計算低維...