將高維度空間的樣本投影到低維空間上，使得投影後的樣本資料在新的子空間上有最小的類內距離以及最大的類間距離，使得在該子空間上有最佳的可分離性
可以看出右側投影後具有更好的可分離性。
剛學完感覺兩個很類似，實際上兩個方法是從不同的角度來降維。
pca是找到方差盡可能大的維度，使得資訊盡可能都儲存，不考慮樣本的可分離性，不具備**功能。
lad(線性判別分析) 是找到乙個低維的空間，投影後，使得可分離性最佳，投影後可進行判別以及對新的樣本進行**。
fisher判別詳解
fisher判別分析是要實現有最大的類間距離，以及最小的類內距離
1.lda處理後的維度要小於類別數c，sb的秩肯定小於等於c-1。
2.sw矩陣不可逆情況很多，可以先用pca處理成c-1維後再用lda，效果挺好的
3.多分類情況下sb用全域性離散度矩陣減去類內離散度矩陣
fisher線性判別 判別分析 Fisher判別
上期 判別分析概述 中我們提到，判別分析 discriminant analysis 是根據判別物件若干個指標的觀測結果判定其應屬於哪一類的資料統計方法，其中fisher判別一般用於指標為定量資料的兩類判別，bayes判別多用於指標為定量資料的多類判別，同時，兩者均可利用spss完成，但在運用和解讀...
Fisher線性判別分析
三 結果 四 在uci資料集上的iris和sonar資料上驗證演算法的有效性 iris資料3類，4維，150個資料 sonar資料2類，60維，208個樣本.訓練和測試樣本有三種方式進行劃分 三選一 1.將資料隨機分訓練和測試，多次平均求結果 2.k折交叉驗證 3.留1法 針對不同維數，畫出曲線圖 ...
LDA 線性判別分析 Fisher線性判別
1.lda是什麼 線性判別式分析 linear discriminant analysis 簡稱為lda。也稱為fisher線性判別 fisher linear discriminant，fld 是模式識別的經典演算法，在1996年由belhumeur引入模式識別和人工智慧領域。基本思想是將高維的模...