稀疏編碼與pca的區別:
回顧一下pca:
1. 原資料點與投影點距離最小化 ==> 協方差最大化
2. 奇異值分解得到完備基(pca的關鍵)
稀疏編碼與pca不同,它得到的是超完備基,即向量基的個數比最大無關向量組多。但是多多少呢??
pca得到的是完備基,因此係數向量是唯一的;但是超完備基的係數向量不唯一。
那麼如何得到超完備基呢??
上式前一項與pca一樣,都是距離最小化,但是多了第二項的「稀疏性懲罰」,用範數來表示。這樣既保證了擬合效果,又考慮了稀疏性。
為了防止a過小,才有約束條件φn,k是如何確定的?
稀疏的概念:
這裡把「稀疏性(sparsity )」定義為:只有很少的幾個非零元素或只有很少的幾個遠大於零的元素。
要求係數向量 a 是稀疏的意思就是說:對於乙個輸入向量的基向量組合,我們只想有盡可能少的幾個係數遠大於零。
範數和稀疏的關係:
用範數來表示稀疏性。
稀疏編碼是無監督學習!
學習筆記 005
if condition then statement end if if condition then statements 1 else statements 2 end if if condition1 then statements 1 elseif condition2 then stat...
C 學習005 迴圈
c 在迴圈方面,感覺個c沒有身邊麼區別 while迴圈 for迴圈 do while迴圈 其實 使用goto也可以寫個迴圈 編寫環境vs2015 1.while迴圈 int main std cout i std getchar return 0 2.for 迴圈 int main std cout...
設計模式學習005 命令模式
命令模式用來將 請求 封裝成物件,然後用命令物件來引數化其他物件,而且也可以支援撤銷操作。短短一句話,概括了命令模式的精髓下面講解一下這句話中暗藏的原則 第一 每個命令都是乙個物件,本身有執行 exectue 和撤銷 undo 兩個方法,那個這個物件在執行和撤銷執行方法,總得有個執行物件吧?沒錯,這...