機器學習005 Sparse Coding

2022-07-28 07:00:20 字數 687 閱讀 1427

稀疏編碼與pca的區別:

回顧一下pca:

1. 原資料點與投影點距離最小化 ==> 協方差最大化

2. 奇異值分解得到完備基(pca的關鍵)

稀疏編碼與pca不同,它得到的是超完備基,即向量基的個數比最大無關向量組多。但是多多少呢??

pca得到的是完備基,因此係數向量是唯一的;但是超完備基的係數向量不唯一。

那麼如何得到超完備基呢??

上式前一項與pca一樣,都是距離最小化,但是多了第二項的「稀疏性懲罰」,用範數來表示。這樣既保證了擬合效果,又考慮了稀疏性。

為了防止a過小,才有約束條件φn,k是如何確定的?

稀疏的概念:

這裡把「稀疏性(sparsity )」定義為:只有很少的幾個非零元素或只有很少的幾個遠大於零的元素。

要求係數向量 a 是稀疏的意思就是說:對於乙個輸入向量的基向量組合,我們只想有盡可能少的幾個係數遠大於零。

範數和稀疏的關係:

用範數來表示稀疏性。

稀疏編碼是無監督學習!

學習筆記 005

if condition then statement end if if condition then statements 1 else statements 2 end if if condition1 then statements 1 elseif condition2 then stat...

C 學習005 迴圈

c 在迴圈方面,感覺個c沒有身邊麼區別 while迴圈 for迴圈 do while迴圈 其實 使用goto也可以寫個迴圈 編寫環境vs2015 1.while迴圈 int main std cout i std getchar return 0 2.for 迴圈 int main std cout...

設計模式學習005 命令模式

命令模式用來將 請求 封裝成物件,然後用命令物件來引數化其他物件,而且也可以支援撤銷操作。短短一句話,概括了命令模式的精髓下面講解一下這句話中暗藏的原則 第一 每個命令都是乙個物件,本身有執行 exectue 和撤銷 undo 兩個方法,那個這個物件在執行和撤銷執行方法,總得有個執行物件吧?沒錯,這...