宣告
主要學習資料是 coursera 上 duke 大學的公開課——image and video processing, by pro.guillermo sapiro 第 9 課。
尺寸有大有小,在 dct 變換中,我們一般取 8×8 的方塊作為一組 64 維的變換訊號,在稀疏表示中,我們同樣也不能把整張作為 x^t 矩陣,而是在大中取一定尺寸的 patch (假設是 8×8 的方塊)作為乙個 signal。對於中的所有的 patch (假設 ij 是 patch 的左上角座標)組成的訊號,已知字典 d 和雜訊 y ,估計公式如下:
字典 d 從**學習?第一種選擇是基於的資料庫,第二種是直接使用要降噪的進行訓練。還有一種可能性是:首先基於的資料庫得到字典 d (off-line),接著來了一張要降噪的,我們的做法是新建乙個以 d 為初始化的字典,在要處理的上再進行迭代(on-line),得到新字典,這個新字典更適合降噪,代價是多一些計算。
在上一小節中,我們提出的可能性是 d 也需要根據要降噪的進行再適應,所以,降噪的公式多了一引數:
有三個變數,處理方法是先固定其中兩個,優化乙個,然後迭代。從整體上來說,先用 k-svd 演算法得到字典矩陣 d 和係數編碼 alpha,保持它們不動,再優化 x:
x 的最優解實際上就是所有包含 x 畫素點的 patch 的平均值,比如 patch 的大小是 8×8, 那麼包含中某乙個畫素點的 patch 就有 64 個,這個畫素點最優解就是取這 64 個patch 對應位置的平均值。當然,你也可以用權重來調節不同位置的 patch 對 pixel 的影響,比如 pixel 在中間的 patch,權重大,pixel 在 patch 邊邊角角的地方,權重小。
前面我們**了 sparse represent 的等式,這裡主要講 compressed sensing 的概念,即在稀疏表示的等號兩邊同時乘以矩陣 q:
就變成了:
用公式可以表達為:
可以看到,變換後的訊號被大大壓縮了。在一直 x波浪 和 d波浪 的情況下求 alpha 這個問題和前面 sparse coding 非常類似。乙個關鍵問題是:在什麼條件下由已知訊號 x波浪 的情況下恢復稀疏表示 alpha?顯然,這個問題與矩陣 q,字典 d 和 alpha 的 sparse level 有關,背後涉及很多數學理論。
稀疏表示學習
1.提出問題 什麼是稀疏表示 假設我們用乙個m n的矩陣表示資料集x,每一行代表乙個樣本,每一列代表樣本的乙個屬性,一般而言,該矩陣是稠密的,即大多數元素不為0。稀疏表示的含義是,尋找乙個係數矩陣a k n 以及乙個字典矩陣b m k 使得b a盡可能的還原x,且a盡可能的稀疏。a便是x的稀疏表示。...
稀疏表示 字典學習
online learning toolbox francesco orabona machine perception toolbox mpt 偶然的機會發現了這個工具箱,雖說05年都沒有再更新了,但是很多東西還是可以借鑑的。很好的乙個工具箱,功能包含face detection,eye dete...
稀疏表示SR筆記
最近在查sr的資料 a general framework for image fusion based on multi scale transform and sparse representation 結合大神門的部落格寫一下我自己的理解,作個筆記。稀疏表示的本質是訊號擬合的問題,使用稀疏字典...