為什麼正交匹配追蹤 OMP 一定能恢復訊號?

2021-07-01 21:22:38 字數 3473 閱讀 7088

題目:為什麼正交匹配追蹤(omp)一定能恢復訊號?

就是原來的x=ψθ中的那個θ呢?為什麼通過omp迭代後一定會選出矩陣a的那幾列呢?會不會選擇a的另外幾列,它們的線性組合也滿足y=?本篇來回答這個問題。

首先我們要知道,兩個k稀疏的n維訊號(長度為n的列向量)θk1和θk2,它們的差向量(θk1-θk2)的稀疏度最大不超過2k(當θk1和θk2中的非零項都沒有對應在同一位置時)。

其次我們要回憶rip性質及spark常數,分別可參見《壓縮感知測量矩陣之有限等距性質(restrictedisometry property,rip)》和《壓縮感知測量矩陣之spark常數》。在這兩篇中都提到若要恢復y=中k稀疏的θ,要求感測矩陣a(感測矩陣a=φψ,即測量矩陣φ乘以稀疏矩陣ψ)至少任意2k列不相關。注意,這是壓縮感知中a必須滿足的乙個條件。

這裡的θ為k稀疏的。所以上面的線性組合實際上只有k列,因為其它(n-k)列的組合係數為零。這裡我們將待求的k稀疏θ記為θk1,即y=k1。若θk1分別在t1,t2,…,tk共k個位置不為零,大小為θ

t1,θ

t2,θ

t3,…,θ

tk,則

其中at由a中的序號為t1,t2,…,tk的k列組成:at = [at1,at2,at3,…,atk],而θt是由θ

t1,θ

t2,θ

t3,…,θ

tk組成的列向量:θt = [θ

t1,θ

t2,θ

t3,…,θ

tk]t,t表示轉置。假設我們在使用omp等恢復演算法恢復過程中選擇a的k列並非θk1所對應的k列,即相當於有另外一種線性組合k2=y,其中θk2 分別在r1,r2,…,rk共k個位置不為零,大小為θ

r1,θ

r2,θ

r3,…,θ

rk,則

其中ar由a中的序號為r1,r2,…,rk的k列組成:ar = [ar1,ar2,ar3,…,ark],而θr是由θ

r1,θ

r2,θ

r3,…,θ

rk組成的列向量:θr= [θ

r1,θ

r2,θ

r3,…,θ

rk]t,t表示轉置。這意味著k1=k2(也可以表示為atθt=arθr),即a(θk1-θk2)=0。前面我們說了向量(θk1-θk2)的稀疏度最大不超過2k,並且感測矩陣a至少任意2k列不相關(任意2k列不相關的意思是任意2k列的線性組合都不為零,當然任意少於2k列的線性組合也不為零),這與a(θk1-θk2)=0矛盾。所以在感測矩陣a滿足至少任意2k列不相關的前提下,通過omp演算法恢復出的θ是唯一的。

最後我們回過頭來看這個問題,實際上本質就是只要保證從θy的對映是一對一的,那麼由某乙個y只能恢復得到某乙個θ,justbecause they are one-to-one。

在文獻[joel a. tropp and anna c.gilbert . signal recovery from random measurements via orthogonal matchingpursuit[j]. ieee transactions on information theory, vol. 53, no. 12, december2007.]中也有類似的證明,有興趣的可以看一下,注意裡面的符號與本文符號的區別即可。裡面提到(n≥2m),換成本文符號即為(m≥2k),這個很容易理解,要保證感測矩陣a(m×n矩陣)的任意2k列不相關,即任意取出a的2k列組成乙個矩陣a2k是列滿秩的。若列滿秩,則列的個數必然要大於行的個數,所以(m≥2k)。

正交匹配追蹤 OMP 演算法原理分析

小序 最近研究omp貪婪迭代演算法找了rachel zhang的一篇部落格 壓縮感知 之 hello world 裡面講到了作者對omp演算法的理解,看完之後有所啟發但是有些地方依然不理解,畢竟大牛作者不喜說的很詳細,菜鳥看不懂也很常見,所以自己查了一些資料,這裡做個更詳細的分析,僅供菜鳥分享。另外...

為什麼說合數它一定能夠被某個素數整除

合數它一定能夠被某個素數整除,合數就是這樣定義的 能夠被除1和本身以外的整數整除的數叫做合數。證明 按照合數的定義,乙個合數m 一定能被某個整數n整除,假設商是p,那麼 m n p,n和p顯然都比m小 如果n和p至少有乙個是質數,那麼結論就得到證明 如果n和p都不是質數,還是合數,那麼n一定可以再分...

Docker 為什麼一定要sudo

這個sudo真是煩死人了,每次都要sudosudo,覺得浪費了我大量的時間。但是,當我學習到如何到如何可以不sudo 為什麼要sudo之後,還是覺得sudo好一些吧,於是最後選擇加乙個環境變數,來節約時間。參考文章中給出了幾個非常高水平的處理辦法,我很喜歡,以後來學。1.如何免sudo實現docke...