壓縮感知入門(1)
科學松鼠會壓縮感知科普文章兩篇:「壓縮感知與單畫素相機(陶哲軒)」「填補空白:用數學方法將低解析度影象變成高解析度影象(jordan ellenberg)"
1、壓縮感知與單畫素相機(陶哲軒,terence tao)
觀後感:壓縮感知的提出是有意改變傳統的資訊採集中需要基於奈奎斯特原則的採集方式。文章以照相機影象採集為例,乙個200萬畫素點的亮度採集,假設影象資訊在小波變換上有大量的低值點(可認為無意義濾除),則只需要採集剩下的較少部分的有意義的點即可完成重構影象的任務。
重點在於:相機本身並不能事先預知那些點是有意義的,所以引入了壓縮感知理論,如果相機能夠事先感知到那些點是有意義的,那麼在資訊採集時直接採集這些有意義的點即可完成影象收集!
文章中的疑問段:就是用非小波的演算法來做30萬個測量——儘管我前面確實講過小波演算法是觀察和壓縮影象的最佳手段。實際上最好的測量其實應該是(偽)隨機測量——比如說隨機生成30萬個「濾鏡」影象並測量真實影象與每個濾鏡的相關程度。這樣,影象與濾鏡之間的這些測量結果(也就是「相關性」)很有可能是非常小非常隨機的。但是——這是關鍵所在——構成影象的2百萬種可能的小波函式會在這些隨機的濾鏡的測量下生成自己特有的「特徵」,它們每乙個都會與某一些濾鏡成正相關,與另一些濾鏡成負相關,但是與更多的濾鏡不相關。可是(在極大的概率下)2百萬個特徵都各不相同;更有甚者,其中任意十萬個的線性組合仍然是各不相同的(以線性代數的觀點來看,這是因為乙個30萬維線性子空間中任意兩個10萬維的子空間極有可能互不相交)。因此,基本上是有可能從這30萬個隨機資料中恢復影象的(至少是恢復影象中的10萬個主要細節)。簡而言之,我們是在討論乙個雜湊函式的線性代數版本。
文章中給出的解決辦法:
•匹配追蹤:找到乙個其標記看上去與收集到的資料相關的小波;在資料中去除這個標記的所有印跡;不斷重複直到我們能用小波標記「解釋」收集到的所有資料。
• 基追蹤(又名l1模最小化):在所有與錄得資料匹配的小波組合中,找到乙個「最稀疏的」,也就是其中所有係數的絕對值總和越小越好。(這種最小化的結果趨向於迫使絕大多數係數都消失了。)這種最小化演算法可以利用單純形法之類的凸規劃演算法,在合理的時間內計算出來。
2、填補空白:用數學方法將低解析度影象變成高解析度影象(jordan ellenberg)
原文摘選:
壓縮感知的概念就是為了解決這樣的矛盾而產生的。既然採集資料之後反正要壓縮掉其中的冗餘度,而這個壓縮過程又相對來說比較困難,那麼我們為什麼不直接「採集」壓縮後的資料?這樣採集的任務要輕得多,而且還省去了壓縮的麻煩。這就是所謂的「壓縮感知」,也就是說,直接感知壓縮了的資訊。
如果要想採集很少一部分資料並且指望從這些少量資料中「解壓縮」出大量資訊,就需要保證:第一:這些少量的採集到的資料報含了原訊號的全域性資訊,第二:存在一種演算法能夠從這些少量的資料中還原出原先的資訊來。
第一件事情在所研究的場合往往是自動得到滿足的。
第二件事就要歸功於陶哲軒和坎戴的工作了。他們的工作指出,如果假定訊號(無論是影象還是聲音還是其他別的種類的訊號)滿足某種特定的「稀疏性」,那麼從這些少量的測量資料中,確實有可能還原出原始的較大的訊號來,其中所需要的計算部分是乙個複雜的迭代優化過程,即所謂的
「l1-最小化」演算法。
尋找那個唯一正確的表示方式的關鍵在於一種叫稀疏度的概念。所謂稀疏度,是描述影象的複雜性或者其中所缺的一種數學方法。一幅由少數幾個簡單、可理解的元素(例如色塊或者波浪線構成的)是稀疏的;滿屏隨機、散亂的點陣則不是稀疏的。原來在無限多的可能性中,最簡單、最稀疏的那幅影象往往就是正解,至少很接近正解。
怎樣進行數字運算,才能快速獲得最稀疏的影象!!!答案:使用l1-最小化演算法!
乙個有趣的例子:這是因為每乙個有趣的訊號都是稀疏的,只要你能夠正確定義它的稀疏性。例如,鋼琴和弦的樂音是一小組不超過五個純音符的組合。在所演奏的音訊中,只有少部分頻率包含有效的**資訊,而其餘大部分頻段是一片無聲地帶。因此,你可以用壓縮感知技術從「欠取樣」的老舊唱片中重建出當時的樂章,而不用擔心失去了由特定頻率構成的聲波的資訊。只需要你手頭的材料,就可以用l1範數極小化法以稀疏方式填補空白,從而獲得與原音一般無二的旋律。
壓縮感知簡介
nyquist取樣定理 夏農取樣定理 指出,取樣速率達到訊號頻寬的兩倍以上時,才能由取樣訊號精確重建原始訊號。可見,頻寬是nyquist 取樣定理對取樣的本質要求。然而隨著人們對資訊需求量的增加,攜帶資訊的訊號頻寬越來越寬,以此為基礎的訊號處理框架要求的取樣速率和處理速度也越來越高。解決這些壓力常見...
壓縮感知介紹
說明 本文是根據壓縮感知討論群裡面 180291507感興趣的同學可以加下,裡面大牛很多,大家加入到那個群裡面去,你會從裡面的大神那裡學習到不少東西的。的大牛ammy講解整理的 最初的壓縮感知是由candes donoho他們提出來的問題 最初壓縮感知那幾篇文章裡的模型 y x 模型一 都是從純數學...
壓縮感知 CS
壓縮感知 稍加思量就會發現,這種壓縮和解壓縮的不對稱性正好同人們的需求是相反的。在大多數情況下,採集並處理資料的裝置,往往是廉價 省電 計算能力較低的便攜裝置,例如 或者錄音筆 或者遙控監視器等等。而負責處理 即解壓縮 資訊的過程卻反而往往在大型計算機上進行,它有更高的計算能力,也常常沒有便攜和省電...