首先說一下兩者的關係，壓縮感知是一種解決欠取樣問題的取樣理論，在2023年提出，是奈奎斯特取樣定理的公升級版。臨近點運算元是解決壓縮感知問題的核心引擎，另外需要引出臨近梯度下降法，是梯度下降法的一種次梯度版本。本文主題將包括：
臨近點梯度下降法（pgd）可以用於求解如下問題：
min f
(x)+
g(x)
\min f(x)+g(x)
minf(x
)+g(
x)其中f
ff是光滑的，g
gg是凸函式。pgd的迭代形式為：
x k+
1=pr
oxλk
g(xk
−λk∇
f(xk
))
x^=prox_(x^k-\lambda^k\nabla f(x^k))
xk+1=p
roxλ
kg(
xk−λ
k∇f(
xk))
pgd的收斂速度為o(1
/k
)o(1/k)
o(1/k)
，當∇
f\nabla f
∇f以常數l
ll lipschitz連續。
在壓縮感知問題中，f(x
)=ax
−b
f(x)=ax-b
f(x)=a
x−b，g(x
)=γ∥
x∥
1g(x)=\gamma\|x\|_1
g(x)=γ
∥x∥1
，其中a∈r
m×
na\in r^
a∈rm×n
，γ
>
0\gamma>0
γ>
0於是pgd為：
x k+
1=pr
oxλk
γ∥⋅∥
1(xk
−λka
t(ax
k−b)
)x^=prox_(x^k-\lambda^ka^t(ax^k-b))
xk+1=p
roxλ
kγ∥⋅
∥1
(xk−
λkat
(axk
−b))
取樣與壓縮感知
光學基礎知識大講堂 第11期 取樣與壓縮感知 日常生活中，我們通常會遇到這樣的情況，當你看乙個電風扇，剛開始你能分辨得出轉動的方向，速度達到一定程度的時候你已經分辨不出來了，甚至會產生錯覺，似乎扇葉在倒著轉！圖1 風扇轉動 於網路 其實，這就是取樣的問題。在前面全息技術那一期中也有提到過人眼的視覺滯...
稀疏表示與壓縮感知
最近在看機器學習時，看到一章關於稀疏學習的，之前有了解過稀疏表示與壓縮感知，但是兩者之間的差異並不是很清楚，今天就總結一下吧 稀疏表示 稀疏域模型 sparse land model 即訊號的稀疏表示，它意欲用盡可能少的非0係數表示訊號的主要資訊，從而簡化訊號處理問題的求解過程。稀疏域模型可如表示式...
稀疏學習與壓縮感知
當樣本資料為稀疏矩陣時，對學習任務有不少好處 稀疏矩陣 矩陣的 每一行 列都包含大量的零元素，且這些零元素沒有出現在同一行 列中。非零元素遠小於零元素 字典學習 側重於為普通稠密表達的樣本找到乙個合適的矩陣 稀疏表示 將樣本轉化為合適的稀釋表示形式，從而使學習任務變得簡單 壓縮感知在前些年也是風風火...