對於凸優化來說,區域性最優就是全域性最優,換句話說,極小值就是最小值。
至於為什麼?這個就是數學證明了,這個要用到凸函式、凸集的定義。
我們可以用反證法來證明。已知x0x0是個區域性最優點,假設在全集ss上存在乙個點x∗x∗,使得
f(x∗)因為f(x)f(x)是凸函式,所以對於任意的tt
f(tx∗+(1−t)x0)≤tf(x∗)+(1−t)f(x0)f(tx∗+(1−t)x0)≤tf(x∗)+(1−t)f(x0)
注意,這個tt是00到11之間的任意值,所以tt可以非常接近00,此時(tx∗+(1−t)x0)(tx∗+(1−t)x0)這個點就可以無限接近x0x0,但是函式在這個點的值又比f(x0)f(x0)小,所以f(x0)f(x0)不可能是區域性最小值。故假設矛盾,因此不存在這樣的x∗x∗。f(x0)f(x0)必定為最小值。
凸優化 最優化 凸集 凸函式
原文 我們知道壓縮感知主要有三個東西 訊號的稀疏性,測量矩陣的設計,重建演算法的設計。那麼,在重建演算法中,如何對問題建立數學模型並求解,這就涉及到了最優化或凸優化的相關知識。在壓縮感知中,大部分情況下都轉換為凸優化問題,並通過最優化方法來求解,因此了解相關知識就顯得尤為重要了。主要內容 問題引出 ...
筆記 最優化方法 凸集
設s en,若對 x 1 x 2 s及 0,1 都有 x 1 1 x 2 s 則稱 s 為凸集。設s 1和s2 是兩個凸集,實數,則 s1 是凸集 s 1 s2 是凸集 s 1 s2 是凸集 s 1 s2 是凸集例 設s d 1,1 t,d 1,1 t 則d d 是s的極方向。解 對 forall ...
最優化 凸集 凸函式
一 凸集 定義 給定乙個集合c rnc rn,滿足下列條件則稱為凸集 x,y c tx 1 t y cx,y c tx 1 t y c 對於任意的 0 t 1 凸集 如果集合a中任意兩個元素的連線上的點也在集合內,則為凸集 二 凸函式 定義 給定對映f rn rf rn r 並且 dom f rn ...