影象:
定義:設x1
'>x1
x1和x
2'>x2
x2為函式f(x)定義域內的任意兩個實數,且x
1'>x1
x1 < t
2'>x2
x2,恒有: x1
'>x
2'>x
1'>x
2'>
則稱f(x) 是定義域上的凸函式。
判定:
凸函式的判定:
f(x) 在區間[a,b]上連續,在(a,b)內二階可導,那麼:
一階判定條件: 設f(x)在凸集s上具有一階連續偏導數,則f(x)為s上凸函式的充分必要條件是,對s中任意兩點x
1'>x1和x2
'>
x2,恒有: x1
'>
這個函式叫做一階近似對於函式f。直觀地,可以認為是用點x的切線來估計f。通俗說,如果拿我們的函式,在任何點畫一條切線,然後在這條線上的每個點對應的函式值,都將小於在函式f上的值,如圖所示:
解析上圖:點(x,f(x))是凸函式上對應的點,設切線對應的函式為h(x), 斜率為a,則h(x)=f(x),h(y)=f(x)+a*(y-x) ,因為斜率a=(h(y)-h(x))/(y-x),跟梯度上公升有點像。
很簡單,如果乙個函式的二階導數大於等於零,那麼這個函式就是凸函式。圖就不上了,很好理解,函式的一階導數具有遞增性,那麼函式本身就是凸函式。
通過暴力計算法,可以很快地判斷函式是不是凸函式。凹函式同理。
凸優化:
之所以要區分凸優化問題和非凸的問題原因在於凸優化問題中區域性最優解同時也是全域性最優解,這個特性使凸優化問題在一定意義上更易於解決,而一般的非凸最優化問題相比之下更難解決。
非凸優化問題如何轉化為凸優化問題的方法:
1. 修改目標函式,使之轉化為凸函式
2. 拋棄一些約束條件,使新的可行域為凸集並且包含原可行域
原文:
凸優化 最優化 凸集 凸函式
原文 我們知道壓縮感知主要有三個東西 訊號的稀疏性,測量矩陣的設計,重建演算法的設計。那麼,在重建演算法中,如何對問題建立數學模型並求解,這就涉及到了最優化或凸優化的相關知識。在壓縮感知中,大部分情況下都轉換為凸優化問題,並通過最優化方法來求解,因此了解相關知識就顯得尤為重要了。主要內容 問題引出 ...
凸優化筆記 三 凸函式
1 若函式f rn r 是凸的,有個很重要的前提,do mf是凸集。2 函式是凸的,當且僅當其在與其定義域相交的任何直線上都是凸的?直線x tv與dom f 相交,且f x tv 是凸的,為什麼能證明f x 是凸的?3 拓展值延伸,起到自動定義定義域的作用,引出示性函式。4 一階條件,f 可微是由梯...
《凸優化》筆記(二) 凸函式
筆記是根據 convex optimization 寫的,對應第3章。3 凸函式 3.1 基本性質及例子 滿足如下條件的從n維對映到1維的函式稱凸函式 f x 1 y f x 1 f y f x 1 y f x 1 f y 其中0 10 1。凸函式的一維導數有如下性質 f y f x f x t y...