1、若函式f:
rn→r
是凸的,有個很重要的前提,do
mf是凸集。
2、函式是凸的,當且僅當其在與其定義域相交的任何直線上都是凸的?
→ 直線x+
tv與dom
f 相交,且f(
x+tv
) 是凸的,為什麼能證明f(
x)是凸的?
3、拓展值延伸,起到自動定義定義域的作用,引出示性函式。
4、一階條件,
f 可微是由梯度∇f
存在引出。 全域性下估計? f(
y)≥f
(x)+
∇f(x
)t(y
−x),
f(x)
為f在x
附近的泰勒近似。
5、一階凸性條件的證明中,用到了2的結論。
6、一階凸性一般情況的證明,為什麼要用g(
t)≥g
(t˜)
+g′(
t)(t
−t˜)
來證明?
7、二階條件,
f 二階可微由he
ssia
n矩陣或二階導數∇2
f 存在引出。
8、書上幾個典型例子中,he
ssia
n 矩陣的求法要注意。 9、(
y,t)
∈epi
f⇒[∇
f(x)
−1]t
([yt
]−[x
f(x)
])≤0
⇒(∇f
(x),
−1) 向量是支撐ep
if。這個結論是跟全域性下估計有關?其中
t 表示的是≥f
(y) 的值。
10、f(e
x)≤e
f(x)
,e是期望,為什麼這個式子能刻畫凸性? 如果f
不是凸函式,也不是凹函式,可能是其他類函式嗎?如果只能是凸或凹函式的一種,那麼結論就成立。因為若
f不是凸函式,那麼存在隨機變數x,
x∈do
mf以概率1發生,使得f(
ex)>ef
(x) .
11、凸性和je
nsen
不等式可構成不等式理論的基礎。
12、逐點最大性質,可擴充套件到無限個凸函式的逐點上確界,這裡的「無限個」用f(
x,y)
y∈a 表示。
13、書中例3.9中的解析最小值是怎麼得到的?
14、擴充套件值延伸的非增、非減,滿足無限延伸的條件。
15、最小化:g(
θx1+
(1−θ
)x2)
=inf
y∈cf
(θx1
+(1−
θ)x2
,y)≤
f(θx
1+(1
−θ)x
2,θy
1+(1
−θ)y
2) →
?≤θf
(x1,
y1)+
(1−θ
)f(x
2y2)
≤θg(
x1)+
(1−θ
)g(x
2)+ϵ
。 16、指數和的對數函式的共軛函式是概率單純性內的負熵函式。
17、擬凸函式是用在區域性優化上?擬凸性是凸性的重要擴充套件。
18、擬凸的充要條件跟凸函式的一階條件相似。f(
x)≤f
(y)⇒
∇f(x
)t(y
−x)≤
0 19、例3.31中,注意do
mf=r
2+,所以f是擬凸函式。也就是定義中有個α∈
r ,是在do
mf之內的。
20、y∈r
n,x∈
domf
由yt∇
f(x)
=0⇒y
t∇2y
≥0,是由反證法得到的?
21、為什麼例3.21說明∇2
f(x)
在(n-1)維子空間∇f
2 上半正定的,即∇2
f(x)
最多只有乙個負特徵值。
22、如果函式
h 是凸函式,則eh
是凸函式,對數凸函式也是凸函式。
補18:為什麼其他書上有這樣的擬凸函式定義:
0<
θ<1,
f(θx
1+(1
−θ)x
2)x ,與書中定義等價?圖3.10中有提到上面的那句話,不過是在r上才成立。
→ 現在來看,下水平集的定義更寬泛,畢竟取α=
max 也成立。
23、一些常用的概率密度函式是對數-凹函式。
《凸優化》筆記(二) 凸函式
筆記是根據 convex optimization 寫的,對應第3章。3 凸函式 3.1 基本性質及例子 滿足如下條件的從n維對映到1維的函式稱凸函式 f x 1 y f x 1 f y f x 1 y f x 1 f y 其中0 10 1。凸函式的一維導數有如下性質 f y f x f x t y...
凸優化 最優化 凸集 凸函式
原文 我們知道壓縮感知主要有三個東西 訊號的稀疏性,測量矩陣的設計,重建演算法的設計。那麼,在重建演算法中,如何對問題建立數學模型並求解,這就涉及到了最優化或凸優化的相關知識。在壓縮感知中,大部分情況下都轉換為凸優化問題,並通過最優化方法來求解,因此了解相關知識就顯得尤為重要了。主要內容 問題引出 ...
凸函式與凸優化 轉
影象 定義 設x1 x1 x1和x 2 x2 x2為函式f x 定義域內的任意兩個實數,且x 1 x1 x1 t 2 x2 x2,恒有 x1 x 2 x 1 x 2 則稱f x 是定義域上的凸函式。判定 凸函式的判定 f x 在區間 a,b 上連續,在 a,b 內二階可導,那麼 一階判定條件 設f ...