啟發:
由上次關於凸函式上境圖的刻畫可以得到乙個描述f(凸函式)的一種方式。即,令 f∗
= 也就是說,h對應於那些包含ep
if的半空間對應的超平面。那麼,h(
x)≤f
(x) 當且僅當 μ∗
≥sup
. 那麼,f
∗ 是如下定義的f∗
的上境圖: f∗
(x∗)
=supx
定義:f∗
稱為f的對偶函式(conjugate)。f∗
實際上可以看成函式 g(
x∗)=x∗
>−μ
,(x,
μ)∈e
pif
的逐點上確界。所以f∗
是凸函式,事實上f∗
也是閉的。
對偶地來看,由於
f 是 h(
x)=x∗
>−μ
∗,(x
∗,μ∗
)∈f∗
=epi
f∗的逐點上確界,所以 f(
x)=supx
綜合上面的討論,我們有:
定理1.設
f 是乙個凸函式, 那麼
f的對偶函式f∗
是乙個閉的凸函式,且 (c
lf)∗
=f∗,
f∗∗=
clf
注意到:對任意的凸函式,我們有,
(fenchel 不等式)
x∗>≤f(
x)+f
∗(x∗
) 定理2.設
h 是rn
上的乙個凸函式,令f(
x)=h
(a(x
−a))
+a∗>+α
,其中a 是rn
到rn 的乙個一對一的線性對映,那麼: f∗
(x∗)
=h∗(
a∗−1
(x∗−
a∗))
+,a>+α
∗ 其中
a∗是
a 的伴隨變換(adjoint),α∗
=−α−
a∗>
證明:直接計算。
拉格朗日對偶函式 拉格朗日對偶問題
前段時間學了拉格朗日乘子法,學會了構造拉格朗日函式,也就是學會了把帶約束 等式或不等式 的優化問題轉化為無約束優化問題,私以為這部分就學完了到此為止了,沒想到今天推導svm的數學模型,要推原問題的對偶問題,愣是艱難地卡了大半天,一直沒明白對偶問題的含義,原來拉格朗日函式得到以後還要進一步往下推出拉格...
偶函式性質的推廣
如果函式 f x 為偶函式,則其必然滿足,f x f x 且有 f x f x f x f x 0 其實在涉及偶函式的考查中,用到最多見的變形是使用 f x f x f x f x 0 已知函式 y f x e x e 求解不等式 f x f 2 x 中 x 的取值範圍。法1 分類討論,很繁瑣的思路...
凸函式及其性質
上世紀70年代新的數學分支 凸分析 的出現,打破了分析數學中 線性 和 非線性 這樣乙個經典的卻又是極不對稱的分劃格局,使得過去相當一部分非線性的內容 即 凸 內容 能夠象線性分析那樣優美地得到高度統一的處理。一切理論和應用的非線性數學問題都朝著 凸 靠近,早已經構成數學和應用數學的重要思想。由於凸...