常見的凸優化問題包括：線性規劃（lp，linear program），二次規劃（qp，quadratic program），二次約束的二次規劃（qccp，quadratically contrained quadratic program），半正定規劃（sdp，semidefinite program）
凸優化問題（opt，convex optimization problem）指定義在凸集中的凸函式最優化的問題。一般形式為：
其中 f 是乙個凸函式，c是乙個凸集，x是優化變數。
雖然凸優化的條件比較苛刻，但仍然在機器學習引數最優化領域有廣泛的應用。凸優化問題的優勢體現在：
1、凸優化問題的區域性最優解就是全域性最優解
2、很多非凸問題都可以被等價轉化為凸優化問題或者被近似為凸優化問題
3、凸優化問題的研究較為成熟，當乙個具體被歸為乙個凸優化問題，基本可以確定該問題是可被求解的
定義：半定規劃是線性規劃的一種推廣，它是在滿足約束「對稱矩陣的仿射組合半正定」的條件下使線性函式極大（極小）
化的問題。這個約束是非線性、非光滑並且是凸的，因而半定規劃是乙個非光滑凸優化問題。
一組變數（x1,…,xn）受限於線性對稱矩陣不等式，其一般標準形式為：
線性目標，線性約束，向量變元為非負實向量。
sdp： 線性目標，線性約束，對稱矩陣變元且為半定實矩陣。
sdp可視為lp的推廣，lp的向量分量不等式被矩陣不等式代替。根據半定矩陣的定義知，sdp也可視為乙個線性約束的關於變數的無限集的lp，解lp的原始對偶內點法可以推廣到sdp。
lp的可行域為有限個頂點的凸多面體，sdp的可行域為乙個曲面體。
對偶問題與原始問題之間存在著下列關係：
①目標函式對原始問題是極大化，對對偶問題則是極小化。
②原始問題目標函式中的收益係數是對偶問題約束不等式中的右端常數，而原始問題約束不等式中的右端常數則是對偶問題中目標函式的收益係數。
③原始問題和對偶問題的約束不等式的符號方向相反。
④原始問題約束不等式係數矩陣轉置後即為對偶問題的約束不等式的係數矩陣。
⑤原始問題的約束方程數對應於對偶問題的變數數，而原始問題的變數數對應於對偶問題的約束方程數。
⑥對偶問題的對偶問題是原始問題，這一性質被稱為原始和對偶問題的對稱性。
設原始問題為：
min z=cx
s.t. ax <= b
x>= 0
則對偶問題為：
原始-對偶內點法
一、演算法的基本思想：計算乙個關於保持迭代點在半定錐內的乙個輔助障礙問題的每次牛頓迭代步『
二、對數障礙：指遠離邊界。 乙個具有對數障礙項的原始——對偶對如下
三、中心路徑：
四、搜尋方向：
凸集 凸函式 凸優化和凸二次規劃
凸集 集合c內任意兩點間的線段均包含在集合c形成的區域內，則稱集合c為凸集 或參考 凸集 凸函式 凸優化和凸二次規劃 定義1 凸函式影象的上方區域，一定是凸集。定義2 集合c內任意兩點間的線段均包含在集合c形成的區域內，則稱集合c為凸集。凸集 非凸集 例如 保持凸集凸性的運算 1 兩個凸集的和為凸集...
凸優化（一）仿射集與凸集
從這裡開始，為了複習所學知識，也是為了更加深刻地 優化理論中的相關知識，所以將凸優化中的基礎概念做乙個整理，然後形成乙個凸優化系列隨筆。本系列將涉及部分數學推導，強調理論性，所以按需閱讀 能不能通俗地表達出來我就不知道了 凸優化問題通俗地講，是一種優化問題，而且是一種簡單的優化問題 因為生活中大部分...
凸優化問題，凸二次規劃問題QP，凸函式
約束優化問題 凸函式凸優化問題 凸二次規劃問題 約束優化問題 min w f w min w f w s.t.gi w 0 i 1,k 1 s.t.gi w 0 i 1,k 1 hj w 0 j 1,l 2 hj w 0 j 1,l 2 注 這是乙個最小化問題.不等式約束嚴格執行的含義是 小於等於號...