構造拉格朗日\(l(x, a, b)=f(x)+ag(x)+bh(x)\), 其中\(a>=0\), \(g(x)<=0\), \(h(x)=0\)
我們要求的是\(minf(x)\), 現在就是見證奇蹟的時刻了
除此之外, 因為不等式約束滿足了kkt(要求h(x)=0, a(g(x))=0), 所有有這個結論, \(min_xmax_al(x, a, b)=max_amin_xl(x, a, b)=minf(x)\), 現在來推一遍
所以在進一步的, \(max_amin_xl(x, a, b)=min_x(f(x))+max_amin_x(ag(x))=min_x(f(x))+max_a(0)=min_x(f(x))\)得到kkt結論
以上就是對偶式推導(svm需要對偶式, 如果不適用求解困難)
## 作用
+ 將原始的問題轉換成可以使用smo演算法的形式, 使用smo演算法求解方程posted @
2018-11-25 17:51
andrew_chan 閱讀(
...)
編輯收藏
拉格朗日乘數法
在求取有約束條件的優化問題時，拉格朗日乘子法 lagrange multiplier 和kkt條件是非常重要的兩個求取方法，對於等式約束的優化問題，可以應用拉格朗日乘子法去求取最優值 如果含有不等式約束，可以應用kkt條件去求取。當然，這兩個方法求得的結果只是必要條件，只有當是凸函式的情況下，才能保...
拉格朗日乘數法
在求取有約束條件的優化問題時，拉格朗日乘子法 lagrange multiplier 和kkt條件是非常重要的兩個求取方法，對於等式約束的優化問題，可以應用拉格朗日乘子法去求取最優值 如果含有不等式約束，可以應用kkt條件去求取。當然，這兩個方法求得的結果只是必要條件，只有當是凸函式的情況下，才能保...
拉格朗日乘數法
在求取有約束條件的優化問題時，拉格朗日乘子法 lagrange multiplier 和kkt條件是非常重要的兩個求取方法，對於等式約束的優化問題，可以應用拉格朗日乘子法去求取最優值 如果含有不等式約束，可以應用kkt條件去求取。當然，這兩個方法求得的結果只是必要條件，只有當是凸函式的情況下，才能保...