在讀周志華的large margin distribution machine一文時看到的。
下面先簡單回顧svm，然後直接講ldm，接著說看到的那個證明。其實也沒啥。。
一言以蔽之，給定iid分布訓練集s，svm的假設函式是乙個線性模型f(
x)=w
t ϕ(
x)當然，這裡的線性是乙個廣義的說法，也就是考慮了kernel的。(1)式給出函式間隔。
硬間隔svm
軟間隔svm
(2)式可以改寫成下式，其中γ
0 看成是mean of the margin吧。。
svm可以視作ldm的特殊情況，因為ldm要求maximize margin mean&minimize margin variance
目標函式就成了下面（同樣有軟硬間隔）：
軟間隔展開成(6)，也就是目標函式了：
然後要證明乙個定理：最佳係數向量w∗
可由x 或者ϕ(
xi)
線性表出
證明方法很巧妙，類似一種反證法的思想，值得學習，這裡直接貼了：
乙個難看的證明和乙個漂亮的證明
matrix67.com 北大出的那本 離散數學教程 是我所見過的最破的教材，裡面頻繁出現一些諸如假設m和n怎麼怎麼樣結果推出了p和q怎麼怎麼樣的印刷錯誤 在短短三頁紙中，peano 被拼寫錯了四次，而且每次錯的都不一樣。離散數學本身是相當科學的。離散數學中的證明，特別是圖論證明，都是相當有趣的。但...
乙個完美的導航樹
http bbs.xoyo.com forumdisplay.php?fid 4339 target main title 新手入門 高手高階，玩家遊戲經驗的交流區 http bbs.xoyo.com forumdisplay.php?fid 4700 target main title 精彩封神，...
需要乙個證明自己的機會
如果這次沒有找到想要的工作的話，我想我也不會停止學習。工作也好，考試也好，對於目前的我而言，都是急需的鼓勵和證明。也不是證明給別人看，而是給自己乙個交代，給當初的選擇乙個判斷。累了倦了的時候會想，考個博士再回去逍遙幾年算了。可是生活真是由奢入簡難，估計現在過不了不買小熊的生活了。困得腦袋有點兒混，其...