應用舉例:
主成分分析pca
推薦系統
測度論隨機變數x的特徵函式
凸優化問題
優化問題的目標函式及限制條件均為凸函式。
區域性最優問題等價於全域性最優。
凸優化問題求解工具(cvx等)。
凸集合集合中兩點的連線均在集合內
凸函式(與高數中的凸函式相反)
常見的:
凸組合凸閉包
凸集合保凸運算
任意多個凸集合的交集仍是凸集合
凸集合的線性對映仍是凸集合
共軛函式 f*
拉格朗日對偶函式
為什麼研究拉格朗日對偶函式?
對偶函式為原問題提供下界,無論原函式如何,拉格朗日對偶函式總為凹函式
幾乎所有的凸優化問題都滿足強對偶性
slater條件
機器學習中的數學
從大學到現在,課堂上學的和自學的數學其實不算少了,可是在研究的過程中總是發現需要補充新的數學知識。learning和vision都是很多種數學的交匯場。看著不同的理論體系的交匯,對於乙個researcher來說,往往是非常exciting的enjoyable的事情。不過,這也代表著要充分了解這個領域...
機器學習中的數學
二 第二課時 1 極限 通俗語言 函式f在 x 0 處的極限是l 數學符號 lim f x l 無窮如何比較大小呢?如x趨近0的時候,sin x 和 tan x 同樣都趨近0,哪個趨近0的速度更快呢?我們可以採用求商的極限來求解 lim sin x tan x lim cos x 1 所以是同樣級別...
應用數學與機器學習基礎
線性代數的知識 1 標量 令x屬於 r 表示一條線的斜率,小寫斜體表示,會表明他屬於是哪種型別 2 向量 s 指定x1,x3 和x6,表示為xs,x s 表示x 中除x1,x3,x6 外所有元素構成的向量。3 矩陣 矩陣值表示式的索引 f a i j 表示函式f 作用在a 上輸出的矩陣的第i 行第j...