首先,在現實生活中,如果對實際問題進行建模,直接符合凸優化條件的問題很少很少,少的可憐,我們在機器學習中、深度學習中所謂的模型正好符合凸優化模型的情況是經過無數先輩幾十年的沉澱轉化而來的,現今的機器學習、深度學習,所謂的智慧型,其實也只是資料進行建模,knn、貝葉斯、決策樹、svm做超平面分隔、k聚簇等等只是在使用統計學的方法來做決策,其實只是概率(對已發生事件的頻率統計)選擇來進行決策而已,而解決這些問題的過程當中,存在著無數約束條件:等式+不等式。求解ƒ(x),使得等式+不等式符合條件,經過先輩們的改善、切合,發現轉化為凸優化可以解決這類問題。但是還有著大量的問題沒法解決,例如np問題,目前是無解的,因為它涉及的約束條件、可能性太多,計算過於複雜。我們沒法直接將它轉化為凸優化。
其次,凸優化的重要在於它是乙個相對而言被嚼爛的資料模型,對凸優化的問題我們在基礎數學上面已經有了很多解決方法,例如可以將凸優化問題lagerange做對偶化,然後用newton、梯度下降演算法求解等等。再次,現有的優化方法不是都解決了的,還是有很多問題是沒有解決的,例如np問題,如果轉化為可解問題,如何對這些問題做近似優化處理,這就需要遇到具體問題的時候具體去分析,而且建立乙個近似可解的優化模型需要我們對優化本身理解透徹。乙個對水墨、顏料都不懂的畫家如何能夠創造出新穎的畫風?
字幕翻譯github專案
史丹福大學凸優化課程筆記 0
首先,在現實生活中,如果對實際問題進行建模,直接符合凸優化條件的問題很少很少,少的可憐,我們在機器學習中 深度學習中所謂的模型正好符合凸優化模型的情況是經過無數先輩幾十年的沉澱轉化而來的,現今的機器學習 深度學習,所謂的智慧型,其實也只是資料進行建模,knn 貝葉斯 決策樹 svm做超平面分隔 k聚...
史丹福大學與矽谷
1951年,史丹福大學的工程學院院長弗雷德里克 特曼 frederick terman 決定創辦在校園創辦工業園區,將校園的土地租給當時的高科技公司使用,就被認為是這樣乙個瞬間。這一決定不僅奠定了矽谷的基礎,也徹底改變了史丹福大學的格局,他本人也因此被尊稱為 矽谷之父 史丹福大學物理系沈志勳教授,s...
史丹福大學開放課程 程式設計正規化學習筆記《二》
史丹福大學開放課程 程式設計正規化學習筆記 二 本課講述了c c 關於int,float等資料的底層表示,以及賦值操作所進行的處理。本節內容比較簡單,應該屬於組成原理的基礎知識,各種碼的表示和底層實現,但是,講述還不錯,特別是為何要這樣形成補碼,比單純記憶強多了,這樣才理解了取反加1的原因,比當初上...