2017-10-24
最優化是應用數學的乙個分支，只不過對於計算機系的同學而言其實還是非常重要的。像現在很火的方向，如機器學習、計算機視覺、計算機圖形學、機械人等方向中都有非常基礎的應用，還有機械、物理、生物等，更不用說金融方向的quant。相信很多同學都學過最優化，對於軟體方向的同學應該是四年級的課程。感覺其實有點晚了的，作為三年級課程可能合適些。如果學校沒有教這門課程，那就說明學校為了考慮實際就業問題而放棄了這樣的基礎課程。我悲傷的是我們學校教學計畫上根本沒有這門課程。如果在學校學這麼課程的時候老師就能夠稍微講講，我們自己再研究研究，就知道將來這些知識對於對於將來的哪些工作有用，不必繞圈子走了彎路。我就是吃了這個虧。浪費了這麼多的時間，讓我有些後悔。當初還以為我10年以內只能走web開發路線呢。所以，對於還沒有畢業的同學們而言，一定不要有這樣的後悔，這樣的課程要好好學。
wiki：「現代的計算機科學技術和人工智慧科學把最優化作為乙個重要的領域來研究。我們也可以認為人工智慧的一些演算法，就是模擬了人類尋求實際問題最優解的過程。例如，利用人工智慧方法設計軟體，配合外部的電子裝置例如攝像頭識別人臉；利用資料探勘和神經網路演算法來尋找投資的最佳時機等等」。看起來很高深，在解決真實世界問題時，機器學習的能力很有限，這是受數學限制的。其實，在我們高中的時候就接觸過最為簡單的優化問題：低維的線性優化，我們一般用作圖法幫助解題。作圖法依賴於直覺判斷。對於高維問題，作圖法是無效的。高維空間中，我們依靠直覺得出的結論大多是錯誤的。
等這段時間忙完了，就寫幾篇optimization系列的部落格總結，結合機器學習，用**和例子的方式稍微深度的分析一下這門課程在工程中的應用。
[主頁 ]
最優化理論
最優化 optimization 應用數學的重要研究領域.它是研究在給定約束之下如何尋求某些因素 的量 以使某一 或某些 指標達到最優的一些學科的總稱.由於運籌學中出現的問題大多即是最優化所研究的問題，因此運籌學的許多分支，如數學規劃 組合最優化 排隊論，以及決策論等也是最優化的組成部分.此外，最優...
最優化理論歸納
通俗地說，就是求乙個函式在可行域上的極值。若函式無約束條件則稱為無約束優化 若約束條件為等式則稱為等式約束優化 若約束條件為不等式則稱為不等式約束優化。最優性條件即極值點滿足的條件。一階必要條件 一階導數等於0 二階必要條件 二階導數大於等於零 在單變數的情況下可以採用線搜尋技術，常用方法有兩種 分...
20190602 最優化理論基礎
所謂最優化方法，就是求乙個多元函式在某個給定集合上的極值。min f x s.t.x屬於k k是某個給定的集合 稱為可行集或者是可行域 f x 是定義在集合k上的實值函式，此外，在模型中，x通常稱為決策變數，s.t.是subject to 的縮寫 人們按照可行集的性質對最優化問題，進行乙個大致的分類...