仿射集（affine sets）：如果乙個集合c∈r是仿射的，則在c中兩點的直線也在c中，若x1∈c,x2∈c,則x=θx1+(1−θ)x2 ∈c,θ∈r，例如ax=b的解集就是乙個仿射集。
凸集：如果集合c∈r是凸集，如果c中兩點間的線段也在c中，即x=θx1+(1−θ)x2 ∈c,θ∈[0,1] 。注意θ 取值範圍的不同。
凸集和仿射集區別：θ 取值範圍
注：所有仿射集都是凸的，因為它包含集合中任意不同點的所有直線
仿射集：若通過集合c中任意兩個不同點的直線仍在集合c內，則稱集合c為仿射集。
凸函式定義
如果「函式f上任意兩點的連線」在「函式f這兩點之間函式f影象」的上面的話，這樣的函式就是凸函式。
或者簡單的說：如果懸線在函式上方，那這樣的函式就是凸函式。
任何線性規劃的可行域都是凸集，線性函式即是凸函式也是凹函式，凸函式+凸函式為凸函式。
什麼是範數？
總的來說，範數的本質是距離，存在的意義是為了實現比較。比如，在一維實數集合中，我們隨便取兩個點4和9，我們知道9比4大，但是到了二維實數空間中，取兩個點（1，1）和（0，3），這個時候我們就沒辦法比較它們之間的大小，因為它們不是可以比較的實數，於是我們引入範數這個概念，把我們的（1，1）和（0，3）通過範數分別對映到實數根號2和 3 ，這樣我們就比較這兩個點了。所以你可以看到，範數它其實是乙個函式，它把不能比較的向量轉換成可以比較的實數。
在上面的例子裡，我們用的範數是平方求和然後再開方，範數還有很多其他的型別，這個就要看具體的定義了，理論上我們也可以把範數定義為只比較x軸上數字的絕對值。
簡單來說，正則化是一種為了減小測試誤差的行為(有時候會增加訓練誤差)。我們在構造機器學習模型時，最終目的是讓模型在面對新資料的時候，可以有很好的表現。當你用比較複雜的模型比如神經網路，去擬合資料時，很容易出現過擬合現象(訓練集表現很好，測試集表現較差)，這會導致模型的泛化能力下降，這時候，我們就需要使用正則化，降低模型的複雜度。
運籌學狀態轉移方程例子 《運籌學》讀書筆記
一運籌學緒論 operations research o.r 運籌學是一門應用科學，它廣泛應用現有的科學技術知 識和數學方法，解決實際中提出的專門問題，為決策者提供 最優決策的定量方法。特點 考慮系統的整體優化 多學科的配合以及模型方法的應用。發展歷史 1 田忌賽馬 丁渭修皇宮 2 1938年英國波...
初識運籌學
運籌學的基本概括圖如下 凡事預則立，不預則廢 可見預見的重要作用。就其應用方法來說 分為 定性 定量 由於社會活動的複雜性，至今還沒有找到乙個 方法能使管理人員滿意的 精度，但是因為管理然預案每天都要進行決策，因此他們總要努力滴去手機所能得到的，並非理想 資料區 未來的不確定事件 有了 才能更好的進...
運籌學總結
一 思維導圖 二 內容的認識和記錄 1 凡事預則立，不預則廢 2 決策 狹義 對一些可供選擇的方案做出抉擇。廣義 和管理相近，包括四個程式 明確決策專案的目的，尋求可行的方案，在可行方案中抉擇，對選定的決策方案進過實施後的結果總結評價。3 庫存管理 為保障生產，對倉庫物資的管理，使之達到平衡，減少浪...