機器學習訓練營

邏輯回歸（logistic regression，簡稱lr）雖然其中帶有"回歸"兩個字，但邏輯回歸其實是乙個分類模型，並且廣泛應用於各個領域之中。雖然現在深度學習相對於這些傳統方法更為火熱，但實則這些傳統方法由於其獨特的優勢依然廣泛應用於各個領域中。

而對於邏輯回歸而且，最為突出的兩點就是其模型簡單和模型的可解釋性強。

邏輯回歸模型的優劣勢:

優點：實現簡單，易於理解和實現；計算代價不高，速度很快，儲存資源低；

缺點：容易欠擬合，分類精度可能不高

線性回歸+sigmoid函式=邏輯回歸

線性回歸是做回歸的，邏輯回歸是做分類的。

線性回歸是用最小二乘法求解引數，邏輯回歸是用梯度上公升法求解引數。

損失函式（loss function）或代價函式（cost function）是將隨機事件或其有關隨機變數的取值對映為非負實數以表示該隨機事件的「風險」或「損失」的函式。在應用中，損失函式通常作為學習準則與優化問題相聯絡，即通過最小化損失函式求解和評估模型。