logistics回歸讓人最搞不懂的是，明明名字裡面帶了個回歸兩個字，為什麼這是一種分類演算法呢？
說到回歸大家想到的都是根據一些點得出一條直線或者曲線。的確logistics回歸也是得出一條直線，然後如果這個點在這條線的一邊比如說上面屬於乙個類別，另乙個點處於這條線的另一邊比如說下邊則屬於另乙個類別。
這條直線是怎麼得出的呢？
首先假設所有的輸入為（x0,x1....xn），輸入前面的係數為（w0,w1...wn），輸出為y
我們可以得出y=w0*x0+w1*x1...wn*xn
然後將係數（w0,w1..wn）取隨機值。然後開始訓練網路。訓練的演算法叫做梯度上公升演算法
根據y=w0*x0+w1*x1...wn*xn，我們可以對所有輸入（x0,x1...xn）求導即是求梯度。
這個公式什麼意思呢？學過微積分的同學都知道，問題是像我這種沒學好的就放放吧。大家只要知道能通過將矩陣轉一下就能得到，轉一下的意思在下面
假設datamatin=array([[3,3],[4,4]])
那麼datamatin的梯度就是datamatin.transpose() => array([[3,4],[3,4]])
然後就完成了。
繼續講如何訓練的，我們還需要計算期望結果和輸出的差error以及假設乙個步長a，步長a是根據經驗來決定的，步長太短很可能訓練了很久還沒找到最適合的值，步長太長就能難準確地到達合適的值。
然後我們的新的w=w+a*array(x0,x1...xn)*error
一般設定迴圈多少次然後停止或者當error小於多少值得時候演算法停止
最後我們還要將y輸入高階躍函式來完成分類。不過由於階躍函式在零點沒有值所以有各種各樣的麻煩，所以換成sigmoid函式，當<0.5時等於0，當 >0.5時等於1
Logistics回歸綜述
其實，logistics回歸是從最簡單的線性回歸裡面發展出來的，它是廣義線性回歸的一種。本文將遵循正常人的思維方式，一步一步揭示logistics回歸神秘的面紗。在講廣義線性回歸之前，我們先來回歸一下什麼是線性回歸，定義如下。那麼如何確定引數w和b呢？我們通常用得是最小二乘法，也就是基於均方誤差最小...
Logistics回歸係數解讀
logistic回歸雖然名字叫 回歸 但卻是一種分類學習方法。使用場景大概有兩個 第一用來 第二尋找因變數的影響因素。線性回歸和logistic回歸都是廣義線性模型的特例。假設有乙個因變數y和一組自變數x1,x2,x3,xn，其中y為連續變數，我們可以擬合乙個線性方程 y 0 1x1 2x2 3x3...
R中logistics回歸分析以及K CV
k倍交叉驗證是對模型的效能進行評估，可以用來防止過擬合，比如對決策樹節點數目的確定或是回歸模型引數個數地決定等情況。1.對於一些特殊資料來說，在呼叫glm 方法時候，會出現兩種常見錯誤 warning glm.fit algorithm did not converge warning glm.fi...