我們從初中開始接觸線性方程，線性關係是變數間最簡單的關係，所以我打算從線性模型入手開始介紹機器學習的基本演算法。廣義線性模型（general linear model,glm）是線性回歸模型的推廣形式，由廣義線性模型可以推導出線性回歸、logistic回歸、softmax回歸等。之前看過的大多數的書籍，包括大家認可度最高的standford cs229課程都是先介紹具體的回歸模型，再抽象得出廣義線性回歸模型，當我按照這樣的學習路線在學習具體的回歸模型的時候，不是很理
有些知識點
解為什麼這樣使用，比如logistic回歸的sigmoid函式，最初接觸的時候原本以為就是人為規定的，沒有過多的追尋其本質**，只是在數學形式上知道了它是怎麼推導的。但是在後來的廣義線性模型中，我才理解了sigmoid函式的由來。我一直認為掌握公式推導只是了解了模型的表達形式，只有理解了模型的**才是真正掌握了模型本身，所以個人覺得在學習線性模型前，有必要對廣義線性模型的形式有乙個了解，這樣在學習具體的回歸模型時，有助於理解模型本身。
廣義線性模型是基於指數分布族的，指數分布族的數學模型如下所示：
其中由指數分布族構建廣義線性模型以以下三個假設為基礎：
1、給定特徵屬性x和引數
2、**
3、以上就是廣義線性模型的定義，目前不需要深究該模型，在之後具體的線性回歸、logistic回歸中我會再詳細介紹這些模型與廣義線性模型的關係。
廣義線性模型
廣義線性模型是線性模型的擴充套件，主要是對非正態因變數的分析 廣義線性擬合的核心是最大似然估計，而不是最小二乘 擬合模型如下 y 0 pj 1 jx j 其中，beta是係數，mu是優勢比的對數，beta係數是對優勢比的影響。通過擬合求得的就是 我們可以通過兩個例子看一下兩種變數 類別型 自變數x ...
廣義線性模型
之前提到過，線性回歸模型有三個限制 響應變數服從正態分佈，響應變數和解釋變數之間服從線性關係，方差不變。其實在構建乙個線性模型的時候，除了上述的兩個要求，我們還需要對解釋變數進行具體的分析，主要有幾點，首先是解釋變數之間的相互作用 interaction 對結果的影響，簡單來說就是模型不僅僅受因素a...
1 1 廣義線性模型
下面介紹的是一組用於回歸的方法，這些方法的目標值是輸入變數的線性組合。用 作為 值。貫穿模組，我們指定向量 為coef 係數 為intercept 截距 要使用廣義線性模型實現分類，詳見logistic回歸。線性回歸擬合以係數 最小化可觀測到的資料的響應與線性模型 的響應的殘差和的平方，用數學公式表...