邏輯斯諦回歸學習總結

2021-07-30 09:55:31 字數 754 閱讀 1958

* 邏輯斯諦回歸模型是對數線性模型的推理*

邏輯斯諦分布函式f(x)=p(x

≤ x)=11

+e−(

x−μ)

邏輯斯諦的密度函式是f(x)=f』(x)=e−

(x−μ

)/γγ

(1+e

−(x−

μ)/γ

)2該曲線以點(μ

,12)

為中心對對稱。曲線在中心附近增長速度較快,在兩端增長速度較慢。

γ 的值越小,曲線在中心附近增長得越快。

二項邏輯斯諦回歸模型的條件概率分布:

p(y=1|x)=ex

p(w⋅

x+b)

1+ex

p(w⋅

x+b)

p(y=0|x)=11

+exp

(w⋅x

+b)

乙個事件發生的概率與該事件不發生的概率的比值稱為這個事件的機率(odds),即:

logit(p)=logp1

−p對於邏輯斯諦回歸來說,就是:

logit(p) = logp(

y=1|

x)p(

y=0|

x)=w⋅x

這就是說,在邏輯斯諦回歸模型中,輸出y=1的對數機率是輸入x的線性函式,或者說y=1的對數機率是由輸入x的線性函式表示的模型。

邏輯斯諦回歸

先介紹乙個分布 邏輯斯諦分布。設 x 是連續隨機變數,且 x 具有以下分布函式和概率密度 f x p x leq x frac f x f x frac 其中,mu 是隨機變數的數學期望,lambda 0 是形狀引數。由圖可以看出,邏輯斯諦分布和高斯分布的密度函式長得差不多。特別注意邏輯斯諦分布的概...

邏輯斯諦回歸模型

logistic分布函式形式 在該方程式中,x是隨機變數,是平均值,s是與標準偏差成比例的比例引數。這個方程我們只需要了解,在邏輯回歸模型中真正用到的是sigmoid函式 當上式中的 0,s 1時,即為sigmoid函式 s z 11 e z s z frac s z 1 e z 1 邏輯回歸 lo...

機器學習與資料探勘之邏輯斯諦回歸

機器學習與資料探勘參考文獻 一 二項邏輯斯諦回歸模型 二項邏輯斯諦回歸模型是如下的條件概率分布 這裡,x rn是輸入,y 是輸出,w rn和b r是引數,w稱為權值向量,b稱為偏置,w x為w和x的內積。有時為了方便,將權值向量和輸入向量加以擴充,仍記作w,x,即w w 1 w 2 w n b t,...