轉
一是： sigmod 本身的性質。 二是：之所以lr 用sigmod，不是因為lr 選擇了 sigmod ，而是用 指數簇分布和 最大熵原理 推導出來的形式，就是這個樣子，後來起名叫sigmod
sigmoid 函式
上圖為sigmoid函式的形式
選擇sigmoid 的原因想從兩方面來說：
1、 sigmoid 函式自身的性質
sigmoid 函式連續，單調遞增
sigmiod 函式關於（0，0.5） 中心對稱
對sigmoid函式求導
p=ex1+ex
p=ex1+ex
p′=p∗(1−p)
p′=p∗(1−p)
計算sigmoid函式的導數非常的快速
2、指數族
邏輯回歸的損失函式非指數族，形勢為：
p(y;η)=b(y)exp(ηtt(y)−α(η))
p(y;η)=b(y)exp(ηtt(y)−α(η))
邏輯回歸認為函式其概率服從伯努利分布，將其寫成指數族分布的形式，也就是：
t(y)=y
t(y)=y
α(η)=−log(1−ϕ)
α(η)=−log(1−ϕ)
b(y)=1
b(y)=1
能夠推導出sigmoid函式的形式。
η=log(ϕ1−ϕ)
η=log(ϕ1−ϕ)
ϕ=eη1+eη
ϕ=eη1+eη
也就推出了sigmid函式的形式
程式設計師轉型首選的程式語言是什麼？
好學、好用、高薪的python學習路線免費領取！
python為什麼用flask 為什麼用flask
flask是python在web開發領域乙個輕量級的框架，為什麼選擇flask呢？此文可能會給你答案。選擇flask的原因 1.微框架 簡潔 只做它需要做的，給開發展提供了很大的擴充套件性。2.flask和相關的依賴 jinja2 werkzeug 設計得非常優秀,用著簡單。3.開發效率非常高，比如...
為什麼用css sprites
在分析各個 的css時，我們經常可以看到一些 有很多的元素共享了一張背景，而這張背景包含了所有這些元素需要的背景，這種技術就叫做css sprites。例如 的css sprites url是 這樣做有什麼好處呢？顯而易見，瀏覽器在載入每一張的時候都會發起乙個http請求。如果使用css sprit...
為什麼用指標
相信接觸過程式設計的,大部分應該對c語言有一定了解或者學過一門c語言課程。或多或少聽到這種說法 c語言很難學，特別是指標。我大一下學期開的這門課，學完之後感覺還好 其實是我沒有深入學，典型的自我感覺良好 但指標那塊確實也沒太弄明白。現在好像明白了一點什麼是指標，在什麼情況下用比較好。int a 1 ...