神經網路是用來解決分類問題的模型。他與感知機有著緊密的聯絡。
神經網路中，神經元接收到的總輸入將與神經元的閾值進行比較，然後通過「啟用函式」處理以產生神經元的輸出。最理想的啟用函式是階躍函式，但是他不連續，不光滑，所以，採用sigmoid函式來進行替代。
感知機只有輸出層神經元進行啟用函式處理，即只擁有一層功能神經元。
多層神經網路的學習能力比多層感知機強的多。誤差逆傳播演算法（error backpropagation，簡稱bp）是傑出的代表。
bp神經網路演算法：
神經網路學習筆記
隱含層數越多，越容易擬合複雜函式 為了擬合複雜函式需要的隱含節點數目，基本上隨著隱含層數目的增加呈現指數下降的趨勢，也就是說層數越多，神經網路所需要的隱含節點可以越少。層數越深，概念越抽象，需要背誦的知識點 神經網路的隱含節點 就越少。但是，層數越多，容易出現過擬合以及引數難以除錯以及梯度瀰散的問題...
神經網路學習筆記
sigmoid函式是一種常見的擠壓函式，其將較大範圍的輸入擠壓到 0 1 區間內，其函式的表示式與形狀如下圖所示 該函式常被用於分類模型，因為其具有很好的乙個特性f x f x 1 f x 這個函式也會被用於下面的神經網路模型中做啟用函式。生物的神經網路系統中，最簡單最基本的結構是神經元。每個神經元...
神經網路學習筆記
python神經網路程式設計 這本書只認真讀完了第一章，大概80頁內容，就是簡單介紹了下三層前饋神經網路，以及推導了利用梯度下降法來反向傳播誤差，更新權重，即誤逆差傳播法 error backpropagation,bp 有點基礎的，這本書還是不推薦買了，完全可以直接閱讀 深度學習 周志華 第5章神...