對生物神經網路的模仿,抽象出生物神經網路中的神經元與連線的概念，不同的是人工神經網路間的鏈結是固定的，而生物神經網路的鏈結不是固定的。
2.neural networks重要元素：
①nn由多層神經元構成；
②必不可少的3層是：
a.輸入層：接受資訊，以0或1的形式；
b.輸出層：輸出對事物的認知，以0或1的形式；
c.隱藏層：加工、處理資訊；
另外，每個神經元都有乙個刺激函式；nn正向傳播輸出預估值，再反向傳播預估值與真實值的誤差，指導神經元向著正確方向改動
3.convolutional neural networks:
①影象識別與自然語言處理領域應用較成熟；
②卷積對影象中一小塊元素進行過濾；
③傳統卷積：縮小影象長、寬，增加高度，準確度不高；後來，與pooling模組合作，卷積負責增加高度，pooling負責縮小長、寬
④cnn工作流程：image->cnn->max pooling->cnn->max pooling->fully connection->fully connection->classifier
4.recurrent neural networks:
①語言分析、序列化資料領域較成熟；如描述**、寫**、寫指令碼、作曲；
②一般的nn，忽略了序列資料之間的關聯，而rnn彌補了這一點；
5.long short-term memory in rnn:
①主流的rnn形式;
②rnn難以控制久遠記憶，反向傳遞過程中：要麼梯度消失，要麼梯度**；
③lstm rnn增加3個控制器彌補不足：輸入控制器、忘記控制器、輸出控制器；
機器學習筆記（二） 神經網路
神將網路在解決多分類問題時效果比logistics回歸的效果要好，作為現在最流行的機器學習演算法，我們首先來簡單了解一下 和我們人的神經組成一樣，神將網路也是由神經元組成，先來介紹最普遍的mp神經元。在生物的神經網路中，假設一些神經元處於興奮狀態，那麼這些神經元就會向與之相連線的神經元傳送化學物質，...
機器學習 神經網路
神經網路中最基本的成分是 神經元 模型，在生物神經網路中，每個神經元與其他神經元相連，當他 興奮 時，就會向相連的神經元傳送化學物質，從而改變這些神經元類的電位 如果某神經元的電位超過乙個 閾值 那麼他就會被啟用。將上述描述當成乙個數學模型 m p神經元模型，神經元接收來自n個神經元傳遞過來的輸入訊...
機器學習 神經網路
序列模型屬於通用模型的一種，因為很常見，所以這裡單獨列出來進行介紹，這種模型各層之間是依次順序的線性關係，在第k層合第k 1層之間可以加上各種元素來構造神經網路這些元素可以通過乙個列表來制定，然後作為引數傳遞給序列模型來生成相應的模型。01 keras model sequential.py fro...