人工神經網路主要根據大腦神經元構建人工神經元，並且按照一定的拓撲結構建立神經元之間的連線，模擬生物神經網路。早期模型強調生物合理性，目前更加強調對認知能力的模擬，完成某種特定任務。人工神經網路系列部落格持續更新。由於本人更喜歡使用word和mathtype，所以較多截屏。如果我的理解有欠缺或者錯誤，望指出。
一、生物神經元
二、人工神經元模型
三、生物神經網路
四、人工神經網路
4.1 模擬生物神經網路
4.2 網路結構
五、總結
大腦神經系統是由成千上萬的生物神經元通過突觸相互連線的複雜神經網路，因此神經元是神經系統的基本組成單元，用於產生神經衝動和傳輸神經衝動。下圖展示了乙個典型的生物神經元結構：
生物神經元主要由細胞體、樹突和軸突組成。
（1）樹突：從細胞體向四周分散開來的突起稱之為樹突，用於接收神經衝動，神經元細胞有乙個或多個樹突。與不同神經元連線的樹突強度有強有弱；
（2）細胞體：細胞體細胞膜上存在受體，可以與神經衝動的神經遞質結合，產生興奮或者抑制。神經元所獲得的輸入訊號的積累超過某個閾值時，處於興奮狀態，否則為抑制狀態；
人工神經元是人工神經網路的基本單元。模擬生物神經元，人工神經元有1個或者多個輸入（模擬多個樹突或者多個神經元向該神經元傳遞神經衝動）；對輸入進行加權求和（模擬細胞體將神經訊號進行積累和樹突強度不同）；對輸入之和使用啟用函式計算活性值（模擬細胞體產生興奮或者抑制）；輸出活性值並傳遞到下乙個人工神經元（模擬生物神經元通過軸突將神經衝動輸入到下乙個神經元）。
人工神經元的計算描述。假設人工神經元有n個輸入
式中，將
根據初中學習的生物學知識可知，我們動物學習經驗、學習記憶和感覺的產生是大量的神經元產生神經衝動和傳遞神經衝動的作用，並不是單個神經元就能完成上述任務。因此，主要研究由神經元組成的神經網路如何工作。
hebb提出了細胞聯合（突觸可塑性）基本原理：當神經元a的有個軸突和神經元b非常接近，足以對它產生影響，並且持續地、重複地參與對神經元b的興奮，那麼神經元a和b發生某種生理變化，以致於神經元a成為神經元b興奮的細胞之一。簡單例子：巴甫洛夫的條件反射實驗，每次給狗狗餵食時，都會先搖響鈴鐺，時間足夠長後，搖響鈴鐺，即使不給狗狗食物，狗狗也會分泌唾液；原因即，狗狗的搖響鈴鐺激發的神經元，食物出現激發的神經元，二者關聯加強，突觸效能加強。
綜上所述，突觸的連線強度可以隨著突觸前後神經元的活動而變化，且通過重複足夠次數，可以儲存在長期記憶中。
生物神經網路是大量神經元通過一定的連線方式形成；人工神經網路是通過大量的人工神經元通過一定的連線方式組成。使用人工神經元的連線權重
（1）定義：資訊傳播單向。前饋神經網路按照傳輸資訊的次序將神經元分為不同的層，每一層神經元接收前一層神經元的輸出，將輸出傳遞至前一層神經元。
（2）例項：全連線前饋神經網路和卷積神經網路
（3）一句話總結：前饋網路是通過非線性函式的多次復合實現輸入和輸出的複雜對映關係
（1）定義：神經元不僅可以接收其他神經元的資訊，而且可以接收自己的歷史資訊；資訊傳播可以單向也可以雙向。
（2）例項：迴圈神經網路、hopfield網路。
（3）一句話總結：記憶網路可以視作乙個程式，具有計算和記憶能力
（1）定義：圖網路用來解決輸入為圖結構的資料，例如社交網路；節點之間連線時可以有向或者無向，而且可以收到相鄰節點或自身的資訊。
（2）例項：圖卷積網路
人工神經元
神經元是構成神經網路的最基本單位，構造乙個人工神經網路系統的首要任務就是構造人工神經網路模型。1 人工神經元的基本構成 我們希望人工神經元可以模擬生物神經元的一階特性 輸入訊號的加權和。對於每乙個人工神經元來說，可以接受一組來自系統中其他神經元的輸入訊號，每個輸入對應乙個權，所有輸入的加權，所有輸入...
神經網路 神經元
從生物上來說，神經元就是神經細胞的別稱。神經元最主要的兩個特性 興奮性和傳導性。興奮性 神經元的興奮性具有一種很特殊的現象，當刺激強度未達到某一閾限值時 限值的概念為人工神經元模仿提供了理論依據，傳輸函式中大多數函式都是依據此原則來輸出的 神經衝動不會發生，而當刺激強度達到該值時，神經衝動發生並能瞬...
人工神經網路
人工神經網路 artificial neural network,ann 通過對大量歷史資料的計算來建立分類和 模型。神經網路的學習就是通過迭代演算法對權值逐步修改優化的過程。學習的目標是通過修改權值是訓練樣本集中所有樣本都能被正確分類。人工神經元用於模擬生物神經元，人工神經元可以看作乙個多輸入 單...