原文：神經網路淺講：從神經元到深度學習
這篇文章介紹很好，深入淺出、很容易懂但是該有的東西都講到了，一口氣看下來會覺得很爽。因為文章很長所以下面主要是上文中的一些摘抄。
神經網路的「三起三落」
2023年，心理學家mcculloch和數學家pitts參考了生物神經元的結構，發表了抽象的神經元模型mp。
神經元：
影響：
2023年發布的mp模型，簡單卻建立了神經網路大廈的地基。但mp模型中，權重的值都是預先設定的，因此不能學習。2023年心理學家hebb提出了hebb學習率，認為人腦神經細胞的突觸（也就是連線）上的強度上可以變化的。於是計算科學家們開始考慮用調整權值的方法來讓機器學習。這為後面的學習演算法奠定了基礎。儘管神經元模型與hebb學習律都已誕生，但限於當時的計算機能力，直到接近10年後，
神經網路 神經元
從生物上來說，神經元就是神經細胞的別稱。神經元最主要的兩個特性 興奮性和傳導性。興奮性 神經元的興奮性具有一種很特殊的現象，當刺激強度未達到某一閾限值時 限值的概念為人工神經元模仿提供了理論依據，傳輸函式中大多數函式都是依據此原則來輸出的 神經衝動不會發生，而當刺激強度達到該值時，神經衝動發生並能瞬...
神經網路入門 神經元演算法
目前機器學習 深度學習在業界使用的越來越廣泛，做為乙個有著技術追求的it人，我覺得有必要學習和了解一下這塊的知識，今天就從最簡單的單層神經網路開始介紹。在介紹人工神經網路之前，首先認知下神經元。神經元不知道大家還有印象這個圖嗎？這個是出現在我們生物課本中的一幅圖。乙個神經元的組成基本就是上圖這些東西...
神經網路之softmax神經元
在之前的內容裡，我們採用的是sigmoid函式作為輸出層神經元。這裡我們介紹一種softmax函式作為新的輸出層。softmax本質上是一種歸一化的過程，假設神經元的帶權輸入為 zl j k wljk al 1 k bl j zjl kw jkla kl 1 bjl 定義輸出神經元的啟用值為 al ...