1、興奮性突觸與抑制性突觸的作用是分別是神經元細胞膜電位的增加與減少。
2、現在流行的人工神經網路所使用的神經元模型（例如relu）都是第二代神經元模型。它們主要用於處理模擬數值
3、脈衝神經網路使用的第三代神經元模型，第三代神經元的構建是受生物真實性的啟發，它能處理基於脈衝處理的訊號
4、脈衝神經網路的兩個優勢：1、計算效率高。2、具有更強的生物真實性
5、脈衝神經元因其本身具有時間的屬性，所以更適合處理有關時序的輸入資訊
6、脈衝神經元相對複雜，針對輸入，它們能提供複雜的非線性對映，從理論上分析，針對乙個複雜的任務，乙個小型的網路就能解決該任務。
7、神經元模型中的引數τm
τ
m表示的是膜時間常數，它與膜電壓的衰減有關，τm
τ
m越大，膜電壓vm
(t) vm(
t)
衰減的速度越慢
8、從概念和計算的角度來看，與其他尖峰神經元模型相比，lif模型相對簡單，所以採用最廣泛。同時lif模型有個優點就是該模型很容易通過硬體實現，而且執行速度很快。
9、srm（spike response model）是lif模型的乙個推廣，它在神經元動力學中使用了核方法。
10、hodgkin-huxley(hh)模型是根據在烏賊身上的大量實驗結果所構建的。它是迄今為止最詳細和最複雜的神經元模型，然而，該神經元模型的需要很大的計算量，因此該模型不適用於大型網路的**。
11、izhikevich（im）模型可以通過在神經元動力學方程中設定不同的引數，使神經元具有不同的功能（例如連續激發一系列脈衝或只發射乙個脈衝）
12、脈衝神經元本質上是為了處理和產生這種時空脈衝序列。
13、現在主流的認為神經元的編碼方式有兩種：1、速率編碼（rate code）。2、時間編碼（temporal code）
速率編碼：在運動細胞中，支配肌肉的力量完全取決於「脈衝發放率」，可以簡單理解成單位時間的脈衝發放數量。
時間編碼：是基於單個脈衝的精準時間，可以理解成他們時刻關注著外部的刺激，一般該種細胞存在在聽覺系統或聽覺迴路中。
神經元是使用速率編碼還是時間編碼是神經科學界爭論激烈的話題，甚至這些術語都沒有明確的定義。
14、當你使用速率編碼時，你就預設了資訊是包含在脈衝的發放頻率當中。當使用脈衝編碼，我們關注的物件就應該是脈衝發放率，而不是特定的脈衝序列。
脈衝的發放頻率有兩個解讀方法:1、統計。2、概率。
15、在大多數感覺系統中，隨著刺激強度的增加，發射率通常呈非線性增長[3]。
16、當採用速率編碼時，任何可能編碼在脈衝序列中精確資訊都會被忽略。即採用速率編碼就會自動丟失準確時間編碼的資訊。
17、頻率編碼的效率不高，但具有很強的抗雜訊能力。
18、有關「firing rate」的定義有幾種，主要是平平均的過程不同，一種定義為根據一段時間來取平均，另一種是幾次實驗的平均值。對於速率編碼方案中的大多數情況，它考慮編碼視窗內的尖峰計數。
19、許多研究發現，神經編碼的時間解析度是毫秒級的，這表明精準時間編碼在神經元編碼中存在，而且十分重要。
20、在視網膜[15，16]，外側膝狀核(lgn)[17]和視皮層[14，18]以及許多其他感覺系統[19，20]中，觀察到神經元在毫秒尺度上精確地對刺激作出反應。這個發現有力的支援時間編碼的方式。
21、採用基於時間編碼，可以更高效的資訊進行表示，同時速度更快（例如神經元可以對特定位置的脈衝作出響應）
22、temporal code編碼方式細分有幾種：
1、latency code：延遲碼是一種特定形式的時間編碼，即編碼資訊在時間上相對於編碼視窗長度，這通常是與刺激的發生時間有關。
2、interspike intervals code ：這種編碼是通過兩個脈衝之間的相對時間來表示編碼資訊。
3、phase of fireing code：難以描述，之後補充
23、相比速率編碼，採用時間編碼能攜帶更多的資訊，同時具有更強的生物真實性和計算效率。
24、基於精確時間編碼的學習演算法：spike-time-dependent plasticity（stdp），tempotron rule，spikeprop rule ,span rule, chronotron rule ,resume relu
25、stdp是今年來最常使用的學習演算法，它是基於hebbs理論
26、tempotron rule 演算法只能學習神經元是否產生脈衝，不能是神經元發放脈衝的精準時間，所以該演算法不能支援輸入和輸出峰值中使用的相同的編碼方案（因為脈衝輸出時間沒法確定），基於tempotron的改進型演算法psd，可以學習到神經元產生脈衝的精準時間。
27、spikeprop rule可以訓練神經元在特定時間產生單個脈衝用於進行時空分類。該演算法是一種基於梯度的監督學習演算法。該演算法的主要缺點是它的輸出神經元只能發放乙個脈衝，不能產生多個脈衝
28、為了解決spikeprop輸出只能發放乙個脈衝的問題，提出chronotron rule、resume relu，他們的輸出可以是多個脈衝。
29、span relu和chronotron e-learning relu的權重更新都是基於誤差梯度。他們之間的誤差梯度有所不同。但這這些基於梯度（數學）所設計的學習演算法不具備生物真實性。
脈衝神經網路
1 神經資訊的編碼與解碼方法 由於脈衝神經網路的輸入輸出是脈衝序列，不能直接進行模擬量的計算，首先要考慮的問題是神經資訊的編碼與解碼機制 編碼是指將樣本資料或刺激訊號轉換為脈衝序列，而解碼是編碼的逆向過程，是將脈衝序列對映為輸出結果或特定反應 目前，研究者借鑑生物神經元對特定刺激訊號的編碼機制，除了...
脈衝神經網路 光晶元上的全光脈衝神經網路
nature昨天刊登了德國明斯特大學的一篇最新進展，研究人員在光晶元上實現了脈衝神經網路 spike neural network 先睹為快，這篇筆記主要介紹下這篇進展。研究人員將氮化矽波導與相變材料結合，實現了監督式和非監督式的機器學習，並演示了對15個畫素的模式識別。關於相變材料 phase c...
脈衝神經網路SNN學習
由於事件相機原理的非同步性，同樣時空性的脈衝神經網路可能更適合基於事件相機的一系列處理。本人對神經網路了解的較少，此部落格僅作為自己學習記錄所用。目前常用的cnn rnn等神經網路是第二代神經網路，而脈衝神經網路snn屬於第三代神經網路模型，為了減小神經科學與機器學習之間的差距，snn使用最擬合生物...