1.1 引言
講解現有神經元資訊中頻率和時間資訊目前發掘的可能是頻率資訊，想利用上時間資訊
1.2 人工神經網路及其發展
生物神經系統存在突觸的可塑性，以及神經纖維粗細，化學物質反應。總結出來猜想化學物質反應對應於電訊號，可塑性和粗細對應於生命週期，強度可能對應於頻率/幅度（需要問老師）。目前主流認為神經元處理的數值相當於脈衝發放頻率。（可能脈衝神經網路的發展也需要對應計算能力的發展，如量子計算）
但是記憶如何儲存的一直是生物學的難題，我認為不僅僅是權重（表達強度），還有生命週期（生命週期快結束也可能強度不變，和權值為0不等價）
1.3 脈衝神經網路的研究現狀
1.3.1 發展歷史
拓撲結構分三種
前饋型脈衝神經網路，即順序連線
遞迴型脈衝神經網路，即層級之間具有反饋迴路，學習演算法包括實時遞迴和反向傳播，這兩種是等價的（36）。而根據反饋迴路的分布，有全域性、區域性、僅隱含層內反饋、輸出反饋到隱含層等方式。
混合型脈衝神經網路，即前兩種的混合。同步發放鏈結構（46）為層級之間順序，單層之間交叉。液體狀態機（50、51）是隱含層大規模固定的稀疏連線（先驗知識手動確定隱含層再學習輸入層和輸出層之間的權重。
1.3.2資訊編碼
如何結合時間資訊編碼是目前的乙個難題，我們也不知道生物中是如何編碼的，我想要是有一種方法能簡單的描述頻率、生命週期、時間資訊就好了。目前的權重應該是描述了頻率這一資訊。
1.3.2 學習演算法
和過去的學習演算法一樣，在脈衝中主要也是先遷移過來，包括有：
基於stdp或者hebb學習規則，贏者通吃規則的無監督學習
基於hebb規則和突觸可塑性原理的監督學習
強化學習。**69發放的脈衝序列是基於泊松分布的，可以看一下。
進化方法。全域性性概率搜尋演算法。即各種連線選擇之間的優勝劣態，具體可以看73-79.
1.4應用領域
都很虛，沒有有比較突出效果的領域。
思考1、引言中提到現有神經網路通過頻率編碼，而脈衝神經網路還加入了時間資訊，是基於精準脈衝定時編碼。此處仍需理解。
2、**5，講解脈衝神經元模型。可以閱讀。
3、引言提到脈衝的大小和形狀與神經元輸入無關，此處需要求證，強度的體現是通過頻率還是幅度？（實際模型有限採用頻率，可能更為簡單）
4、1.2.1提及神經纖維的粗細，是否對應與訊號連線的強弱，即我們的網路引數。或者是強度（幅度）用頻率表示，粗細表示連線有效期。
5、編碼問題、結構問題、學習演算法和應用領域。這是研究的幾大方向，目前還是在嘗試，沒有哪一套框架有行之有效的應用。
第一章 迴圈神經網路簡介
1 簡單介紹 我們知道在機器學習領域中，傳統的神經網路模型是從輸入層到隱藏層再到輸出層，層與層之間是全連線的，而每層之間的節點是無連線的，它的弊端我在這裡就不再贅述。我們主要介紹rnn，他為什麼稱為迴圈神經網路呢？因為它的每乙個輸出序列都與前面的輸出序列有關。具體表現在該網路會記錄前面的資訊並應用到...
第一章（1） 神經網路如何工作
恢復內容開始 1.1 尺有所短，寸有所長 問題計算機 人類快速的對成千上萬的大數字進行計算 簡單困難 在一大群人的 中尋找面孔 困難簡單 1.2 器 1.所有有用的計算機系統都有乙個輸入和輸出，並在輸入和輸出之間進行某種型別的計算，神經網路也是如此。2.機器接受了乙個輸入，並作出應有的 輸出結果。我...
第一章 概序
21世紀的一些重要特徵就是數位化 網路化 和資訊化，他是乙個以網路為核心的資訊時代。網際網路是自印刷術以來人類通訊方面最大的變革。網路現已成為資訊社會的命脈和發展知識經濟的重要基礎。網路是指 三網 即電信網路 有線電視網路和計算機網路。發展最快的並起到核心作用的是計算機網路。隨著技術的發展，電信網路...