導 言：
為了便於以後的學習，我還是穩紮穩打一步一步從基本概念和基本理論開始吧。（不喜歡的求勿噴。。。）
一、從人腦神經網路到人工神經網路
人 腦：高度複雜的、非線性的和並行的計算機器（資訊處理系統）。
人工神經網路：由簡單處理單元構成的大規模並行分布式處理器，天然的具有儲存經驗知識和使之可用的特性（即一種自適應機器）。
兩方面與大腦相似：1、神經網路是通過學習過程從外界環境中獲取知識的；
2、互連神經元的連線強度，即突觸權值，用於用於訪問獲取的知識。
注：用於完成學習過程的程式稱為學習演算法，其功能是以有序的方式改變網路的突觸權值以獲得想要的設計目標。（對突觸權值的修改是神經網路設計的傳統方法）
二、神經網路的優點
神經網路的計算能力體現在兩點：
第一、神經網路的大規模並行分布式結構；
第二、神經網路的學習能力以及由此而來的泛化能力。
神經網路的性質和優點：
1、非線性：人工神經元可以是線性或者非線性的。
2、輸入輸出對映：監督學習，使用帶標號的訓練樣例對神經網路的突觸權值進行修改。
3、自適應性：神經網路具有調整自身突觸權值以適應外界環境變化的固有能力。（自適應性不一定總能導致魯棒性）
4、證據響應：神經網路需要提供選擇特定模式的資訊和關於決策的置信度的資訊。
5、上下文資訊：網路中神經元受其他所有神經元全域性活動的影響，故神經網路能處理上下文資訊。
6、容錯性：網路資訊儲存的分布特性，在網路總體影響嚴重惡化前神經元的損壞是分散的，故其效能緩慢惡化而不是災難性失敗。
7、vlsi實現：神經網路的大規模並行性使其適合超大規模整合技術（vlsi）來實現。
8、分析和設計的一致性：神經網路作為資訊處理器具有通用性。
9、神經生物模擬：神經網路設計由與人腦的模擬引發。
三、神經元模型
1、神經元模型的三種基本要素：
- 突觸或連線鏈集
- 加法器（線性組合器）
- 啟用函式
單個神經元結構圖(
其等價形式(
2、啟用函式的型別
兩種基本的啟用函式：
- 閾值函式：
- sigmoid函式：
3、神經元的統計模型
在一些神經網路的應用中，基於隨機神經模型的分析更符合需要。使用一些解析處理方法，mccullochpitts模型的啟用函式用概率分布來實現。即乙個神經元允許有兩種可能的狀態，如下圖所示
神經網路開篇
轉眼大四了，不過我依然是個渣，目前也找到實習工作，是幹c 後台的，發現自己真是個碼農，一看需求設計文件，基本上敲 就停不下手了。而由於畢業設計選題的緣故 卷積神經網路 課題，我現在需要閱讀乙份英文的文件，都是我不認識的人寫的，名字叫 neural networks and deep learning...
機器學習之四 神經網路
網路中的基本單元為神經元，每個神經元收到n個來自其他神經元的輸入訊號，這些輸入訊號通過帶權重的連線進行傳遞。每個神經元收到的總的輸入值與神經元的閾值相比較，若高於閾值，則該神經元被啟用並通過啟用函式產生神經元的輸出。為什麼要用啟用函式 使得神經網路由簡單的線性變換延伸到非線性變換，可獲得更強大的表示...
機器學習 神經網路
神經網路中最基本的成分是 神經元 模型，在生物神經網路中，每個神經元與其他神經元相連，當他 興奮 時，就會向相連的神經元傳送化學物質，從而改變這些神經元類的電位 如果某神經元的電位超過乙個 閾值 那麼他就會被啟用。將上述描述當成乙個數學模型 m p神經元模型，神經元接收來自n個神經元傳遞過來的輸入訊...