目標函式可是是實數、離散或向量。使用計算單元模擬神經元，計算單元有多輸入和不變的單值輸出。
適用例項是通過屬性值對描述事件的；目標函式複雜；資料有誤；學習時間長；求值迅速。
結構：感知器、線性單元、sigmoid（s型的）單元。
感知器：輸入實數值，輸出其線性組合是否大於某值（1/-1）。由此規定假設空間，該空間是線性可分的。
演算法六：感知器訓練法則，使用感知器測試訓練用例，一旦出錯則更新係數。反覆使用直到收斂。更新的單位是xi的倍數。每次應用在乙個訓練用例上。根據輸出調整。
演算法七：梯度下降，目標是lms，更新的單位是最快下降方向的倍數。每次應用在整個訓練集上。根據輸入調整。
演算法八：delta法則，使用增量梯度下降。增量梯度下降每次應用在單個用例上。
sigmoid單元：使用logistic函式將輸入轉化成[-1,1]的連續輸出。
演算法九：反向傳播演算法，使用sigmoid代替感知器，分層網路的學習。目標是通過logistic函式和匿名節點構造出假設的非線性描述。使用計算出來的輸出調整引數。由於資料向上傳播導致誤差增大，所以誤差反向傳播。下層的誤差是上層相關節點誤差的加權平均。而誤差本身的計算基於sigmoid的梯度下降。可使用衝量項增加收斂速度。可能收斂到極小值。歸納偏置在於假設分隔曲面是連續的。容易過度擬合。
該演算法極像 我昨天想到的對計算機模擬人腦的乙個小想法 ，二者的區別在於：1、層內資料的相互聯絡；2、計算中的反饋機制；3、輸出的方法不同。基本可以認為是一致的。
4 人工神經網路（感知器）
4.感知器 這裡會通過乙個模式識別的問題，說明如何利用神經網路來求解這個問題。當商販在儲存水果時，需要將水果分類。我們把全部的水果通過乙個分類的機器，首先需要通過乙個感測器測量水果的三個特徵 外形，質地與重量。我們定義 1 圓形為1，橢圓為 1。2 光滑為1，粗糙為 1。3 超過一磅為1，輕於一磅為...
分類（3） 人工神經網路（ANN）
原版 一 感知器 下圖為乙個感知器，單個神經元。該感知器的演算法 二 多層人工神經網路 1 基本概念 神經網路，這裡先以前饋神經網路為介紹，每層為全連線，則對於2個神經元，引數為 1 w權值，2 b偏置，3 delta 啟用函式。多層神經網路的結構圖，以下為前饋神經網路的結構 2層 常用的 delt...
人工神經網路入門（2） 人工神經基本概念介紹
如果您有疑問，可以先參考faq 1 介紹 2 ann的最最基礎的知識 圖1 根據生物神經系統的工作過程，我們可以大概理解以下這個圖所要表達的含義 圖2 大家可以想象這樣一種情形 寒冷的冬天，我們伸手到火爐邊烤火，慢慢地，你覺得自己快要睡著了，這個時候，突然發現自己伸在火爐邊的手特別燙得疼，然後馬上將...