神經網路:想讓計算機模擬大腦處理資訊的過程。
如:有一杯水,手摸一下,收集溫度資訊,在神經元中進行傳遞,心中有乙個預設值,看是否溫度太高,還是太低。
感知機
人工神經網路
神經網路的發展
傑弗里·埃弗里斯特·辛頓。(英語:geoffrey everest hinton)是一位英國出生的計算機學家和心理學家,以其在神經網路方面的貢獻聞名。辛頓是反向傳播演算法的發明人之一,也是深度學習的積極推動者。
神經網路
組成:
神經網路用於多分類問題。某乙個樣本–>得出屬於全部類別的每乙個概率。(softmax).有多少個類別,輸出就是多少個值。
softmax回歸
神經元的輸出值,經過softmax得出每乙個分類的概率值。
損失計算 演算法
策略優化
線性回歸
均方誤差
梯度下降
邏輯回歸
對數似然損失
梯度下降
神經網路
交叉熵損失
梯度下降,反向傳播演算法
正向傳播:輸入經過一層層的計算得出輸出
反向傳播:從損失計算開始,梯度下降更新權重
api介紹
全連線-從輸入直接到輸出
softmax計算、交叉熵
損失值列表平均值計算
損失下降api
神經網路 一
神經元是神經網路的基本組成。神經網路的神經元,是模仿生物的神經元結構。影象如下 為了形象理解,可以將上圖簡化如下 在這個神經元中,input的feature 可以有很多維度,output也可以有很多的 layer。感知機 1 感知機是網路神經的基礎,感知機也被稱為單層神經網路 即,單個神經元也稱作感...
神經網路 卷積神經網路
這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...
神經網路 卷積神經網路
1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...