概述
deep feedforward network(深度前饋網路) 又名feedforward neural network(前饋神經網路) 或 multilayer perceptron(多層感知器) 是深度學習模型的精髓
。前饋網路的目的是逼近某種方程f*. 比如乙個分類器,y=f*(x), 將輸入x對映到類y中。乙個前饋網路定義了乙個對映:y=f(x;θ);並且學習到使方程得到最佳逼近的引數θ的值。
這種模型之所以被稱為「前饋」, 是因為資訊在網路中一路向前,從輸入到輸出,沒有走回頭路。當乙個前饋網路加上了反饋機制(資訊流回頭),則成為recurrent neural network(遞迴神經網路)。
前饋網路有很高的經濟價值。它是很多商用學習方法的基礎。例如用於相機目標識別的卷積神經網路(cnn)。前饋網路也是反饋網路的概念基石,而後者經常用於自然語言處理
前饋網路之所以被稱為網路,是因為其中組合了多種函式,這種模型經常與有向非週期圖聯絡在一起,表示鏈條結構f(x)=f3( f2( f1( x ) ) ).鏈結構是神經網路中常用的結構。鏈的長度稱為深度
,前饋網路的最後一層為輸出層。在訓練神經網路的過程中,我們驅使f(x)來逼近f*(x)。訓練資料為我們提供了有雜訊的,近似的用不同訓練點計算的f*的例子。每乙個樣例x都伴隨著標籤y≈f*(x)。訓練樣本集直接確定了輸出層當如何處置樣本點x,即它必須輸出乙個接近f*(x)的值。然而其他層的輸出並未被確定,這些層稱為隱層。
深度學習(一)深度學習學習資料
持續更新 一 學習清單 1 收集了各種最新最經典的文獻,神經網路的資源列表 2 計算機視覺學習清單 3 機器學習學習清單 二 訓練資料 人臉資料 1 香港中文大學訓練資料集 此資料庫包含了20w張人臉,每張標註了5個特徵點 以及幾十種屬性 是否微笑 膚色 髮色 性別等屬性 2 68個人臉特徵點 3 ...
深度學習系列 深度學習簡介
機器學習 使用計算機系統利用經驗改善效能,是人工智慧領域的分支,也是實現人工智慧的一種手段。表徵學習關注如何自動找出表示資料的合適方式,以便更好地將輸入變換為正確的輸出。深度學習 具有多級表示的表徵方法,在每一級 原始資料開始 通過簡單的函式將該級的表示變換為更高階的表示。可以將深度學習看作多個簡單...
深度學習深度學習(一)開篇
深度學習 深度學習 記得9年前寫的一篇部落格,十年的程式設計師,一晃眼,差不多10年又快到了。這一輪的人工智慧,深度學習,他是我見到的乙個非常特殊的程式設計方式 用資料程式設計。是的,他絕對不像其他的程式語言,是完全乙個嶄新的天地,掌握她,絕對會帶來驚喜 你會發現以前感覺超級難的東西會忽然 哇,這個...