神經網路方法的正規化 paradigm

2021-10-24 01:36:45 字數 414 閱讀 5339

總結nlp各種任務,基本都可以用乙個正規化來概括,那就是分類,本人總結看過的nn**,目前看到的所有的任務nn雖然各有不同,但是最終都回歸到各種粒度的分類上面。也就是說我們現在的模型本質上都是在做分類,如果說有大佬可以舉出反例歡迎討論。

paradigm :y = softmax(nerual network(x,w))或者sigmoid(nerual network(x,w))nlg系列任務

閱讀理解

序列標註

word2vec/bert

基於實體的情感分類

語音識別

語義匹配

相似度匹配

句子分類

文件分類

目標檢測

語義分割

例項分割

分類

神經網路 卷積神經網路

這篇卷積神經網路是前面介紹的多層神經網路的進一步深入,它將深度學習的思想引入到了神經網路當中,通過卷積運算來由淺入深的提取影象的不同層次的特徵,而利用神經網路的訓練過程讓整個網路自動調節卷積核的引數,從而無監督的產生了最適合的分類特徵。這個概括可能有點抽象,我盡量在下面描述細緻一些,但如果要更深入了...

神經網路 卷積神經網路

1.卷積神經網路概覽 來自吳恩達課上一張,通過對應位置相乘求和,我們從左邊矩陣得到了右邊矩陣,邊緣是白色寬條,當畫素大一些時候,邊緣就會變細。觀察卷積核,左邊一列權重高,右邊一列權重低。輸入,左邊的部分明亮,右邊的部分灰暗。這個學到的邊緣是權重大的寬條 都是30 表示是由亮向暗過渡,下面這個圖左邊暗...

神經網路簡介 多層神經網路

如上圖所示,該神經網路有三層。我們標記第一層 也就是輸入層 為a 1 第一層與第二層連線權重為w 1 然後第一層輸入與第一層權重的線性和為z 1 第一層神經元個數為n 1 並依次標記剩餘網路層。可以看出,存在 z l j i 1 n l a l i w l i,j a l w l j a l 1 f...