更新:文章遷移到了這裡。
有對應的ppt鏈結。
注:整理自向世明老師的ppt
內容提要
1 發展歷史
2 前饋網路(單層感知器,多層感知器。徑向基函式網路rbf)
3 反饋網路(hopfield網路。
聯想儲存網路,som。boltzman及受限的玻爾茲曼機rbm,dbn,cnn)
發展歷史
單層感知器
1 基本模型
2 假設激勵函式是線性的話。可用最小二乘直接計算
3 假設激勵函式是sifmoid function,可迭代更新(一次性或者逐樣本更新)
上式僅僅做了簡單的求導展開。非常easy推導
多層感知器
1 基本模型
2 舉例(含有乙個隱含層的多層感知器mlp)
模型:
y=h(v)=h(h(u))
求解:
這裡怎麼轉換到6k(xi)的?
然後分別對兩個層的權值求導:
然後更新就可以,反向傳播(bp)
3 經驗
4 優缺點
rbf神經網路
1 模型
2 求解
3 長處和視角
深度學習簡單介紹
1 前向神經網路
2 發展歷程
3 總體一覽
4 一些值得關注
學術
工業
belief network & hopfield network & boltzman機 & rbm 結構一瞥
1 belief network
2 hopfield network
3 boltzman機
4 rbm 受限的玻爾茲曼機
rbm1 模型
利用上圖中公式。能夠得到
2 求解 cd演算法
dbn1 模型
2 訓練
面向特徵提取
面向分類
dbm模型
cnn1 模型
2 訓練
參考文獻
機器學習之人工神經網路演算法
機器學習中有乙個重要的演算法,那就是人工神經網路演算法,聽到這個名稱相信大家能夠想到人體中的神經。其實這種演算法和人工神經有一點點相似。當然,這種演算法能夠解決很多的問題,因此在機器學習中有著很高的地位。下面我們就給大家介紹一下關於人工神經網路演算法的知識。1.神經網路的 我們聽到神經網路的時候也時...
傳統演算法 人類學習和機器學習
使用計算機來解決問題,繞不過演算法,傳統演算法 由人來設定具體的規則,讓機器來執行。人是將,機器是兵。人勝於思考力,機器勝於執行力 計算速度快 後來發現有些問題,依靠傳統演算法,計算機難以解決,一方面問題越來越複雜,規則難以制定,或者說規則一直在變化,另一方面也遇到了一些在人看來很容易解決,但是機器...
機器學習經典演算法
函式名稱均為sklearn庫中的函式 1.線性回歸演算法 linearregression 其中常用的有 ridge 嶺回歸演算法,multitasklasso 多工lasso回歸演算法,elasticnet 彈性網眼演算法,lassolars lars套索演算法,orthogonalmatchin...