今天關於bp的探索思考告一段落了。
計算智慧型導論。
西瓜書。
tom m. mitchell, 機器學習。
高數複習。
高人點撥,卜老師的點播。
高人指路,汪老師曾說,多看網上的部落格,可能說的不對,但可以幫你理解和開拓思路。
網上的許多部落格。
最終也是看完這篇部落格
最終解決了自己的的問題。
首先計算智慧型導論的推導比較唬人,在西瓜書中一語破的。鏈式法則,連續求導。
第二計算智慧型導論講的比較一帶而過,西瓜書只講最簡單的形似。
其實我的疑問就在於此。
這是最簡單的形式:
改進的形式:
卜老師說就像粒子群優化演算法:這一句話是高度的概括與點評。再看這篇文章,便有曾經一葉障目,不見森林。自己苦悟不如高人指路。
BP反向傳播演算法
本來想把自己報告的ppt寫成部落格,後來公式打起來太麻煩了,不想再敲第二遍了。寫一篇深入淺出,並茂的部落格好難。可以看斯坦福cs231n的課程,因為我發現很多人的部落格的圖和公式直接是截的那邊的圖。bp反向傳播演算法明白了之後其實是比較簡單,現在想想一開始阻礙自己明白的就是向量化的那種表達形式。組會...
BP誤差反向傳播演算法
bp演算法通過將輸出誤差反向傳播,將誤差分配到每個權值上,利用梯度更新對所有引數進行調整以達到輸出累計誤差最小 來自andrew ng的machine learning課程 為了簡化概念,先不加上偏置單元 符號介紹 zl i 第 l 層第 i節點的誤差zl i 第 l 層第i節點的輸入值al i 第...
反向傳播演算法(BP演算法)
bp演算法 即反向傳播演算法 適合於多層神經元網路的一種學習演算法,它建立在梯度下降法的基礎上。bp網路的輸入輸出關係實質上是一種對映關係 乙個n輸入m輸出的bp神經網路所完成的功能是從n維歐氏空間向m維歐氏空間中一有限域的連續對映,這一對映具有高度非線性。它的資訊處理能力 於簡單非線性函式的多次復...