看完基礎的神經網路原理,覺得不就先線性回歸,然後往回求導更新權值嘛,也不難。但是落實到**的時候,就寫不出來....就是那種道理我都懂,就是做不出來的感覺。
矩陣左乘右乘,矩陣求導看不明白,出門右拐看矩陣論教程,直接就從深度學習到深度厭學了.......
老外的**:
我用跟著資料流動的方式來說明,假設有一組訓練資料x和目標資料y,比如:
啟用函式就把線性函式轉換成非線性。
x中的乙個小人,進入1,然後進行線性計算w1*x+b1,線性計算後,進入啟用函式小房間,常用啟用函式有:sigmoid(x)=1/(1+exp(-x)),tanh等。
經過啟用函式洗禮後的值a繼續線性求值,然後又乙個啟用函式,最後的值與y的小人比較(相減),相減的誤差對啟用函式求偏導,更新權值w,不斷迴圈直至收斂
雖然理解起來比用矩陣簡單,但**就會長很多。
C標準庫實現
標頭檔案唯一的目的就是提供assert巨集定義,可以在程式中關鍵的地方使用這個巨集來進行斷言。如果一處斷言被證明非真,希望程式在標準錯誤流輸出一條適當的提示資訊,並使執行異常終止。可以這樣寫 include.assert 0 i i sizeof a sizeof a 0 當然上面的 不是實戰中的最...
python標準庫 時間庫
眾所皆知,每乙個程式語言都有自己的時間類庫,python也不例外用法十分簡單 最基本的類,time類 time基本函式介紹 import time print time.asctime 如果未傳入乙個tuple或乙個time struct就是使用當前的時間,返回乙個24字長的時間字串 就這個mon ...
python標準庫 os庫
os模組主要用於跟作業系統打交道 os模組常用的方法 os.getcwd 獲取當前工作目錄,即當前python指令碼工作的目錄路徑 os.chdir dirname 改變當前指令碼工作目錄 相當於shell下cd os.curdir 返回當前目錄 os.pardir 獲取當前目錄的父目錄字串名 os...