專案
內容這個作業屬於哪個課程
人工智慧實戰2019
這個作業的要求在**
作業要求
我在這個課程的目標是
將機器學習理論與實踐相結合,獲得一定的專案經驗,提高程式設計能力
這個作業在哪個具體方面幫助我實現目標
嘗試三層神經網路調參,理解引數的意義
我的github鏈結
1.引數列表:
learning_rate = 0.05
n_hidden1 = 64
n_hidden2 = 32
n_output = 10
m_epoch = 60
batch_size = 10
2.loss值:
0 0 2.37689043217
0 1000 0.432571430108
0 2000 0.338263958146
0 3000 0.323517596685
0 4000 0.309689011875
0 5000 0.264196678596
1 0 0.253663533592
1 1000 0.225091250396
1 2000 0.236370147596
1 3000 0.202064396648
1 4000 0.186951836691
1 5000 0.183216687054
2 0 0.17333548637
2 1000 0.185751911191
2 2000 0.148136969589
2 3000 0.157264050993
2 4000 0.141908106272
2 5000 0.137579386733
3 0 0.140633230237
3 1000 0.122336743552
3 2000 0.117733838217
3 3000 0.13898186953
3 4000 0.137541782618
3 5000 0.101203587862
4 0 0.110881821664
4 1000 0.10214756419
4 2000 0.102826663842
4 3000 0.111126711617
4 4000 0.0865627260779
4 5000 0.088709192089
5 0 0.0852044471365
5 1000 0.0888149888445
5 2000 0.0821572817033
......
55 3000 0.000921672465616
55 4000 0.000928296170349
55 5000 0.000923241808591
56 0 0.000900403256044
56 1000 0.000885718468488
56 2000 0.000898801780245
56 3000 0.000878166141021
56 4000 0.000887567429741
56 5000 0.000882332425497
57 0 0.000870645397225
57 1000 0.000872234088337
57 2000 0.000867735170769
57 3000 0.000881484849988
57 4000 0.000855625080622
57 5000 0.000864108366941
58 0 0.000868287806744
58 1000 0.000872201055018
58 2000 0.000837460951493
58 3000 0.000827796346698
58 4000 0.000836365496608
58 5000 0.000829128308243
59 0 0.000820865039696
59 1000 0.000811084333221
59 2000 0.000839236194899
59 3000 0.000821233888089
59 4000 0.000848592663184
59 5000 0.000813831106977
3.loss下降曲線:
4.最終結果:
testing...
rate=9772 / 10000 = 0.9772
神經網路調參
神經網路的一些調參方法小結 1 網格搜尋法 網格搜尋就是將多個引數進行笛卡爾乘積後逐個試驗,很費時間。sklearn庫有gridsearchcv函式,結合了交叉驗證,我還沒在神經網路上應用過。2 逐個調參 用列舉的方法逐個引數調優,乙個引數取最佳值後固定住再進行下乙個引數調優,比網格搜尋快一些。不過...
三層神經網路
import numpy as np defsigmoid x,deriv false if deriv true return x 1 x x是經過啟用函式後的 return1 1 np.exp x 前向傳播的值x np.array 0,0,1 0,1,1 1,0,1 1,1,1 0,0,1 標籤...
三層神經網路python 簡單的三層神經網路
參照 python神經網路程式設計 寫乙個簡單的三層神經網路 usr bin env python coding utf 8 import numpy sigmoid 函式 import scipy.special 簡單的三層全連線網路,包括乙個輸入層,乙個隱層和乙個輸出層 損失函式用sigmoid...