其中mp模型中的非線性函式極為啟用函式（啟用函式是用來加入非線性因素的，提高神經網路對模型的表達能力，解決線性模型所不能解決的問題。）
優秀的啟用函式：
1.非線性：啟用函式非線性時，多層神經網路可逼近所有函式
2.可微性: 優化器大多用梯度下降更新引數
3..單調性:當啟用函式是單調的，能保證單層網路的損失函式是凸函式
4..近似恒等性: f(x}≈x 當引數初始化為隨機小值時，神經網路更穩定
啟用函式的輸出值範圍：
1.啟用函式輸出為有限值時，基於梯度的優化方法更穩定
2.啟用函式輸出為無限值時，建議調小學習率
常用啟用函式：
對於初學者建議：
1、首選relu啟用函 數;
2、學習率設定較小值;
3、輸入特徵標準化，即讓輸入特徵滿足以0為均值，1為標準差的正態分佈;
4、初始引數中心化，即讓隨機生成的引數滿足以0為均值，
為標準差的正態分佈。
寒假學習進度
今天就是踐行spark的安裝了。安裝spark 配置檔案spark env.sh 驗證spark是否安裝成功。grep 命令進行過濾。下面是關於hdfs的命令 上傳檔案 hdfs dfs put src dest 從本地的src位置上傳到hdfs的dest位置,src可以有多個,空格隔開 複製檔案 ...
寒假學習進度
rdd依賴關係 1 rdd 血緣關係 val filerdd rdd string sc.textfile input 1.txt println filerdd.todebugstring println val wordrdd rdd string filerdd.flatmap split p...
2020 2 2 寒假自學 學習進度報告9
因為想要通過hive作為資料庫來儲存爬取後和處理完成的資料，需要新增spark的hive支援，這方面還沒編譯完，所以今天暫時沒有這方面的進度，所以寫寫sparksteaming。資料的價值隨著時間的流逝而減少 這也正是mapreduce的使用範圍所產生的的極大弊端，沒法應對大流量的實時資料，mr這類...