-0.機器學習常用的模型：
例如，線性模型、邏輯回歸、softmax、神經網路/深度學習、svm、決策樹、隨機森林、gbdt、矩陣分解。
-1.神經網路
在乙個資料集上訓練成型的深度神經網路，在另外乙個完全不同的資料集上只需稍加訓練，就有可能
適應和完成那個新的任務。（遷移學習 transfer learning）
1.1線性神經元：指輸出和輸入呈線性關係的一種簡單模型。
1.2線性閾值神經元（也稱為 mcculloch-pitts神經元）
特徵如以下：
（1）輸入和輸出都是二值。
（2）每個神經元都具有乙個固定的閾值a。
（3）每個神經元都從帶有權重的啟用突觸接收輸入資訊。
（4）抑制突觸對任意啟用突觸有絕對否決權。
（5）每次彙總帶權突觸的和，如果大於閾值a,而且不存在抑制突觸輸入，則輸出為1，否則為0。
1.3sigmoid神經元
可以使輸出平滑而連續地限制在0~1的範圍內，他靠近0的區域接近於線性，而遠離0的區域非線性，
sigmoid神經元可以將實數「壓縮」至0~1的範圍內，大的負數趨向於0，大的正數則趨向於1.
1.4tanh神經元
1.5relu
-2.神經網路的訓練步驟
常用：基於梯度下降法的神經網路
訓練步驟：
（1）從訓練集隨機訓練樣本 x
（2）將 x 在當前引數 w 下進行前向傳播得到損失值（loss）
（3）根據鏈式法則，進行後向傳播得到梯度值 （求導loss）/（求導w）
（4）更新引數值 w = w- n* （求導loss）/（求導w）
（5）迴圈步驟1-4，直至loss滿足目標，網路訓練完成。
-2.2.1線性神經元
y=wx+b
-3.初始化模型
受限玻爾茲曼機（restricted boltzmanm machine，rbm）
自動編碼器（autoencoder，ae）
深度信念網路（deep belief network，dbn）
-4.卷積神經網路
-5.迴圈神經網路
深度學習實踐筆記（不斷更新）
本文主要是深度學習訓練時候的一些經驗和用法的筆記。1 tensorflow訓練時指定gpu 在終端執行程式時指定gpu cuda visible devices 0,1 python your file.py 在python 中指定gpu import os os.environ cuda visi...
apache學習筆記（不斷更新）
win下 用putty.exe英文版 linux下 用命令 ssh l username p hostname 其中 表示埠 port username是使用者名稱 httpd.conf 學習 1.設定預設最先開啟的頁面 在httpd.conf裡directoryindex index.html這裡...
VC學習筆記（不斷更新）
改變檢視的背景顏色 可以通過兩種方式 1.填充區域。呼叫fillrect函式實現。2.擦除區域。通過呼叫patblt來實現。具體過程 1 建立畫刷物件，初始化畫刷。2 選入新畫刷，儲存舊畫刷。3 獲取客戶端區域。4 填充區域。擦除區域 5 還原舊畫刷。例子cbrush m brush rgb 0,1...