直觀理解droupout：
why droupout work so well like a regularizer。
為什麼droupout 可以作為乙個正則化器，並且表現的很好？
drop掉一些神經元之後，神經網路變小了。採用乙個較小的神經網路和使用正則化的效果是一樣的。
dropout產生的效果是使得結果不特別依賴於某個神經元上提取到的特徵，數學上來看，就是將權重分配到每個神經元上，就是將權重spread out到某一層神經元的所有神經元上，使得不出現某個神經元上權重特別大的情況（使得不出現特別依賴於某乙個神經元的情況）。
dropout產生了收縮權重平方範數的效果。dropout產生的效果類似於l2正則化
dropout在計算機視覺領域用的比較多。
dropout是一種防止過擬合的方法，所以一般只有發生過擬合之後才適用dropout，沒有發生過擬合時，不需要使用過擬合。
所以在其它領域，比如自然語言處理等領域，dropout用的比較少，主要存在於計算機視覺領域，因為通常我們沒有足夠的資料，所以一直存在過擬合，這就是有些計算機視覺研究人員如此鍾情dropout的原因。
dropout的一大缺點是代價函式不再被明確的定義了，每次迭代都會隨機移除一些節點。
由於代價函式沒有被明確的定義，所以不太容易觀察loss是不是一直在下降。所以通常的做法是不加入dropout，看看loss是不是一直是下降的，如果是，然後再在網路中加入dropout。
更通俗的解釋可以檢視：
蔣竺波：cnn 入門講解：什麼是dropout?zhuanlan.zhihu.com
實現時的一種方法，inverted dropout：
設keep_prob為0.8，上面的式子中有乙個a3 = a3/keep_prob的操作，這主要是因為，dropout之後，a3減小了20%。所以為了不影響z4的值，所以有a3 = a3/0.8的操作，使得a3能夠再變大一些。
drop函式的使用
train df.drop train df.columns 26,27 axis 1,inplace true drop函式預設刪除行，列需要加axis 1 對原陣列作出修改並返回乙個新陣列，往往都有乙個 inplace可選引數。如果手動設定為true 預設為false 那麼原陣列直接就被替換。也...
mysql案例 關於drop的那點事
1 關於中斷session操作 mysql如果在前台執行drop table操作,中斷了前台session 1 經過我測試,會執行成功,但是mysql.err會記錄一些錯誤.而且刪除後確實可以建立同名表 2 中斷的時機不同,報錯的日誌可能不一樣 3 手動ctrl c kill xshell斷開連線 ...
關於IsIconic函式
用mfc嚮導生成的基於對話方塊的程式中，預設的對話方塊onpaint函式一般是如下 行為 其中isiconic 分支 的作用是當視窗處於最小化狀態時進行圖示的繪製操作。但是實際上你會發現，在視窗最小化一般來說是不會進行視窗的重繪，也就是不會觸發wm paint訊息。當然，使用者可以強制進行重繪。正常...