一、關於訓練誤差分析
二、關於錯誤的標註資料
背景：深度網路隨機誤差魯棒性高，系統性誤差魯棒性低。
機制: 抽樣分析誤差分布，focus 最主要的誤差部分。
方針：1.開發集和測試集需要同時修正；2.好壞都要關注； 3. 訓練集可以有部分差異，同dev和testtest
吳：重視對訓練誤差樣本的統計分析，幫助找到減小誤差的最快方向。
三、快速搭建你的系統原型，不斷迭代
四、在不同的劃分上訓練模型（讓你的train資料集和test資料集來自不同分布，以此增多你的實驗資料）
優先保證你的dev和test資料集最真實接近於真實的資料分布，train 資料優先順序低於前兩項，當zhen真實資料集不足，可以新增次真實的資料集新增用來train。 但是train 資料集建議仍舊daiy帶有少量。
*不建議dev 、test 、train 均勻劃分（真實+非真實)全部資料集
深度學習 吳恩達
第三週神經網路 啟用函式 第一門課 感謝黃博的參考筆記 一次梯度下降 正向傳播與反向傳播 一次反向傳播梯度下降 注意與機器學習課程不同的一點是，第一層不算樣本輸入 a t an z a tan z a tan z 的值域是位於 1和 1之間。a t anh z e z e zez e za tanh...
吳恩達機器學習（正則化）
圖1 是乙個線性模型，欠擬合或者叫做高偏差，不能很好地適應我們的訓練集 我們看看這些資料，很明顯，隨著房子面積增大，住房 的變化趨於穩定或者說越往右越平緩。因此線性回歸並沒有很好擬合訓練資料。圖2 恰當合適的擬合了資料 圖3 完美的擬合了訓練資料，稱之為過擬合或者叫做高方差，過於強調擬合原始資料，而...
吳恩達 深度學習 學習筆記
第一周 卷積神經網路 第二週 深度卷積網路 例項 第三週 目標檢測 首先我們來看一下普通的滑動視窗，首先給一張14 14 3的影象用16個5 5 3過濾器處理之後變成10 10 16的特徵圖，經過2 2的池化操作後變成 5 5 16 的特徵圖，然後新增乙個連線400個單元的全連線層，再新增乙個全連線...