train是訓練集，val是訓練過程中的測試集，是為了讓你在邊訓練邊看到訓練的結果，及時判斷學習狀態。test就是訓練模型結束後，用於評價模型結果的測試集。只有train就可以訓練，val不是必須的，比例也可以設定很小。test對於model訓練也不是必須的，但是一般都要預留一些用來檢測，通常推薦比例是8:1:1
val是validation的簡稱。
training dataset和validation dataset都是在訓練的時候起作用。
而因為validation的資料集和training沒有交集，所以這部分資料對最終訓練出的模型沒有貢獻。
validation的主要作用是來驗證是否過擬合、以及用來調節訓練引數等。
比如訓練0-10000次迭代過程中，train和validation的loss都是不斷降低，
但是從10000-20000過程中train loss不斷降低，validation的loss不降反公升。
那麼就證明繼續訓練下去，模型只是對training dataset這部分擬合的特別好，但是泛化能力很差。
所以與其選取20000次的結果，不如選擇10000次的結果。
這個過程的名字叫做early stop，validation資料在此過程中必不可少。
如果跑caffe自帶的訓練demo，你會用到train_val.prototxt，這裡面的val其實就是validation。
而網路輸入的test層，其實就是validation，而不是test。你可以通過觀察validation的loss和train的loss定下你需要的模型。
但是為什麼現在很多人都不用validation了呢？
我的理解是現在模型中防止過擬合的機制已經比較完善了，dropout\bn等做的很好了。
而且很多時候大家都用原來的模型進行fine tune，也比從頭開始更難過擬合。
所以大家一般都定乙個訓練迭代次數，直接取最後的模型來測試。
的訓練過程 模型訓練過程中累計auc
在平時計算auc的時候，大都是使用 sklearn.metrics.roc auc score 來計算。一般操作是將每個batch 出來的結果 拼接起來，然後扔到該函式中計算。但是如果測試集量級過大 比如 10億量級 每個樣本的 結果拼接起來之後至少需要 3g記憶體。這個開銷顯然不是我們想要的。有什...
Tensorflow訓練過程中validation
tensorflow因為靜態圖的原因，邊train邊validation的過程相較於pytorch來說複雜一些。分別獲取訓練集和驗證集的資料。我這裡使用的是從tfrecoed讀入資料。training data img name batch train,img batch train,gtboxes...
訓練過程中的train，val，test的區別
train是訓練集，val validation的簡稱 是訓練過程中的測試集，是為了讓你在邊訓練邊看到訓練的結果，及時判斷學習狀態。test是訓練模型結束後，用於評價模型結果的測試集。其中，只有train是需要訓練的，val和test不是必須的。一般的，val的資料集和train沒有交集，所以這部分...