過擬合
所謂過擬合，指的是模型在訓練集上表現的很好，但是在交叉驗證和集合測試集上表現一般，也就是說模型對未知樣本的**表現一般，泛化（generalization）能力較差。
從圖中可以看出，圖一是欠擬合，模型不能很好地擬合資料；圖二是最佳的情況；圖三就是過擬合，採用了很複雜的模型。最後導致曲線波動很大，最後最可能出現的結果就是模型對於未知樣本的**效果很差。
在機器學習演算法中，我們常常將原始資料集分為三部分：training data、validation data，testing data。這個validation data是什麼？它其實就是用來避免過擬合的，在訓練過程中，我們通常用它來確定一些超引數（比如根據validation data上的accuracy來確定early stopping的epoch大小、根據validation data確定learning rate等等）。那為啥不直接在testing data上做這些呢？因為如果在testing data做這些，那麼隨著訓練的進行，我們的網路實際上就是在一點一點地overfitting我們的testing data，導致最後得到的testing accuracy沒有任何參考意義。
參考：機器學習中過擬合的解決辦法
訓練集 測試集 驗證集與交叉驗證
當我們訓練好乙個模型時，我們不只希望這個模型只在訓練集上表現的好，更重要的是希望這個模型後續能表現的好，這時候就需要測試集，用於評估這個模型的泛化能力。通常情況下，我們將資料以8 2的比例分割訓練集和測試集。在演算法模型中，我們還要使用正則化技術，避免過擬合。其中乙個做法就是使用100個不同超引數訓...
訓練集 測試集 驗證集與交叉驗證
初學者對於訓練集 train set 測試集 test set 驗證集 validation set 這三個概念和應用非常容易搞混，這裡我結合各種博文和書籍上的講解進行總結 參與訓練，模型從訓練集中學習經驗，從而不斷減小訓練誤差。這個最容易理解，一般沒什麼疑惑。不參與訓練，用於在訓練過程中檢驗模型的...
機器學習 驗證資料集與交叉驗證
1 方案 一 將所有資料集都作為訓練資料集 2 方案 二 將資料集分割為訓練資料集和測試資料集 此方案得到的最佳模型，有可能會過擬合了測試資料集 模型過擬合測試資料集後，在測試資料集上表現的準確率會公升高 得到的模型的準確率不能反應模型真正的效能 如果最佳模型過擬合了測試資料集，並且測試資料集上存在...