1. cross-validation的結果穩定並不能說明沒有過擬合。
2. 確定是否過擬合，要看variance是否比較高。
3. 判斷variance是否比較高，要看test error是否比traing error明顯高很多。
4. test error和training error的比較可以用10輪交叉驗證的test error與training error的均值進行。
交叉驗證與過擬合：
對於k折交叉驗證，隨著訓練資料和驗證資料的增加以及訓練和驗證的進度，到訓練和驗證完成，
如果訓練誤差和驗證誤差相差較大，則很可能發生可過擬合
交叉驗證相對於固定測試集來說可以利用全樣本來做測試，增加了測試集的多樣性，在一定程度上可以說防止過擬合的。
scikit learning 交叉驗證
import numpy as np from sklearn import datasets from sklearn.cross validation import train test split from sklearn.neighbors import kneighborsclassifi...
交叉驗證（cross validation）
交叉驗證是資料分析時模型選擇的方法之一，將資料集分為三份，分別為訓練集 training set 驗證集 valication set 和測試集 test set 分別功能為訓練模型，選擇模型和對學習方法的評估。其演算法的思想為重複的使用資料，使得模型的精度越來越高。交叉驗證的方法有以下三種 1.簡...
交叉驗證（Cross validation
交叉驗證 cross validation 交叉驗證用於防止模型過於複雜而引起的過擬合 作用 如何交叉驗證 我這裡主要介紹k交叉驗證 1 將資料集分成k份 2 對於每乙個模型 拿多項式回歸舉例，m 2為乙個模型，m 3為乙個模型。我們主要就是尋找最好的m for j 1,2,k 將除第j份的所有資料...