prml中首章緒論的模型選擇，提到兩個方法：
1、交叉驗證（cross-validation）
2、赤池資訊準則（akaike information criterion），簡稱：aic。
交叉驗證是模型選擇的一種方法，若有模型選擇問題，就可以用交叉驗證。例如做線性回歸，你有 10 個變數，就有 （2的10次方=）1024 個模型需要選擇，就可以使用交叉驗證 或者 aic。
使用交叉驗證是從**的角度去做，使用 aic 是從模型的複雜度與模型的擬合角度去做。
交叉驗證：
（ref-baidu ：在給定的建模樣本中，拿出大部分樣本進行建模型，留小部分樣本用剛建立的模型進行預報，並求這小部分樣本的預報誤差，記錄它們的平方加和。）
如果模型的設計使用有限規模的資料集迭代很多次，那麼對於驗證資料會發生一定程度的過擬合，因此保留乙個第三方的測試集是很有必要的。
例如乙個 「五折交叉驗證」，
將資料劃分為5組，分別為 g1、g2、g3、g4、g5。
① 取g1組作為測試組，其餘4組作為訓練組；
② 取g2組作為測試組，其餘4組作為訓練組；
③ 取g3組作為測試組，其餘4組作為訓練組；
④ 取g4組作為測試組，其餘4組作為訓練組；
⑤ 取g5組作為測試組，其餘4組作為訓練組。
對5輪執行結果的表現得分求平均值。
scikit learning 交叉驗證
import numpy as np from sklearn import datasets from sklearn.cross validation import train test split from sklearn.neighbors import kneighborsclassifi...
交叉驗證（cross validation）
交叉驗證是資料分析時模型選擇的方法之一，將資料集分為三份，分別為訓練集 training set 驗證集 valication set 和測試集 test set 分別功能為訓練模型，選擇模型和對學習方法的評估。其演算法的思想為重複的使用資料，使得模型的精度越來越高。交叉驗證的方法有以下三種 1.簡...
交叉驗證（Cross validation
交叉驗證 cross validation 交叉驗證用於防止模型過於複雜而引起的過擬合 作用 如何交叉驗證 我這裡主要介紹k交叉驗證 1 將資料集分成k份 2 對於每乙個模型 拿多項式回歸舉例，m 2為乙個模型，m 3為乙個模型。我們主要就是尋找最好的m for j 1,2,k 將除第j份的所有資料...