k折的資料集是訓練集，而不是所有資料，它將訓練集分為兩塊來訓練和驗證。
可通過簡單的方式隨機化 sklearn k 折 cv 中的事件，就是將 shuffle 標誌設定為 true。
之後，**將從如下所示：
cv = kfold( len(x), 2 )
變為如下所示：
cv = kfold( len(x), 2, shuffle=true )
cv中含2個列表，乙個是測試集的索引，乙個是訓練集的索引
用於系統地遍歷多種引數組合，通過交叉驗證確定最佳效果引數。它的好處是，只需增加幾行**，就能遍歷多種組合。
下面是來自 sklearn 文件 的乙個示例：
parameters =
svr = svm.svc()
clf = grid_search.gridsearchcv(svr, parameters)
clf.fit(iris.data, iris.target)
讓我們逐行進行說明。
parameters =
引數字典以及他們可取的值。在這種情況下，他們在嘗試找到 kernel（可能的選擇為 'linear' 和 'rbf' ）和 c（可能的選擇為1和10）的最佳組合。
這時，會自動生成乙個不同（kernel、c）引數值組成的「網格」:
('rbf', 1)('rbf', 10)
('linear', 1)('linear', 10)
各組合均用於訓練 svm，並使用交叉驗證對表現進行評估。
svr = svm.svc()
這與建立分類器有點類似。但是請注意，「clf」 到下一行才會生成—這兒僅僅是在說採用哪種演算法。另一種思考方法是，「分類器」在這種情況下不僅僅是乙個演算法，而是演算法加引數值。請注意，這裡不需對 kernel 或 c 做各種嘗試；下一行才處理這個問題。
clf = grid_search.gridsearchcv(svr, parameters)
這是第乙個不可思議之處，分類器建立好了。 我們傳達演算法 (svr) 和引數 (parameters) 字典來嘗試，它生成乙個網格的引數組合進行嘗試。
clf.fit(iris.data, iris.target)
第二個不可思議之處。 擬合函式現在嘗試了所有的引數組合，並返回乙個合適的分類器，自動調整至最佳引數組合。現在您便可通過 clf.best_params_ 來獲得引數值。
機器學習筆記之交叉驗證
在評估演算法的效果時，為什麼要進行交叉驗證呢，檢視了官方說明文件後，對交叉驗證做了如下的描述 在了解交叉交叉驗證之前，我們先了解如下知識 過擬合 是指所建立的機器學習模型在訓練樣本中表現得過於優越，導致在驗證資料集以及測試資料集中表現不佳。為了避免這種情況，通常的做法是執行 監督 機器學習實驗時將部...
機器學習 交叉驗證
假設我們需要從某些候選模型中選擇最適合某個學習問題的模型，我們該如何選擇？以多元回歸模型為例 我們假設模型集合為有限集 假設樣本集為s，根據經驗風險最小化原則 erm 可能會使用這樣的演算法 1.在s上訓練每個模型 2.選擇訓練誤差最小的假設函式，即為我們需要的函式。然而，這樣的演算法實際上並不有效...
機器學習 交叉驗證
交叉驗證是最好的測試方法 乙個問題叫做交叉驗證，是指假設要將乙份資料拆分成訓練集和測試集，這個時候怎麼評估出它的誤差？交叉驗證是把集合拆成五份，取四份做訓練集 乙份做測試集，並且每次選擇不同的那乙份做測試級，最後測出五個結果再做平均，這被認為是最好的測試方法。交叉驗證確實是乙個還不錯的驗證的方法，但...