沒接觸過機器學習的人可能對這個概念比較模糊。我們可以從兩方面來理解
(1)引數值的產生由來
超引數是在開始學習過程之前設定值的引數（人為設定），而不是通過訓練得到的引數資料。（2）超引數含義
（3）舉例
超引數的一些示例：
隨著學習的深入，大家以後會慢慢理解
交叉驗證的目的是什麼?
一般有兩種：
1.我們進行學習的時候，可能會選擇多種模型來訓練，最後我們需要一種評判標準來選擇哪種模型較好，此時就需要交叉驗證
2.我們確定了某種學習模型，但可能有多組引數的選擇，具體選擇哪一種我們也需要交叉驗證
普通的驗證不行嗎，為什麼要交叉的？
因為資料集中某部分可能不純（比如驗證塊中某些資料可能存在誤差值，異常值，導致測試結果偏低，或者某些部分驗證的資料過於簡單，使得測試結果偏高）
關於交叉驗證的具體分類和操作詳見
二、交叉驗證的具體例項詳見cs231n作業筆記1.7：基於特徵的影象分類之調參和cs231n作業筆記1.2: knn的交叉驗證。
三、
四、
深度學習 十折交叉驗證
用scikit learn來評價模型質量，為了更好地挑揀出結果的差異，採用了十折交叉驗證 10 fold cross validation 方法。本程式在輸入層和第乙個隱含層之間加入20 dropout 採用十折交叉驗證的方法進行測試。dropout in the input layer with ...
引數學習 深度學習超引數調整
1 batchsize 每批資料量的大小。dl通常用sgd的優化演算法進行訓練，也就是一次 1 個iteration 一起訓練batchsize個樣本，計算它們的平均損失函式值，來更新引數。2 iteration 1個iteration即迭代一次，也就是用batchsize個樣本訓練一次。3 epo...
深度學習（四） knn 超引數
best score 0.0 設定當前我們已經找到的準確率最好的值，初始化為0 bestk k 1 我們找到的最好的k,初始化為 1 for k in range 1,11 我們傳入10個k,看哪個k最適合鳶尾花 knn clf kneighborsclassifier n neighbors k ...