網格搜尋：在所有候選的引數選擇中，通過迴圈遍歷，嘗試每一種可能性，表現最好的引數就是最終的結果
貝葉斯優化：貝葉斯優化其實就是在函式方程不知的情況下根據已有的取樣點預估函式最大值的乙個演算法。該演算法假設函式符合高斯過程(gp)
隨機搜尋：已經發現，簡單地對引數設定進行固定次數的隨機搜尋，比在窮舉搜尋中的高維空間更有效。這是因為事實證明，一些超引數不通過特徵變換的方式把低維空間轉換到高維空間，而在低維空間不可分的資料，到高維空間中線性可分的機率會高一些。具體方法：核函式，如：高斯核，多項式核等等。
基於梯度：計算相對於超引數的梯度，然後使用梯度下降優化超引數。 參考
sklearn超引數搜尋
1，超引數 在模型訓練中，有些引數不能通過對資料進行學習得到，這種引數叫做超引數。比如，神經網路的層數，每層的神經元數量等。from sklearn.model selection import gridsearchcv from sklearn import svm,datasets defgs ...
Tensorflow 七 超引數搜尋
一 超引數 超引數就是每次訓練中提前設定好的值，在訓練過程不會隨著data的輸入而變化，並且會影響結果的引數。比如 網路結構引數 層數，每層寬度，啟用函式等 訓練引數 batch size,學習率等 在深度學習中，超引數眾多，逐一除錯會很繁瑣，所以需要輔助可以迅速定位超引數。二 超引數搜尋策略 超引...
機器學習 超引數搜尋
模型中除了在訓練中自己更新的引數，需要在預先設定的引數稱為超引數。大概有如下 bachsize,epoch,learniing rate,四種主要策略可用於搜尋最佳配置 1.babysitting，又名試錯 trial error 2.網格搜尋 grid search 3.隨機搜尋 random s...