比如演算法中的 learning rate (學習率)a，iterations (梯度下降法迴圈次數)、l(隱藏層數目)、$}$（隱藏層單元數目）、choice of activation function（啟用函式的選擇）都需要人為設定，這些引數實際上控制了最終需要計算的引數w、b，所以這些引數被稱為超引數。實際上超引數還有很多，例如momentum、 mini batch size、 regularization parameters 等等。
如何尋找最佳的超引數：
採用idea—code—experiment—idea 這個迴圈， 嘗試各種不同的引數， 實現模型並觀察是否成功，然後再迭代 。
在開發的過程中，超引數是會改變的，因為cpu、gpu等會變化，所以每幾個月就要檢查一下超引數值是乙個很值得推薦的習慣。
引數與超引數
模型引數是模型內部的配置變數，可以用資料估計模型引數的值 模型超引數是模型外部的配置，必須手動設定引數的值。具體來講，模型引數有以下特徵 進行模型 時需要模型引數。模型引數值可以定義模型功能。模型引數用資料估計或資料學習得到。模型引數一般不由實踐者手動設定。模型引數通常作為學習模型的一部分儲存。通常...
引數與超引數
計算機學科裡有太多的術語，而且許多術語的使用並不一致。哪怕是相同的術語，不同學科的人理解一定有所不同。比如說 模型引數 model parameter 和 模型超引數 model hyperparameter 對於初學者來說，這些沒有明確定義的術語肯定很令人困惑。尤其是對於些來自統計學或經濟學領域的...
引數和超引數
舉例說明一些機器學習演算法中的普通引數和超引數 機器學習演算法 普通引數舉例 超引數舉例 決策樹在每個節點上選擇的輸入變數 每個節點上選擇的閾值 每個葉節點所應包括的最少資料量，訓練後的剪枝 pruning 策略 隨機森林 同上決策樹的數量，輸入變數的數量 支援向量機 支援向量 support ve...