引數和超引數

舉例說明一些機器學習演算法中的普通引數和超引數：

機器學習演算法

普通引數舉例

超引數舉例

決策樹在每個節點上選擇的輸入變數、每個節點上選擇的閾值

每個葉節點所應包括的最少資料量，訓練後的剪枝（pruning）策略

隨機森林

同上決策樹的數量，輸入變數的數量

支援向量機

支援向量（support vector）的選擇，每個支援向量的拉格朗日乘數

核（kernel）的選擇，正則化常量c和核函式的超引數

神經網路

每層的權重

隱藏層的數量，每層的神經元數量，訓練的epoch，學習率等

k近鄰近鄰k的選擇，距離函式的選擇，初始化選擇等

樸素貝葉斯

每一類的先驗概率

數值屬性用核數密度估計量或正態分佈，核密度估計量的視窗寬度

模型根據資料自動學習出的變數，就是引數。比如，深度學習的權重，偏差等。

超引數一般是根據經驗確定的變數，用來確定模型的一些引數，超引數不同，模型是不同的。在深度學習中，超引數有：學習速率（lr），迭代次數，層數，每層神經元的個數等等。

模型引數和超引數

總結個人理解 機器學習中的模型引數和模型超引數在作用 等方面都有所不同，而模型超引數常被稱為模型引數，這樣，很容易對初學者造成混淆。本文給出了模型引數和模型超引數的定義，並進行了對比，指出了二者本質上的區別 模型引數是模型內部的配置變數，可以用資料估計模型引數的值 模型超引數是模型外部的配置，必須手...

引數和超引數的區別

計算機學科裡有太多的術語，而且許多術語的使用並不一致。哪怕是相同的術語，不同學科的人理解一定有所不同。比如說 模型引數 model parameter 和 模型超引數 model hyperparameter 對於初學者來說，這些沒有明確定義的術語肯定很令人困惑。尤其是對於些來自統計學或經濟學領域的...

引數與超引數

模型引數是模型內部的配置變數，可以用資料估計模型引數的值 模型超引數是模型外部的配置，必須手動設定引數的值。具體來講，模型引數有以下特徵 進行模型 時需要模型引數。模型引數值可以定義模型功能。模型引數用資料估計或資料學習得到。模型引數一般不由實踐者手動設定。模型引數通常作為學習模型的一部分儲存。通常...