引數與超引數
模型引數是模型內部的配置變數，其值可以根據資料進行估計。
- 進行**時需要引數。
- 它引數定義了可使用的模型。
- 引數是從資料估計或獲悉的。
- 引數通常不由程式設計者手動設定。
- 引數通常被儲存為學習模型的一部分。
- 引數是機器學習演算法的關鍵，它們通常由過去的訓練資料中總結得出 。
模型超引數是模型外部的配置，其值無法從資料中估計。
- 超引數通常用於幫助估計模型引數。
- 超引數通常由人工指定。
- 超引數通常可以使用啟發式設定。
- 超引數經常被調整為給定的**建模問題。
我們前面(4)部分的優化都是基於模型本身的具體形式的優化，那本次(5)調整的內容是超引數，也就是取不同的超引數的值對於模型的效能有不同的影響。
sklearn中搜尋調優的方法
機器學習 學習筆記 模型評估與選擇
了解錯誤率，精度，誤差，訓練誤差 經驗誤差 泛化誤差的概念 過擬合 過配 和欠擬合 欠配 過擬合就是過度擬合，即將樣本自身的一些特點當做了樣本的一般特性，使得泛化能力降低，注意，過擬合無法避免。欠擬合則與之相反。模型選擇時，選擇泛化誤差最小的，但是我們無法直接獲得泛化誤差，而訓練誤差因為過擬合的存在...
機器學習筆記之模型評估與選擇
2.1經驗誤差與過擬合 錯誤率 error rate 分類錯誤的樣本數佔樣本總數的比例 精度 accuracy 1 錯誤率 誤差 error 實際 輸出與樣本的真實輸出之間的差異 訓練誤差 經驗誤差 在訓練集上的誤差 測試誤差 泛化誤差 在新樣本的誤差 過擬合 學習時選擇的模型包含的引數過多，對已知...
機器學習筆記 2 模型評估與選擇之評估方法
理想 通過評估學習器的泛化誤差，選出泛化誤差最小的模型。實際 泛化誤差只能通過測試求得的測試誤差來近似。從總樣本集 d 中產生訓練集 s 和測試集 t，往往有以下三種常見方法 留出法 交叉驗證法 自助法。1.留出法 留出法 直接將資料集 d 劃分為兩個互斥的集合，即 d s 比如上圖，紅色部分為訓練...