python小白之路 第十八章 整合學習與隨機森林

2021-10-24 18:21:58 字數 2131 閱讀 7880

將多個學習模組的結果統一成乙個最終的成果機器學習方法。其中每個單獨的分類器稱為基分類器。

根據基分類器的結果進行投票作為最終**結果

from sklearn.ensemble import votingclassifier

from sklearn.neighbors import kneighborsclassifier

from sklearn.tree import decisiontreeclassifier

voting_clf = votingclassifier(

estimators=[(

'knn_clf'

,kneighborsclassifier(n_neighbors=5)

),('dt_clf'

,descisiontreeclassifier(rangom_state=

666))]

,voting-

'hard'

)# 引數說明

# estimators 基分類器

# voting 投票方式 ['hard','soft']: 'hard'直接統計票數**結果,'soft'根據權值**結果

當子模型數量增加時,整合模型的精度會提公升。用多個弱學習器實現強學習器的效果。

基於自助取樣法(bootstrap sampling)

from sklearn.ensemble import baggingclassifier

from sklearn.ensemble import baggingregressor

from sklearn.tree import decisiontreeclassifier

bagging_clf = baggingclassifier(

decisiontreeclassifier(random_state=

666)

, n_estimators=10,

max_samples=

100,

random_state=42)

# 引數說明

# n_estimators 子模型數量

# max_samples 取樣數量

# bootstrap 取樣方式[true,false]:true 有放回;false 無放回

# max_features 特徵取樣的個數

# bootstrap_features 對特徵是否進行有放回抽樣

# oob_score 使用包外資料進行測試:true 使用 *訓練完後用.oob_score_獲得分數

# n_jobs 並行化,使用計算機的幾個核 default=none : none 1個核;n n個核;-1 所有核

bagging模型+基學習器:決策樹。

from sklearn.ensemble import randomforestclassifier

from sklearn.ensemble import randomforestregressor

rdf-clf = randomforestclassifier(

n_estimators=

100,

random_state=

666,

oob_score=

true

)

比隨機森林更隨機的乙個森林

from sklearn.ensemble import extratreesclassifier

from sklearn.ensemble import extratreesregressor

et_clf = extratreescclassifier(

n_estimators=

100,

oob_score=

true

, random_state=

666,

bootstrap=

true

)

第十八章 B樹

施工中施工中 基本操作主要包括 搜尋b樹,建立空b樹,插入關鍵字。18.3放出刪除關鍵字的 class program region 磁碟操作 為結點初始化對應的磁碟頁 private static node t allocate node t 磁碟寫操作 private static void d...

第十八章 定製特性

目錄 18.1 使用定製特性 18.2 定義自己的特性類 18.3 特性構造器和字段 屬性資料型別 18.4 檢測定製特性 18.5 兩個特性例項的相互匹配 18.6 檢測定製特性時不建立從attribute派生的物件 18.7 條件特性類 定製特性 利用定製特性,可宣告式地為自己的 構造新增註解來...

python入到到實戰 第十八章

第十八章 django入門 建立專案 新建目錄learning log 切換到learning log下,執行 python m venv ll env,建立虛擬環境 啟用虛擬環境,執行ll env scripts activate 停止虛擬環境,執行deactivate windows環境,其他作...