整合方法 ensemble method
元演算法 meta algorithm
概念：是對其他演算法進行整合的一種形式
整合方法：
i.投票方法 bagging 基於資料隨機抽樣分類起構造的方法
ii.再學習 boosting 基於所有分類器的加權求和的方法
場景：比較流行的是：
bagging與boosting區別與聯絡
1.bagging是一種與boosting很類似的技術，所使用的多個分類器的型別（資料量和特徵量）都是一致的
2.bagging是由不同的分類器（1.資料隨機化2特徵隨機化）經過訓練，綜合得出的出現最多的分類結果；boosting是通過已經有的分類器資料分的那些資料來獲得新的分類器，得出最優的結果。
3.bagging中分類器權重是相等的，而boosting中分類器加權求和，所以權重並不相等，每個權重代表的是其對應分類器在上一輪迭代中的成功率。
深度學習 模型整合方法
設定為隨模型迭代輪數t t iteration，即一次批處理隨機梯度下降稱為乙個迭代輪數 改變的函式，即 t 0 2 co s m od t 1,t m t m 1 t 02 cos mod t 1,t m t m 1 0 0 若網路超引數設定得當，深度模型隨著網路的進行會逐步趨於收斂，但是不同的訓...
機器學習筆記 整合學習
1 什麼時候用整合學習？整合學習有利於減少模型方差，因此當模型複雜度複雜度太高時可以用整合學習方法 參加kaggle等比賽的時候 2 bagging和boosting的基學習器有一樣的特點？bagging的基學習器更強一些，它們學習的物件都是目標任務，最終的 模型是直接拿子模型的決策結果投票或者做平...
機器學習實戰筆記 整合學習
整合學習分為兩類 個體學習器間存在強依賴關係，必須序列生成的序列方法 boosting 個體學習器之間不存在強一賴關係，可同時生成的並行方法 bagging和隨機森林 boosting adaboost演算法 採用指數損失函式，yi f是真實函式。adaboost的一般流程 收集資料 準備資料 依賴...