1、模型的scalability，弱分類器除cart外也支援lr和linear
2、策略的scalability，可以支援不同的loss functions，來優化效果，只要
一、二階可導即可
3、演算法的scalability，做了很多細節工作，來優化引數學習和迭代速度，特徵壓縮技術，bagging學習中的特徵抽樣，特徵選擇與閾值**的分位方法和並行方法等
4、資料的scalability，因為3中的優化，支援b級別的快速訓練和建模；同時也因為加上了正則項和隨機特徵抽樣，減少了過擬合問題
GBDT和XGBOOST的區別
陳天奇的xgboost在kaggle中大放異彩，下面講解gbdt和xgboost的區別 com question 41354392xgboost使用小案例 net hb707934728 article details 70739040分類和回歸樹的學習見李航的統計學習方法cart gbdt和xgb...
GBDT和XGBoost的區別
1 gbdt是機器學習演算法，而xgboost是演算法的工程實現 2 使用cart作為基分類器時，xgboost顯式的加入了正則項來控制模型的複雜度，防止過擬合，提高了模型 的泛化能力 3 gbdt只使用了代價函式的一階導數資訊，而xgboost對代價函式進行二階泰勒展開，同時使用一階和二階資訊。4...
機器學習 GBDT和XGBoost的區別
一 gbdt原理 1 簡介 gbdt是乙個基於迭代累加的決策樹演算法，它通過構造一組弱的學習器 樹 並把多顆決策樹的結果累加起來作為最終的 輸出。他的核心就是累加所有樹的結果最為最終結果 但實際上並不是簡單的疊加 gbdt中的樹都是回歸樹，構建每棵樹的時候，我們會對特徵和樣本同時取樣 引用rf思想 ...