boost也分為許多種類，如adaboost、gradient boost、xgboost等，gradient boost顧名思義，與梯度脫不開關係，對梯度有了解或學過數值計算的人應當知道，負梯度方向是函式下降最快的方向。在有監督機器學習中，我們的目標是學得使得損失函式最小的模型，因此梯度下降演算法的目標則是在每一輪迭代中，求得當前模型的損失函式的負梯度方向，乘以一定的步長（即學習速率），加到當前模型中形成此輪迭代產生的新模型，從而達到每一輪迭代後的模型，相比上輪模型，都可以使得損失函式更小的目的。
介紹思想
引數及定義
如何衡量變數的重要性
Bagging與Boosting的區別與聯絡
baggging 和boosting都是模型融合的方法，可以將弱分類器融合之後形成乙個強分類器，而且融合之後的效果會比最好的弱分類器更好。boosting與bagging不同的是，bagging是多個模型 並行 voting決定結果 而boosting是多個模型序列，通過多個模型的結果相加得到最終的...
R樹演算法C 實現
不足結語 參考是最重要的。首先應該看的就是r樹的 a.guttman.r trees a dynamic index structure for spatial searching.in sigmod conference,1984.中介紹的節點組織結構 不同的 演算法 效率分析，是很多部落格上被省...
dbscan聚類演算法的R實現
首先，先講下需要解決的問題 問題 挑選出了一條染色體上的一些gene位點，用dbscan演算法檢查下這些基因在位置上有沒有聚集。輸入檔案 id,start,end gene0001 1 1323 gene0002 1483 2619 gene0003 2580 4889 gene0009 14089...