18大經典資料探勘演算法小結

本文所有涉及到的資料探勘**的都放在了我的github上了。

大概花了將近2個月的時間，自己把18大資料探勘的經典演算法進行了學習並且進行了**實現，涉及到了決策分類，聚類，鏈結挖掘，關聯挖掘，模式挖掘等等方面。也算是對資料探勘領域的小小入門了吧。下面就做個小小的總結，後面都是我自己相應演算法的博文鏈結，希望能夠幫助大家學習。

1.c4.5演算法。c4.5演算法與id3演算法一樣，都是數學分類演算法，c4.5演算法是id3演算法的乙個改進。id3演算法採用資訊增益進行決策判斷，而c4.5採用的是增益率。

2.cart演算法。cart演算法的全稱是分類回歸樹演算法，他是乙個二元分類，採用的是類似於熵的基尼指數作為分類決策，形成決策樹後之後還要進行剪枝，我自己在實現整個演算法的時候採用的是代價複雜度演算法，

3.knn(k最近鄰)演算法。給定一些已經訓練好的資料，輸入乙個新的測試資料點，計算包含於此測試資料點的最近的點的分類情況，哪個分類的型別占多數，則此測試點的分類與此相同，所以在這裡,有的時候可以複製不同的分類點不同的權重。近的點的權重大點，遠的點自然就小點。