1.原理：
決策樹說白了就是幫助我們去做乙個決策的構建，就比如在相親的評判，對方沒有房子的時候我們就要考慮他的上進心.沒有上進心則又要考慮等等等要考慮哪些問題，這些可以我們人為構建也可以通過決策樹演算法構建
那麼每一級都有不同的選擇指標，怎麼判斷哪個指標的影響力更大，比如對方有房子、有車則對方的相貌emmm就不考慮了，那麼怎麼去判斷這個指標的重要性呢，我們人當然可以直接去判斷，電腦可不行所以我們提出了。
*熵也是物理中的乙個概念。簡單地說，如果乙個系統中的粒子在運動過程中有很多可能的位置，那麼這個系統就具有比較高的熵值，反之，如果系統中的粒子處於靜止狀態（例子的位置相對固定），則系統具有很低的熵值。**資訊增益的概念****資訊的不確定性程度也可理解為資訊中的事件出現的概率，如果乙個資訊中表達的事件出現的概率很大，那麼即使沒有接受到這個資訊，我們也能大概知道這個事件會發生，這個資訊本身含有的資訊量就會很低。比如乙個資訊說，「明天太陽會從東方公升起」，資訊量如此之少，以至於我們沒有必要接受這條資訊，而如果乙個訊息說，「明天早上會有月食」，這
機器學習 決策樹
一 基本概念 決策樹 decision tree 是一種基本的分類與回歸方法。決策樹模型呈樹形結構，在分類問題中，表示屬於特徵對例項進行分類的過程，它可以認為是if then規則的集合，也可以認為是電議在特徵空間與類空空上的條件概率分布，其主要優點是模型具有可讀性，分類速度快。決策樹的學習通常包括3...
機器學習 決策樹
我覺得決策樹是機器學習所有演算法中最可愛的了 沒有那麼多複雜的數學公式哈哈 下圖是一棵決策樹，用來判斷西瓜是好瓜還是壞瓜 決策過程中提出的每個判定問題都是都對某個屬性的測試，每個測試結果要麼推導出最終結論，要麼匯出進一步判斷的問題，在上次決策結果限定的範圍內做進一步判斷。從上圖可以看出，葉節點對應決...
機器學習 決策樹
一 演算法簡介 決策樹一般都是自上而下來生成的，每個決策後事件 即自然狀態 都可能引出兩個或多個事件，導致結果的不同，把這種結構分支畫成形狀很像一棵樹的枝幹，故稱為決策樹。決策樹能夠讀取資料集合，並且決策樹很多任務都是為了資料中所蘊含的知識資訊，因此決策樹可以使用不熟悉的資料集合，並從中提取一系列規...