決策樹(decision tree）是在已知各種情況發生概率的基礎上，通過構成決策樹來求取淨現值的期望值大於等於零的概率，評價專案風險，判斷其可行性的決策分析方法，是直觀運用概率分析的一種**法。由於這種決策分支畫成圖形很像一棵樹的枝幹，故稱決策樹。在機器學習中，決策樹是乙個**模型，他代表的是物件屬性與物件值之間的一種對映關係。entropy = 系統的凌亂程度，使用演算法id3, c4.5和c5.0生成樹演算法使用熵。這一度量是基於資訊學理論中熵的概念。
決策樹是一種樹形結構，其中每個內部節點表示乙個屬性上的測試，每個分支代表乙個測試輸出，每個葉節點代表一種類別。
分類樹（決策樹）是一種十分常用的分類方法。他是一種監管學習，所謂監管學習就是給定一堆樣本，每個樣本都有一組屬性和乙個類別，這些類別是事先確定的，那麼通過學習得到乙個分類器，這個分類器能夠對新出現的物件給出正確的分類。這樣的機器學習就被稱之為監督學習。
機器學習（5） 決策樹（上）原理
決策樹是機器學習中一種基本的分類和回歸演算法，是依託於策略抉擇而建立起來的樹。其主要優點是模型具有可讀性，分類速度快，易於理解。決策樹的思想主要 於quinlan在1986年提出的id3演算法和1993年提出的c4.5演算法，以及有breiman等人在1984年提出的cart演算法。由於本章內容較多...
決策樹（上篇）
我們在做決斷的時候往往不是一蹴而就的，而是一步一步綜合各方面因素來做出最後決策，比如三叔要決定周二晚上是否去打羽毛球，會首先考慮最近身體狀況，然後考慮當天的天氣是否下雨，是否有朋友同去，是否有場地等因素再決定是否去打羽毛球，如果把這些因素及判定用下面豎直方向的流程圖畫出來正如一顆倒立的樹，決策樹因此...
機器學習 決策樹
一 基本概念 決策樹 decision tree 是一種基本的分類與回歸方法。決策樹模型呈樹形結構，在分類問題中，表示屬於特徵對例項進行分類的過程，它可以認為是if then規則的集合，也可以認為是電議在特徵空間與類空空上的條件概率分布，其主要優點是模型具有可讀性，分類速度快。決策樹的學習通常包括3...