c. 監督演算法
資料 離散型
連續性分類演算法
k近鄰演算法knn
貝葉斯樸素貝葉斯演算法
拉普拉斯平滑:為了避免屬性攜帶的資訊被訓練集中未曾出現過的屬性值所干擾。
半樸素貝葉斯分類器
bayesian belief network(bbn)
線性分類
logistic回歸演算法
二分類多分類
一種改進方式是通過多次二分類實現多個類別的標記
另一種多分類的方式通過直接修改邏輯回歸輸出的似然概率,使之適應多分類問題,得到的模型就是 softmax 回歸
支援向量機(最優分界線)
線性可分支援向量機
線性支援向量機
非線性支援向量機
非線性分類
核函式(進行空間轉換,變成線性的,分界線為超平面空間)
線性核多項式核
高斯核拉普拉斯核
sigmoid核
整合演算法
核心:在多樣性和準確定之間做出權衡
前提學習器效能要有一定保證
學習器的效能要有一定的差異,和而不同才能夠取得進步
學習器是否相同
同質整合
異質整合
演算法分類
boosting(序列):存在強依賴關係
adaboost:面臨的問題
訓練資料權重調整的策略
弱分類器結果的組合策略
boosting tree(提公升樹)
bagging(並行):不存在強依賴關係
隨機森林
一是每個資料子集中的樣本是在原始的訓練資料集中隨機抽取的;
二是在決策樹生成的過程中引入了隨機的屬性選擇。
自舉匯聚法
決策樹演算法
步驟特徵選擇
決策樹生成
id3:資訊增益
c4.5:資訊增益比
分類及回歸樹(cart):基尼係數
決策樹剪枝
預剪枝後剪枝
**演算法
線性回歸
最小二乘法
懲罰性線性回歸
嶺回歸lasso回歸
整合方法
bagging演算法
梯度提公升法
隨機森林
人工智慧 A演算法
在狀態空間搜尋中,如果每一步都利用估價函式f n g n h n 對open表中的結點進行排序,則稱a演算法。它是一種為啟發式搜尋演算法。演算法型別 把初始結點s0放入open表中,f s0 g s0 h s0 如果open表為空,則問題無解 失敗退出 把open表的第乙個結點取出放入closed表...
C 人工智慧 聚類演算法
c.聚類演算法 概要 距離 包括曼哈頓距離 尤拉距離等等 核函式 核函式的功能就是把資料從低維空間投影 project 到高維空間去 dtw層次化聚類演算法 該主要有兩種路徑 agglomerative和divisive,也可以理解為自下而上法 bottom up 和自上而下法 top down 自...
人工智慧簡史 人工智慧簡史
人工智慧簡史 在人工智慧的早期,計算機科學家試圖在計算機中重建人類思維的各個方面。這就是科幻 中的智力型別,即或多或少像我們一樣思考的機器。毫無疑問,這種型別的智慧型稱為可理解性。具有可理解性的計算機可用於探索我們如何推理,學習,判斷,感知和執行腦力活動。可懂度的早期研究集中於在計算機中對現實世界和...