原理：
型別**：多數表決法，k個最近的鄰居中，那種型別所佔的比例最大，那我們就**這個點是哪一種型別。
回歸**：平均法，取k個最近的點的平均值。
knn三要素
a . k值的選擇，一般會選擇乙個較小的值，然後通過交叉驗證的方式的到最合適的終值。
b. 距離的測量，一般選用歐式距離
c. 決策規則：分類，多數表決法；回歸**，平均法。
多數表決法和平均法都存在普通和加權的差別，若是加權的話，一般權重和距離是成反比的。
kd-tree
相比於全量計算目標點和樣本點的歐式距離來獲取最近的k個值，kd-tree可以更快的找到最近的k個點。
sklearn中的api介面引數說明。
KNN k近鄰演算法
現在假如我們已經擁有了一些資料 稱為訓練資料集 ts，並且擁有所有資料的類別名 即每條資料應該歸於哪個類別。當我們要判斷一條不知類別的資料時，首先讓這條資料m和已經擁有的所有的資料ts中的每一條資料進行比較，然後根據比較結果選擇出和m最相似 一般是基於距離 的k條資料 k是個整數，並且通常是小於20...
kNN（k近鄰演算法）
k近鄰分析 knn 一 概述 knn演算法是一種有監督學習的分類演算法。所謂有監督學習，就是在應用演算法之前我們必須準備一組訓練集，訓練集中的每個例項都是由一些特徵和乙個分類標籤組成 通常還會存在乙個測試集，用來測試訓練出來的分類模型的準確性。其實knn演算法並沒有體現出有監督學習的所有特點，沒有模...
kNN k近鄰演算法
一 knn演算法的思想 knn演算法作為機器學習演算法中非常有效比較容易掌握的演算法，其基本思想是採用測量不同特徵值之間的距離的方法進行分類。knn屬於監督學習演算法，它的工作原理是 存在乙個樣本資料集，訓練樣本集，並且樣本集中的每個資料都存在標籤，即我們知道樣本集中每乙個資料與所屬分類的對應關係。...