步驟
1.1 計算已知點和被求點的距離
1.2 按距離遞增排序
1.3 求出距離最近的前k個點的類別最大值作為目標分類
from numpy import *import
operator
defcreatedateset():
group = array([[1.0,1.1], [1.0,1.0], [0,0], [0,0.1]])
labels = ['
a', '
a', '
b', 'b'
]
return
group, labels
defclassify0(inx, dataset, labels, k):
datasetsize =dataset.shape[0]
diffmat = tile(inx, (datasetsize,1)) -dataset
sqdiffmat = diffmat ** 2sqdistances = sqdiffmat.sum(axis=1)
distance = sqdistances ** 0.5sortdistindices =distance.argsort()
classcount ={}
for i in
range(k):
voteilable =labels[sortdistindices[i]]
classcount[voteilable] = classcount.get(voteilable, 0) + 1sortedclasscount =sorted(classcount.iteritems(),
key = operator.itemgetter(1), reverse=true)
return
sortedclasscount[0][0]
if__name__ == "
__main__":
group, labels =createdateset()
inx = [1.1, 0.2]
k = 3aimclass =classify0(inx, group, labels, k)
print aimclass
語法解析
a. shape()得到矩陣的各個維度的長度
b. tile，舉例
>>> a
[1, 2]
>>> tile(a, 2)
array([1, 2, 1, 2])
>>> tile(a, (2,2))
array([[1, 2, 1, 2],
[1, 2, 1, 2]])
>>> tile(a, (3, 2,2))
array([[[1, 2, 1, 2],
[1, 2, 1, 2]],
[[1, 2, 1, 2],
[1, 2, 1, 2]],
[[1, 2, 1, 2],
[1, 2, 1, 2]]])
c. sortdistindices = distance.argsort() 得到排序後的名次，越大名次越大
d. sortedclasscount = sorted(classcount.iteritems(), key = operator.itemgetter(1), reverse=true) 對字典的值進行逆序（降序）排序
k 近鄰演算法
此文章參考機器學習實戰一書，具體的理論知識可以參考該書。本文的初衷只是為了做乙個複習，將學過的知識加以整理，其中不免有一定的錯誤。2.k 近鄰演算法的原理介紹 k 近鄰演算法通過測量不同的特徵值之間的距離進行分類。它的工作原理如下 存在乙個樣本的資料集合，也成為訓練樣本集合。並且樣本集中的每個資料都...
K 近鄰演算法
k 近鄰演算法採用測量不同特徵值之間的距離方法進行分類。優點 精度高 對異常值不敏感 無資料輸入假定 缺點 計算複雜度高 空間複雜度高 適用資料範圍 數值型和標稱型 工作原理 存在乙個樣本資料集合，也稱作訓練樣本集，並且樣本集中每個資料都存在標籤，即我們知道樣本集中每一資料與所屬分類的對應關係。輸入...
K 近鄰演算法
首先，我們將 k 近鄰演算法的基本理論 其次我們將使用python從文字檔案中匯入並解析資料 再次，討論當存在許多資料 的時，如何避免計算距離時可能碰到的一些常見錯誤 最後，利用實際的例子講解如何使用k 近鄰演算法改進約會 1.1 knn演算法 工作原理 存在乙個樣本資料集合，也稱作訓練樣本集，並且...