聚類分析方法

2022-07-15 12:48:11 字數 1097 閱讀 2961

聚類分析(cluster analysis)是一組將研究物件分為相對同質的群組(clusters)的統計分析技術。 聚類分析也叫分類分析(classification analysis)或數值分類(numerical taxonomy)。聚類與分類的不同在於,聚類所要求劃分的類是未知的。 但是這同時也是聚類方法的優越之處:分類方法的結果是要給每個樣本乙個label,通過這個label來標記分類;而聚類的目標並不是要得到乙個label,而是演算法通過理解樣本內容(包括其特徵)本身,達到類別劃分的目的。

聚類分析計算方法主要有: 層次的方法(hierarchical method)、劃分方法(partitioning method)、基於密度的方法(density-based method)、基於網格的方法(grid-based method)、基於模型的方法(model-based method)等。其中,前兩種演算法是利用統計學定義的距離進行度量。

k-means 演算法的工作過程說明如下:首先從n個資料物件任意選擇 k 個物件作為初始聚類中心;而對於所剩下其它物件,則根據它們與這些聚類中心的相似度(距離),分別將它們分配給與其最相似的(聚類中心所代表的)聚類;然 後再計算每個所獲新聚類的聚類中心(該聚類中所有物件的均值);不斷重複這一過程直到標準測度函式開始收斂為止。一般都採用均方差作為標準測度函式. k個聚類具有以下特點:各聚類本身盡可能的緊湊,而各聚類之間盡可能的分開。 其流程如下:

(1)從 n個資料物件任意選擇 k 個物件作為初始聚類中心;     

(2)根據每個聚類物件的均值(中心物件),計算每個物件與這些中心物件的距離;並根據最小距離重新對相應物件進行劃分;   

(3)重新計算每個(有變化)聚類的均值(中心物件);

(4)迴圈(2)、(3)直到每個聚類不再發生變化為止(標準測量函式收斂)。

優點:本演算法確定的k 個劃分到達平方誤差最小。當聚類是密集的,且類與類之間區別明顯時,效果較好。對於處理大資料集,這個演算法是相對可伸縮和高效的,計算的複雜度為 o(nkt),其中n是資料物件的數目,t是迭代的次數。一般來說,k《缺點:1. k 是事先給定的,但非常難以選定;2. 初始聚類中心的選擇對聚類結果有較大的影響。

點評:考察的內容是常用資料分析方法,做資料分析一定要理解資料分析演算法、應用場景、使用過程、以及優缺點。

聚類分析(一) 什麼是聚類分析

將一群物理物件或者抽象物件的劃分成相似的物件類的過程。其中類簇是資料物件的集合,在類簇中所有的物件都彼此相似,而類簇與類簇之間的物件是彼此相異。聚類除了可以用於資料分割 data segmentation 也可以用於離群點檢測 outlier detection 所謂的離群點指的是與 普通 點相對應...

聚類分析(一) 什麼是聚類分析

將一群物理物件或者抽象物件的劃分成相似的物件類的過程。其中類簇是資料物件的集合,在類簇中所有的物件都彼此相似,而類簇與類簇之間的物件是彼此相異。聚類除了可以用於資料分割 data segmentation 也可以用於離群點檢測 outlier detection 所謂的離群點指的是與 普通 點相對應...

聚類分析筆記

1.什麼是聚類 定義 將無力或抽象物件的集合分組成為由類似的物件組成的多個類的過程被稱為聚類。由聚類所生成的簇是一組資料物件的集合,這些物件與同乙個簇中的物件彼此相似,與其他簇中的物件相異。與分類的區別,分類是有指導學習 類數目已知 聚類是無指導學習 類數目未知 典型應用 商務上,分析不同的客戶群,...