度量學習(meritc learning)思考

2021-08-21 16:19:43 字數 1172 閱讀 1224

經典**:

facenet: a unified embedding for face recognition and clustering

deep metric learning via lifted structured feature embedding

簡單總結下個人對mertic learning的認知:

①本質是學習乙個embedding space,也可以理解為對映空間,使得同類的物體距離更近,不同類物體距離更遠

②應用場景:a.大量的類別,如人臉;b.每類訓練樣本較少的情況

③與傳統分類任務相比,度量學習能學習到距離度量的一般概念;在學習到的度量空間與近鄰推理相容。

④學習重點:訓練樣本的組合方式及損失函式的定義。樣本有兩兩組合,三元組合,也有下面**的lifted structured embedding結構;

得到embedding space,可當作特徵向量進行人臉驗證(k-nn分類)、識別(和哪個emdedding距離最近)、聚類。

例如在《facenet: a unified embedding for face recognition and clustering》中

如上圖所示,triplet是乙個三元組,這個三元組是這樣構成的:從訓練資料集中隨機選乙個樣本,稱為anchor,然後再隨機選取乙個和anchor 屬於同一類的樣本和不同類的樣本,這兩個樣本分別稱為positive (記為x_p)和negative (記為x_n),由此構成乙個(anchor,positive,negative)三元組。

針對三元組中的每個元素(樣本),訓練乙個網路,得到三個元素的特徵表達(embedded space),分別記為:

公式化的表示就是: 

對應的目標函式: 

這裡距離用歐式距離度量,+表示內的值大於零的時候,取該值為損失,小於零的時候,損失為零。 

度量學習 筆記

度量學習 筆記 本文的目的僅僅是對 度量學習 做乙個簡單的解釋。度量學習 metric learning 是人臉識別中常用的傳統機器學習方法,由eric xing在nips 2002提出,可以分為兩種 一種是通過線性變換的度量學習,另一種是通過非線性變化的度量。其基本原理是 根據不同的任務來自主學習...

度量學習介紹

知乎大神flood sung發表在cvpr2018上的 介紹了一種基於metric的模式識別方法,創新之處在於它不同於常用的matric based方法,使用人為定義的度量,像簡單的歐式距離 馬氏距離,而是採用了用神經網路去訓練這個度量,模型雖然簡單,但是效果卻很顯著。先說一下關於度量這個概念 在數...

度量學習 分類與檢索

以下純屬個人觀點,如有錯誤,請批評指正 最近用到距離度量學習了,於是乎思考了一下。距離度量學習,最終學出的是m。監督的距離度量學習,最終根據類別標記,學習出乙個好的m,來度量同一類樣本之間的相似性。這是乙個類與相似性之間的直接對應關係。因為對於分類器來說,有的是以距離作為分類標準的,距離近的就認為屬...