svm：支援向量機，目前在分類中得到廣泛的應用
核函式：svm遇到線性不可分問題時，可以通過核函式將向量對映到高維空間，在高維空間線性可分
多核學習：在利用svm進行訓練時，會涉及核函式的選擇問題，譬如線性核，rbf核等等，多核即為融合幾種不同的核來訓練。該方法屬於後期融合的一種，通過對不同的特徵採取不同的核，對不同的引數組成多個核，然後訓練每個核的權重，選出最佳核函式組合來進行分類。
給定一些base kernels,比如linear,polynomial,rbf,sigmoid，對於每乙個，可以指定多組引數，也就是一共有m個base kernels，我們想用它們的線性組合來作為最終的核函式。通過training，得到這個線性組合中每個kernel的權重d（weight）。最經典的是******mkl,gmkl，g即generalized，最優化方法用的是pgd（projected gradient descend）。為了改進收斂效果，vishwanathan又提出spg-gmkl(spectral projected gradient)，同時提出了多核的product組合。spg-gmkl也被後來者視作state-of-art。
mkl的經典實現有******mkl，shogun，spg-gmkl，smo-mkl.
特徵工程 特徵提取
特徵提取 將任意資料 如文字或影象 轉換為可用於機器學習的數字特徵 注 特徵值化是為了計算機更好的去理解資料 字典特徵提取 作用 對字典資料進行特徵值化 dictvectorizer.get feature names 返回類別名稱 from sklearn.feature extraction i...
特徵提取 機器學習
特徵提取簡介 sift原理 sift原理 sift原理 1.k近鄰法，簡單來說就是哪個點離得近就把例項點歸到哪一類中。特殊情況是最近鄰演算法 1近鄰演算法。演算法主要包括演算法的模型，距離度量 k值的選擇和演算法的具體實現。其中演算法的實現主要有兩種形式 線性掃瞄法和構建資料索引。改善演算法最好的當...
機器學習 特徵提取
from sklearn.feature extraction import dictvectorizer import numpy as np 定義一組字典列表，用來表示多個資料樣本 d1 例項化 dict dictvectorizer data dict fit transform d1 轉化後...