參考url:
密度評估器是一種利用d維資料集生成d維概率分布估計的演算法，gmm演算法用不同高斯分布的加權彙總來表示概率分布估計。核密度估計（kernel density estimation,kde）演算法將高斯混合理念擴充套件到了邏輯極限（logical extreme），它通過對每個點生成高斯分布的混合成分，獲得本質上是無引數的密度評估器。
密度估計評估器是一種尋找資料集生成概率分布模型的演算法。
一維資料的密度估計——直方圖，是乙個簡單的密度評估器，直方圖將資料分成若干區間，統計落入每個區間內的點的數量，然後用直觀的方式將結果視覺化。
核密度估計的自由引數是核型別（kernel）引數，他可以指定每個點核密度分布的形狀。
核頻寬（kernel bandwidth）引數控制每個點的核的大小
核密度估計演算法在sklearn.neighbors.kerneldensity評估器中實現，借助六個核中的任意乙個核、二三十個距離量度就可以處理具有多個維度的kde。
由於kde計算量非常大，因此scikit-learn評估器底層使用了一種基於樹的演算法，可以利用atol（絕對容錯）和rtol（相對容錯）引數來平衡計算時間與準確性，可以用scikit-learn的標準交叉檢驗工具來確定自由引數核頻寬。
通過交叉檢驗選擇頻寬
在kde中，頻寬的選擇不僅對找到合適的密度估計非常重要，也是在密度估計中控制偏差－方差平衡的關鍵：
（１）頻寬過窄將導致估計呈現高方差（即過擬合），而且每個點的出現或缺失都會引起很大的不同
（２）頻寬過寬將導致估計呈現高偏差（即欠擬合）,而且頻寬較大的核還會破壞資料結構
機器學習中超引數的調優通常都是通過交叉檢驗完成的。
核模型（核密度估計）
note 是在基函式設計的時候使用到樣本，那麼訓練的是什麼？下面看公式。核模型，是以使用被稱為 核模型的 二元函式 k 的線性結合方式加以定義的。上面的theta就是我們要學習的物件 注意 theta為乙個向量，可以表述為下面的形式。可以把公式中的xi看做標記點 landmark 並將樣本x和標記點...
核密度估計原理
最近在讀wek的 的時候，發現weka的 bayes分類器中有使用到核概率密度估計，想了一下核概率密度估計原理。核密度估計是在概率論中用來估計未知的密度函式，屬於非引數檢驗方法之一，由rosenblatt 1955 和emanuel parzen 1962 提出，又名parzen窗 parzen w...
Epanechnikov核密度估計應用於目標檢測
1.什麼叫目標檢測 目標檢測，也叫目標提取，是一種基於目標幾何和特徵統計的影象分割，將影象中的目標分割和識別合二為一，其準確性和實時性成為目標檢測的重要能力之一。在複雜場景下，尤其是多目標的情況下，目標提取和識別就顯得格外重要。2.epanechnikov核函式介紹 核密度估計是在概率論中用來估計未...