官方定義:令
表示乙個可測的引數空間,
描述某乙個類別的引數。令h是空間
上的乙個概率測度,
表示乙個正實數。對於空間
上的任意乙個有限分割
:如果空間
上的乙個隨機概率分布g在這個分割中各部分上的測度服從乙個狄利克雷分布:
, 那麼我們就稱隨機概率分布g 服從狄利克雷過程,記為
. 我們把
叫做集中度引數,把h叫做基分布。
解讀:
測度的通俗理解就是給乙個空間中的每個子集乙個度量,即乙個實數來衡量各個子集。最直觀的例子是用長度來衡量乙個一維實數集合,這裡的長度就是一種測度。
概率測度是指在空間中定義的測度滿足概率的性質,即每個子集的測度大於零,所有子集加和為1。
對於式子
:表示了這個分割是不重疊地充滿整個空間。
對比狄利克雷分布分布的定義
,狄利克雷過程就是把
每乙個都看成乙個概率分布g,而g 的引數
是屬於引數空間
的。 當我們取空間的乙個子集,即t取
時,狄利克雷過程
就會退化成乙個狄利克雷分布分布
。也就是說分布描述了一種劃分下g的分布情況,而過程描述了空間中所有劃分的情況。
性質:
如果,當觀察到n個獨立的來自g的樣本
,g的後驗分布仍然是乙個狄利克雷過程:
。 以上是狄利克雷過程的定義,構造狄利克雷過程的常見方法有三種:
斷棍構造過程(stick-breaking construction);
波利亞翁方案(polya urn scheme)也叫(blackwell-macqueen 方案);
中餐館過程(chinese restaurant process),crp ;
狄利克雷過程理解
狄利克雷過程 dirichlet process 是目前變引數學習 non parameter 非常流行的乙個理論,很多的工作都是基於這個理論來進行的,如hdp hierarchical dirichlet process 下面我們談談dirichlet process的五種角度來理解它。第一種 原...
狄利克雷卷積 狄利克雷卷積學習筆記
前置知識 1 常見的完全積性函式 恒等函式 i i n 1 單位函式 id id n n 元函式 epsilon epsilon n n 1 元函式卷積任何函式 f 都是 f 本身 2 常見積性函式 尤拉函式 varphi n 是小於n和n互質的自然數個數 莫比烏斯函式 mu n sigma sig...
狄利克雷卷積
積性函式 f 和 g 狄利克雷卷積的形式 f ast g n sum limits f d g frac 或者 f ast g n sum limits f i g j 它滿足證明 f ast g ast h sum limits sum limits f d g frac h frac 等同於 f...