狄利克雷過程

2022-08-16 01:48:12 字數 917 閱讀 7373

官方定義:令

表示乙個可測的引數空間,

描述某乙個類別的引數。令h是空間

上的乙個概率測度,

表示乙個正實數。對於空間

上的任意乙個有限分割

:如果空間

上的乙個隨機概率分布g在這個分割中各部分上的測度服從乙個狄利克雷分布:

, 那麼我們就稱隨機概率分布g 服從狄利克雷過程,記為

. 我們把

叫做集中度引數,把h叫做基分布。

解讀:

測度的通俗理解就是給乙個空間中的每個子集乙個度量,即乙個實數來衡量各個子集。最直觀的例子是用長度來衡量乙個一維實數集合,這裡的長度就是一種測度。

概率測度是指在空間中定義的測度滿足概率的性質,即每個子集的測度大於零,所有子集加和為1。

對於式子

:表示了這個分割是不重疊地充滿整個空間。

對比狄利克雷分布分布的定義

,狄利克雷過程就是把

每乙個都看成乙個概率分布g,而g 的引數

是屬於引數空間

的。 當我們取空間的乙個子集,即t取

時,狄利克雷過程

就會退化成乙個狄利克雷分布分布

。也就是說分布描述了一種劃分下g的分布情況,而過程描述了空間中所有劃分的情況。

性質:

如果,當觀察到n個獨立的來自g的樣本

,g的後驗分布仍然是乙個狄利克雷過程:

。 以上是狄利克雷過程的定義,構造狄利克雷過程的常見方法有三種:

斷棍構造過程(stick-breaking construction);

波利亞翁方案(polya urn scheme)也叫(blackwell-macqueen 方案);

中餐館過程(chinese restaurant process),crp ;

狄利克雷過程理解

狄利克雷過程 dirichlet process 是目前變引數學習 non parameter 非常流行的乙個理論,很多的工作都是基於這個理論來進行的,如hdp hierarchical dirichlet process 下面我們談談dirichlet process的五種角度來理解它。第一種 原...

狄利克雷卷積 狄利克雷卷積學習筆記

前置知識 1 常見的完全積性函式 恒等函式 i i n 1 單位函式 id id n n 元函式 epsilon epsilon n n 1 元函式卷積任何函式 f 都是 f 本身 2 常見積性函式 尤拉函式 varphi n 是小於n和n互質的自然數個數 莫比烏斯函式 mu n sigma sig...

狄利克雷卷積

積性函式 f 和 g 狄利克雷卷積的形式 f ast g n sum limits f d g frac 或者 f ast g n sum limits f i g j 它滿足證明 f ast g ast h sum limits sum limits f d g frac h frac 等同於 f...