高斯過程回歸

2022-04-08 21:18:48 字數 1193 閱讀 7961

不過沒看明白,程式也沒調通。大神們,可以在試試。

何為高斯過程回歸:

其實分為兩個過程,高斯過程+回歸。

高斯過程:其實就是在函式上的正態分佈。它是由多個高斯函式組成的線性集合。

小知識:高斯分布其實就是正態分佈,我們現在講的高斯其實就是乙個模型。高斯模型。

高斯模型具體是啥,大家可以想象一下高斯函式的分布,就是那個中間寬,兩邊窄的東東。

描述為:

看看下面的公式:

例項:

如何計算k?需要乙個核函式,在高斯過程回歸裡面,我們最常見的kernel就是svm裡面的高斯核,為了避免命名上的混淆,我們一般稱之為平方指數核函式。

squared exponential kernel .

現在我們繼續分析上面的例子,假如我們通過高斯核函式,算出來k11—k33,這時x*又出來搗蛋了,它對應的f*是多少呢?

我們根據上面計算出來的f和k,可以對x*進行**,因為它本身就是乙個函式,是函式的話,知道x就一定可以算出y。此時,我們可以根據聯合分布

的所有引數,算出其對應的p(f*),也就是說,此方法給出了**值所隸屬的整個後驗概率分布,我們得到的是f*的整個分布,不是點估計。

在道路邊緣檢測演算法當中,當我們對其進行gpr()的時候,你會發現我們計算出model後,需要對其進行評估,將不滿足條件的點給乾掉。

(對於每一塊區域)先通過ht 霍夫變換得到種子點,然後利用種子點之間的關係,比如協方差k,利用這個關係去**其他點是不是滿足這個模型。(理解為直線模型),第二步,去eval,對於這裡面的每個點,x屬於test,計算k(x*,x*)和k(x,x*),未知點,測試的點。然後和我們自己定義的tmodel(測試點x*的方差的閾值)和tdata(測試點x*到它的**均值f*)去比較。當滿足的時候,我們認為其滿足,並保留到sp當中,從初始選擇的種子點的集合sp開始,每一次迭代都從sc中,選擇snew,滿足就累加,直到sc為空。也就是這一塊區域都找到為止。

其實這種演算法,和區域生長演算法類似,都是將定義的點每個檢測,然後增加其長度。

高斯過程回歸 高斯過程的直觀指南

高斯過程是一種強大的回歸和分類演算法。它最大的優勢是能夠對自身的不確定性做出可靠的估計。本文目標是讓您直觀地了解什麼是高斯過程。內容 機器學習使用我們擁有的資料 稱為訓練資料 來學習我們可以用來 我們尚未擁有的資料的函式。最簡單的例子是線性回歸,在這裡我們學習一條線的斜率和截距,這樣我們就可以從它們...

機器學習 資料探勘筆記 11(高斯過程回歸)

前言 基礎知識 首先來看看bayesian linear regression 貝葉斯線性回歸 模型 其中的d為已知的有監督的訓練樣本。yi為樣本標籤,由 可知,yi可以表示為乙個高斯過程和乙個隨機變數的和。公式中的w是乙個多維高斯分布。既然已經得知yi的中心是在乙個高維空間的平面上,所以當新來的資...

貝葉斯分析 高斯過程

貝葉斯框架下,可以用高斯過程來估計乙個函式 f r r.對於每個xi,f xi 可以用乙個均值方差暫未知的高斯分布來建模。因為連續空間的xi可以有無限個,擬合乙個函式的高斯過程其實乙個無限維的多元高斯。實際中,不管是我們的給定資料,還是測試點的個數都是有限的。因此無論是高斯過程先驗還是還是高斯過程後...