RBF徑向基函式

徑向基函式是某種沿徑向對稱的標量函式，通常定義為樣本到資料中心之間徑向距離（通常是歐氏距離）的單調函式（由於距離是徑向同性的）。rbf核是一種常用的核函式。它是支援向量機分類中最為常用的核函式。常用的高斯徑向基函式形如：

其中，因為rbf核函式的值隨距離減小，並介於0（極限）和1（當x = x』的時候）之間，所以它是一種現成的相似性度量表示法。核的特徵空間有無窮多的維數；對於

徑向基函式二維影象：

rbf 擁有較小的支集。針對選定的樣本點，它只對樣本附近的輸入有反應，如下圖。

rbf 使樣本點只被附近（圈內）的輸入啟用。

t. poggio 將 rbf 比作記憶點。與記憶樣本越近，該記憶就越被啟用。

rbf 核與多項式核相比具有引數少的優點。因為引數的個數直接影響到模型選擇的複雜性。

其他的徑向基函式有：

reflected sigmoidal（反常s型）函式：

inverse multiquadrics（擬多二次）函式：

σ稱為徑向基函式的擴充套件常數，它反應了函式影象的寬度，σ越小，寬度越窄，函式越具有選擇性。

rbf（radial basis function，徑向基）網路是一種單隱層前饋神經網路，它使用徑向基函式作為隱層神經元啟用函式，而輸出層則是對隱層神經元輸出的線性組合。徑向基函式網路具有多種用途，包括包括函式近似法、時間序列**、分類和系統控制。他們最早由布魯姆赫德（broomhead）和洛維（lowe）在2023年建立。

rbf網路分為標準rbf網路，即隱層單元數等於輸入樣本數；和廣義rbf網路，即隱層單元數小於輸入樣本數。但廣義rbf的隱藏層神經元個數大於輸入層神經元個數，因為在標準rbf網路中，當樣本數目很大時，就需要很多基函式，權值矩陣就會很大，計算複雜且容易產生病態問題。

徑向基網路：

rbf神經網路的基本思想：用rbf作為隱單元的「基」構成隱藏層空間，隱藏層對輸入向量進行變換，將低維的模式輸入資料變換到高維空間內，使得在低維空間內的線性不可分問題在高維空間內線性可分。詳細一點就是用rbf的隱單元的「基」構成隱藏層空間，這樣就可以將輸入向量直接(不通過權連線)對映到隱空間。當rbf的中心點確定以後，這種對映關係也就確定了。而隱含層空間到輸出空間的對映是線性的(注意這個地方區分一下線性對映和非線性對映的關係)，即網路輸出是隱單元輸出的線性加權和，此處的權即為網路可調引數。

通常採用兩步過程來訓練rbf網路：第一步，確定神經元中心，常用的方式包括隨機取樣、聚類等；第二步，利用bp演算法等來確定引數。

[park and sandberg,1991]證明，具有足夠多隱層神經元的rbf網路能以任意精度逼近任意連續函式。

且rbf網路可以處理系統內的難以解析的規律性，具有良好的泛化能力，並有很快的學習收斂速度。

rbf網路學習收斂得比較快的原因：當網路的乙個或多個可調引數（權值或閾值）對任何乙個輸出都有影響時，這樣的網路稱為全域性逼近網路。由於對於每次輸入，網路上的每乙個權值都要調整，從而導致全域性逼近網路的學習速度很慢。bp網路就是乙個典型的例子。如果對於輸入空間的某個區域性區域只有少數幾個連線權值影響輸出，則該網路稱為區域性逼近網路。常見的區域性逼近網路有rbf網路、小腦模型（cmac）網路、b樣條網路等。

中心點的計算：

標準rbf的樣本點即為中心

廣義rbf的中心點通過隨機採用、聚類等方法確定

w和β的計算：

人為指定：所有神經元的β都一樣，β=1/2(

bp演算法迭代確定。

從模型上看，區別不大，區別在於訓練方式。

rbf神經網路訓練分兩階段。第一階段為非監督學習，從資料中選取記憶樣本（上上圖中的紫色中心）。例如聚類演算法可在該階段使用。第二階段為監督學習，訓練記憶樣本與樣本輸出的聯絡。該階段根據需要可使用 ad/bp。（ad，即 automatic differentiation (backpropagation) ）

RBF徑向基函式

徑向基函式（RBF）

徑向基函式 RBF

RBF（徑向基函式）神經網路

RBF徑向基函式

徑向基函式（RBF）

徑向基函式 RBF

RBF（徑向基函式）神經網路

相關推薦