機器學習之Boltzmann 機演算法

2021-08-09 22:18:19 字數 409 閱讀 1700

boltzmann 機也稱為模擬退火演算法,它是一種無監督網路。該演算法和bp演算法都是神經網路家族中的核心演算法,這兩個演算法構成了後來深度學習演算法的框架基礎。該網路最早**於對退火過程的一種模擬,使用了著名的玻爾茲曼能量函式,因此而得名。該網路的優勢在於能夠跳出函式的區域性最小值,如果迭代次數足夠,即可找到函式的近似最大值。它常用於求解路徑最優的函式演算法,目前應用仍很廣泛。

boltzmann機結合多層前饋神經網路和離散hopfield網路在網路結構、學習演算法和動態執行機制方面的優點,是建立在離散hopfield網基礎上的,具有學習能力,能夠通過乙個模擬退火過程尋求最優解。不過,其訓練時間比bp網路要長。

離散hopfield神經網路+模擬退火+隱單元=boltzman機

機器學習之支援向量機

描述 用於處理二分類問題,對於二維線性可分的問題,尋找決策邊界 分割線 使得支撐向量到決策邊界的距離盡可能的大.對於線性不可分的問題,則首先將樣本特徵對映到更高維度,再尋找乙個超平面,使得支撐向量到超平面的距離盡可能的小.通過核函式得展開達到這一目的.常用的核函式有線性核,多項式核,高斯核.引入正則...

機器學習之支援向量機(SVM)

svm數學知識具體參考 數學知識補充 對於線性可分的超平面 既然能線性可分,那麼就有超平面 向量化表示 將這資料集分開,使得一側是 1 類,另一側是 1類 第乙個知識點 已知超平面 和資料集 哪個點離這個超平面最近,答案 哪乙個點使得 最小,哪一點離這個超平面最近 第二個知識點 已知超平面 和點x,...

機器學習 感知機

感知機是一種簡單的二類分類的線性分類模型,用於處理可以線性可分的二分類問題。感知機對應於輸入空間 特徵空間 中將例項劃分為正負兩類的分離超平面,屬於判別模型。模型。從輸入空間到輸出空間有如下函式 f x s ign wtx b 其中w 為權值,b為偏執。生成的超平面為 wt x b 0 其中w 為超...