在學習hinton
的stack autoencoder
演算法（**
reducing the dimensionality of data with neural networks
）之前需要了解什麼是
rbm，現在就我學習的情況，查詢的資料（大部分來自部落格、**），簡單介紹一下
rbm。（當然，這裡面還有同組實驗的同學提供的資料，借用一下。。。）
目錄 rbm簡介、網路結構
hopfield 神經網路
rbm能量模型
rbm學習演算法——gibbs取樣、變分方法、對比散度、模擬退火
rbm訓練演算法
rbm評估
首先簡單介紹一下rbm
。受限波爾茲曼機（
restricted boltzmann machine
，rbm
）是一種可用隨機神經網路（
stochastic neural network
）來解釋的概率圖模型（
probability graphical model
）。是一類具有兩層結構、對稱連線且無自反饋的隨機神經網路模型，層間全連線，層內無連線。
rbm是一種有效的特徵提取方法，用於初始化前饋神經網路可明顯提高泛化能力，堆疊多個
rbm組成的深度信念網路能提取更抽象的特徵。
rbm是由
hopfield
網路、bm
（波爾茲曼機）演化而來。
詳細可看 機器學習：hopfield
神經網路
（ ）波爾茲曼機(bm)
是hinton
和sejnowsky
於1986
年提出的一種根植於統計力學的隨機神經網路。這種網路中的神經元是隨機神經元，神經元的輸出只有兩種狀態（未啟用、啟用），一般用二進位制的0和
1表示，狀態的取值根據概率統計法則決定。從功能上講，
bm是由隨機神經元全連線組成的反饋神經網路，且對稱連線，無自反饋，包含乙個可見層和乙個隱層的
bm模型。
bm分為一般
bm、半
rbm和
rbm三種結構
（1）一般波爾茲曼機
一般bm
的可見層節點與隱層節點、可見層節點與可見層節點以及隱層節點與隱層節點之間都有連線權。如下圖：
由於一般bm的結構比較複雜，可見層節點與可見層節點以及隱層節點與隱層節點之間均存在連線權，難以求解
bm的能量最小值，演算法複雜性高，需要耗費大量的網路訓練與學習時間，因此很難對一般
bm進行訓練學習，在語音和影象識別上通常採用半
rbm或
rbm結構。
（2）半受限波爾茲曼機
半rbm
的網路拓撲結構只有可見層節點與隱層節點及可見層節點與可見層節點之間的連線，而隱層節點與隱層節點之間沒有連線，即
r=0，網路結構如下圖：
半rbm
的結果相對於上面描述的一般
bm簡單，這意味著需要的網路訓練與學習時間比一般
bm少得多，但是在進行大型資料訓練時仍需耗費大量的訓練與學習時間。
（3）受限波爾茲曼機
rbm是乙個雙向概率圖模型，只有可見層節點與隱層節點之間有連線權，而可見層節點與可見層節點及隱層節點與隱層節點之間沒有連線權，即
l=0且
r=0，如下圖
rbm的結構相對於前面介紹的2種
bm的網路拓撲結構更簡單，因為各層內部神經元之間沒有連線，在很大程度上提高了網路訓練與學習的效率。
rbm的乙個應用例項是用於改進語音識別軟體的效能。由於
rbm的結構簡單，因此在構造
dbn時，一般都是先構造出
rbm，然後將得到的
rbm堆疊起來得到想要的
rbm是
hinton
和sejnowski
在1986
年提出的一種根植於統計力學的隨機神經網路。這種神經網路層內無連線，層間全連線。它的神經元是隨機神經元，神經元的輸出只有兩種狀態（未啟用、啟用），一般用二進位制的0和
1表示，狀態的取值根據統計法則決定。
參考資料
peghoty的部落格
roger_wong的部落格
celerychen2009的部落格
tornadomeet的
參考文件： 受限波爾茲曼機簡介 （張春霞，姬楠楠，王冠偉）（
）波爾茲曼機研究進展（
c s網路結構
採用c s 客戶端和服務端模式進行檔案和命令資料的傳輸，以及資料的交換。c s 和b s p2p等多種技術想結合。一，cs 網路的實現 採用傳統的客戶端和服務端模式，用tcp ip 協議進行資料的互動和傳遞。二，cs網路開發 模仿著名的灰鴿子軟體，灰鴿子的到來，給網路世界，帶來了新的活力，給人們帶來...
GPRS網路結構
gprs網路結構圖 bts base transceiver station，基站收發臺 bts可看作乙個無線數據機，負責移動訊號的接收和傳送處理 bsc base station controller，基站控制器 msc mobile switching center，移動交換中心 整個gprs網...
CVAE GAN 網路結構
第一次寫，希望所分享的知識能對大家有所幫助！最近看了這篇文章 cvae gan fine grained image generation through asymmetric training，下面將主要內容分享給大家，由於本人基礎有限，理解上可能有不足之處，希望大家多多指教！摘要 文章提出了 v...