參考：
（講得不錯）
（哈夫曼樹介紹，左右節點應該是可以互換的）
對於層序softmax來說，是將原來的softmax層以及對應的權重係數矩陣去掉了，採用哈夫曼樹替代，哈夫曼樹的結構是基於語料庫裡詞的頻率構建的（語料庫這個是自己想的不一定正確），出現次數多的詞在哈夫曼樹的前面，出現次數很少的詞在哈夫曼樹的後面。此時對於哈夫曼樹的每乙個節點都是乙個logistic層，輸入是詞向量（所有節點的輸入都是相同的詞向量，即當前輸入的詞向量300維），輸出是正類或者負類，每個節點都包含自己的logistic引數矩陣，這樣對於一次訓練進行更新時只需要更新從根節點到當前頁節點路徑上所有節點的引數矩陣即可，複雜度降低了。同時由於高頻詞在離根節點較近的地方，因此大部分詞都不需要走完哈夫曼樹的最大深度，只需要更新淺層的權重即可。
caffe詳解之softmax層
從零開始，一步一步學習caffe的使用，期間貫穿深度學習和調參的相關知識！softmax layer 輸出似然值 layers公式如下所示 softmax loss layer 輸出loss值 layer 公式如下所示 loss param 說明 enum normalizationmode 1 未...
全連線層 softmax的loss
這張圖的等號左邊部分就是全連線層做的事，w是全連線層的引數，我們也稱為權值，x是全連線層的輸入，也就是特徵。從圖上可以看出特徵x是n 1的向量，這是怎麼得到的呢？這個特徵就是由全連線層前面多個卷積層和池化層處理後得到的，假設全連線層前面連線的是乙個卷積層，這個卷積層的輸出是100個特徵 也就是我們常...
二叉樹層序 層序換行 層序Z型列印
節點資料結構 class tnode t data tnode lchild,rchild,parent 一 層序列印 利用佇列的先進先出特效，教科書般的答案。templatevoid tritree levalorder tnode pnode root queue qnode qnode.pus...