關於bn層的進一步認識

2021-07-29 18:53:16 字數 541 閱讀 3412

前幾天yy 用resnet_152 fintuing 他的網路出現的問題:

fine-tuning resnet-152 遇到問題:在設定bn層引數use_global_stats的時候,訓練時應該為false(滑動均值與方差),測試時應該為true(全域性均值與方差)。

現在我的問題是train的時候設為false,test設為true,測試的誤差跟訓練誤差不在乙個數量級上(很大),

若測試的時候設為false,則測試誤差較小(其實也很大,但至少跟訓練誤差在乙個數量級上)

更詳細的資訊:

trian  的時候收斂的很好train的loss降到0.1 如果測試的時候use_global_stats =true 那麼test 的loss 位6.9 

trian  的時候收斂的很好train的loss降到0.1 如果測試的時候use_global_stats =false 那麼test 的loss 為0.5

群裡大牛給的答案:

batchsize 太小了。

由原來的batchsize 為35 ---〉140  果斷就沒有這個問題了

html關於css進一步的認識

1 預定義顏色 blue,red,black 2 十六進製制顏色 0f0f0f 3 rgb顏色 128,0,0 全紅 4 rgba,在rgb的基礎上又新增了表示透視度的alpha 5 his 用色調,飽和度,和透明度三個分量來表示顏色 6 hsla 在his的基礎上又新增了表示透明度的alpha 實...

溝通,需要進一步認識

溝通,是建立人際關係的橋梁,如果這個世界缺少了溝通,那將是乙個不可想象的世界。可 以這樣說,沒有溝通就沒有人際的互動關係,人與人之間關係,就會處在僵硬 隔閡 冷漠的狀態,會出現誤解 扭曲的局面,給工作和生活帶來極大的害處。資訊 時代的到來,工作 生活節奏越來越快,人與人之間的思想需要加強交流 社會分...

進一步認識HTML(二)

第一種情況 第二種情況 第三種情況 html 三種展示結果如下 當輸入位址出錯時,可用佔位符alt 來介紹資訊 alt 這是帥氣的林志穎和kimi 當滑鼠移動到位置時,則會出現乙個提示。提示符title 做提示 title 這是帥氣的林志穎和kimi 二 標籤 target 三 表單標籤 get p...