一、高效網路簡介
來自高效網路的高效，直接的衡量目標是速度。
二、高效網路一覽
cnn設計一般都是通過堆block的形式，下面只討論每個模型的block
1、mobilenet
首次使用了分離卷積(dw+pw，加速的核心操作，有人認為dw和pw之間不應該加relu)
inverted residuals 逆殘差：將兩頭大中間小的結構，變為兩頭小中間大1的結構，增大分離卷積所佔的比例
linear bottlenecks 線性瓶頸：去掉了第二個1*1的relu
大量使用1*1的group conv，並通過shuffle來促進通道間的流通。
實現細節：在每個block，先通過1*1 group conv將維度降為輸出的1/4。
提出了設計高效網路的四個原則：相同通道寬度可以最小化記憶體訪問成本；組卷積謹慎使用；網路內部碎片操作會降低並行度；element-wise操作不容忽視。
實現細節：對於(c)，操作內通道數量始終不變；不再使用組卷積；對於(d)，兩個通道分別將維度降為1/2，便於後面的concat；最後進行shuffle。
三、其他
1、為了快速降低特徵大小，往往使用conv/s2的操作，避免使用pooling；
2、大kernel size filter，複雜網路裡，一般使用多個3*3來代替5*5、7*7等（計算量小、網路更深、非線性更優），而在小網路中，可在網路前端，使用大卷積核
快速將特徵圖大小降下來；
3、微軟推出了mnast等自動設計的網路
參考：
高效學習小結
1 學習概要。源頭 原理和知識地圖 深度 歸納和堅持實踐 學習 閱讀原始碼 面對量大和枯燥的知識。2 學習步驟 知識地圖 學習技術模板 舉一反三訓練 總結歸納 實踐堅持 閱讀文件與原始碼 兩大與枯燥的知識。3 如何構建知識體系。學習技術模板 堅持實踐 技巧 文件 原始碼 思考 舉一反 三 實用技巧 ...
網路流 高效勸退
相當於強制把不少於當天需要的人喊起來幹活 inf inf 第一天所需 inf 第二天所需 第一天 第二天 第三天 我是邊我是邊我是邊我是邊我是邊我是邊我是邊 容量為當天的人，費用為每個人的費用的邊 相當於可以把這些人喊起來幹活 這樣就保證了每天都有不少於當天所需的人被從床上拽起來幹活，並且是費用最少...
網路程式設計小結
做了乙個 tcp 和udp的服務端，但是現在測試老有問題，就是udp總會有那麼幾次超時，原因還沒找到，不過先總結一下網路的程式設計。首先預設的狀態下，recvfrom和recv都是阻塞的狀態，也就是沒接收到會一直阻塞，知道返回，但是可以通過select設定超時 timeval twait twait...