參考：
我訓練的yolov3，開始兩個epoch都不收斂
optimizer = ranger(params, weight_decay=config["optimizer"]["weight_decay"])
geoffrey hinton 和他的團隊發表了一篇關於深度神經網路優化器的**，介紹了一種新的優化器「lookahead」 （《lookahead optimizer: k steps forward, 1 step back》， 的設計得益於對神經網路損失空間理解的最新進展，提供了一種全新的穩定深度神經網路訓練、穩定收斂速度的方法。
8 月，又有一篇關於優化器的**《on the variance of the adaptive learning rate and beyond》（吸引了不少研究人員的關注，這篇來自韓家煒團隊的**研究了深度學習中的變差管
和 區別和聯絡， 和 區別和聯絡
和 區別和聯絡，和 區別和聯絡，實際專案中，什麼情況用哪種？首先，和 的聯絡 共同點 和 都可以用作 邏輯與 運算子，都是雙目運算子。具體要看使用時的具體條件來決定。無論使用哪種運算子，對最終的運算結果都沒有影響。情況1 當上述的運算元是boolean型別變數時，和 都可以用作邏輯與運算子。情況2 ...
rpx和樣式和class和flex
5 style 靜態的樣式統一寫到 class 中。style 接收動態的樣式，在執行時會進行解析，請盡量避免將靜態的樣式寫進 style 中，以免影響渲染速度。例 6 class 用於指定樣式規則，其屬性值是樣式規則中類選擇器名 樣式類名 的集合，樣式類名不需要帶上.樣式類名之間用空格分隔。關於f...
if和switch和for語句
if和switch很像。具體什麼場景下，應用那個語句呢？如果判斷的具體數值不多，而是符合byte，short，int，char，字串。這五種型別。雖然兩個語句都可以使用，建議使用switch語句，因為效率稍高。其他情況，對區間判斷，對結果為boolean型別判斷，使用if，if的使用範圍更廣。whi...