本科時，畢設主要做了用粒子群演算法對網路簇進行聚類，期間發現進化演算法是個很符合大自然演變規律的演算法，從乙個種群中進行進化，每一代都會選擇最好的個體保留並與歷史最好個體比較，這樣一來最終保留下來的必然是最好的個體，也就是最好的解，其中最大的難度是如何構建問題，將乙個實際的問題轉化為數學公式或者數學表達形式，其次是適應度的定義，乙個好的定義可以使得進化速度大大增強，當初在做畢設時，遇到過適應度選取不同，對於最終的效能的影響很大。
剛進研一，跟隨著導師做基於和聲搜尋的特徵選擇，和聲搜尋也是一種進化演算法，最大的特點是能夠有個和聲庫，能夠對每個變數進行單個優化，不像其他進化演算法，是對整體進行移動，除此之外還學習了多個弱分類器整合強分類器的法力無邊。
進入研二，開始了深度神經網路的學習，發現真是個神奇的東西，已經把計算機視覺給統治了，最大的特點是模擬了人腦的結構，回想進化演算法，模擬了種群生物的進化，人+生物不就是構成了大自然的演變及穩定嗎？是不是可以先進化再穩定，目前有這種想法，想在神經網路壓縮方面嘗試這種想法。
關於深度學習的一些思考
問1 有監督學習中，機器學習是什麼？答1 機器學習就是先假設乙個函式，使用訓練樣本來選取最優的引數 當有新樣本時，把特徵輸入已訓練好的函式中，得到 值。問2 神經網路中，神經元的作用是什麼？答2 1 對輸入特徵進行線性加權 z w1 a1 w2 a2 w3 a3 b，其中wi是權重，ai是特徵值，b...
深度學習入手後的一些思考
1.深度學習的數學構建還不夠充分，我可以問你很多的東西，bn層有什麼用，這些東西很多人都會，達叔的課程都氾濫了，我區分不開大家的程度，所以會問一些數學依賴更重一些的ml的基礎知識，所以對於校招還是需要學好西瓜書。2.問 我競賽取得的名次不是很高誒，面試官會不會覺得有些水？答 我覺得面試官更重視的是你...
深度學習 學習率的一些問題思考
下午煉丹的時候，遇到兩個問題 精度很正常的向上攀公升，但是損失函式確實先急劇上公升，再緩緩下降趨於平滑 損失函式和精度趨於穩定後的突然抖動 其實都是學習率的原因，我用的優化器是adam，adam對學習率的敏感度較低，學習率設成1e 2,1e 3,1e 4即可。一開始設成0.5對adam太大了，如果是...