討論 學習深度學習是否要先學習機器學習?

2021-10-20 18:38:55 字數 2190 閱讀 2679

有同學問:最近做畢設要做乙個神經網路的課題,想請教一下各位我需不需要把機器學習也都學習一遍?

看看過來人怎麼回答?有同意也有反對的,都有一定道理。

那麼學習流程就是這樣

python

keras

做影象 只會cnn就完了 from keras.layers import conv2d

做自然語言處理 只會lstm 全連線就完了 from keras.layers import lstm, dense。當然別忘了加個bert。bert是啥也不用太關注,只需要會keras_bert的模型建立就完事了

以上都不需要其他額外知識

判斷模型好不好純靠莽

那麼,統計學習方法 西瓜書 深度學習聖經 各種***** %%¥#@&&%¥¥%&&**等等等等都這時候了,我看還是選擇第乙個吧..一點不妨礙做完畢設,只不過只能做些應用型的專案罷了

若選擇第一種,你就是面試官眼中高讚回答的樣子以上

近幾年面試了不少校招和實習生,深感深度學習之火,以至於很多學生只會各種nn網路,對基礎的機器學習演算法不屑於了解。在我看來,如果你真的想深入了解深度學習,就不可能不了解機器學習的很多演算法基礎,就說說過擬合

深度學習網路規模做大,免不了會遇到過擬合。說到過擬合欠擬合,都有什麼手段解決?對於模型的方差和偏差分別怎麼影響的?

正則化可以緩解過擬合,那我們來說說, l1正則和l2正則有什麼區別?哦?除了了解網上經典的那張座標解釋,是否了解它們在貝葉斯先驗上屬於不同的分布?說到貝葉斯分布免不了要了解共軛先驗,為什麼要服從這種分布?還有哪些經典的共軛分布?

dropout也能解決過擬合,請問為什麼能work?本質上就是一種bagging的思想。說到bagging,免不了就要知道boosting,這兩者在降低模型方差偏差影響怎樣?

說到dropout,免不了和batch normalization對比,後者是為了解決什麼問題提出來的?對比資料白化,pca等其他方法有什麼區別?還有哪些資料的normalization手段?

你看,乙個過擬合的問題在深度學習的表現,看似都是深度的方法,背後涉及的原理全都是更加底層的機器學習基礎。

作為乙個在數學系學統計做過機器學習,工作後搞深度學習的人,我可以很負責任的告訴你,不需要

理論上來說,深度學習確實是機器學習的一部分。

十年前,深度學習其實還叫 ann,是存活在機器學習裡的一小部分(別噴,我知道現在主流是 cnn,跟ann不同)。

但是實際上,深度學習是乙個用計算機算力暴力求解問題的函式逼近器,跟從傳統統計學習中脫胎而出的機器學習本質有很大區別,所以就算你從機器學習開始學起,然後再使用深度學習。很快你就會發現,兩個東西完全不一樣。

打個不恰當的比喻,前者是有嚴格數理推導的,比較nerd;後者則是暴力求解的代表,過後才試圖用統計學知識和概念去解釋,比較geek。所以如果只是使用深度學習完成一項工作的話,不要說掌握機器學習了,其實你只需要稍微了解一下深度學習就可以了,現在api呼叫十分無腦,配合pytorch這種pythonic的工具,可以說你只需要會點python,資料準備好,github找個專案拉下來一跑,齊活。

最基礎的東西還是要了解,機器學習本身就涉及到統計和優化的知識,是一門交叉學科。

不了解這些你不會明白那些模型是做什麼的,也無法理解資料是如何用的。最起碼要了解最基礎的最小二乘,邏輯回歸,貝葉斯,pca這些。深度學習在機器學習的基礎模型上又有了很多擴充套件,需要更強的程式設計知識。

如果是單純做本科生畢業設計的話,可以直接從深度學習入手,本科階段對畢設的要求並不高,只要符合學術規範,不存在抄襲,模型能work即可。

作為老師,對本科階段的畢設要求就是這些。

但是,如果想進一步提高的話,還是得學習下機器學習的基本原理。

最低要求掌握的機器學習知識是:

機器學習演算法的型別:如監督學習(分類、回歸)、無監督學習(聚類、降維等)等基礎知識。

基礎演算法:線性回歸、邏輯回歸、pca、k-means

機器學習技巧:模型擬合程度與正則,模型評估,特徵工程等

程式設計技巧:先會python的基本操作,然後看懂一些基本的機器學習演算法的numpy的實現,這時候才可以開始學pytorch。

過了本科階段,就不能做乙個調包俠了,基礎知識決定水平的上限。

往期精彩回顧

極限學習機

單層前饋神經網路 slfn 以其良好的學習能力在許多領域得到了廣泛的應用,然而傳統的學習演算法,如bp等固有的一些缺點,成為制約其發展的主要瓶頸,前饋神經網路大多採用梯度下降法,該方法存在以下幾個方面的缺點和不足 1 訓練速度慢。由於梯度下降法需要多次迭代,從而達到修正權值和閾值的目的,因此訓練過程...

為什麼要學習機器學習?如何學習

如果你是乙個博士,那麼很可能你的理想是提出乙個被全世界廣泛應用的演算法,如em,svm等 如果你是乙個碩士,那麼很可能你的理想是把博士們提出的演算法應用到實際的工程當中,我是乙個碩士,我目前想做的事情,就是利用目前一些比較成熟的機器學習演算法來解決實際工程中的問題。不過最近比較糾結,怎樣去進一步學習...

深度學習 機器學習 模式識別

摘要 本文我們來關注下三個非常相關的概念 深度學習 機器學習和模式識別 以及他們與2015年最熱門的科技主題 機械人和人工智慧 的聯絡,讓你更好的理解計算機視覺,同時直觀認識機器學習的緩慢發展過程。以下為正文 本文我們來關注下三個非常相關的概念 深度學習 機器學習和模式識別 以及他們與2015年最熱...