1. 常用的機器學習演算法包括:
監督學習
半監督學習
無監督學習
增強學習
遺傳演算法
監督學習:就是人為的設定規則,告訴機械人該執行怎麼樣的行動。無監督學習就是不告訴機械人具體的實施辦法,只給定規則,讓機械人過程當中自己學習總結經驗;半監督學習就是結合少標籤的樣本和大量無標籤的樣本進行學習和分類;強化學習就是將機械人丟到乙個從未接觸過的環境,不給定學習方法,讓機械人在環境中自己摸索,總結經驗;遺傳演算法就是根據自然界的物競天擇,適者生存準則,在學習的過程中淘汰掉那些「弱者」。
2.人工神經網路和生物神經網路
人工神經網路就是指通過正向和反向傳播來更新神經元,從而形成神經網路系統;生物神經網路就是指通過刺激和激勵形成新的神經元連線,讓訊號通過新的連線形成反饋。(比如說:小孩子吃糖果)
3.神經網路
神經網路系統包括輸入層,隱藏層,和輸出層。在每層當中包含設定得神經元個數多少。神經網路就是指通過正向和反向傳播更新神經元得數值。訓練就是指通過對比**值和真值之間得關係,進行反向傳遞,在每個神經元傳播得過程中包含啟用函式,用來將反饋得資料更新神經元得大小,調整神經元得引數。
卷積神經網路常用來影象處理和自然語言處理。卷積是指不是對乙個單獨得畫素進行處理而是對一塊區域得畫素進行處理,這種處理方法加強了影象區域之間得聯絡。卷積得過程當中可能會損失掉一些資訊,通常是用池化層來解決。應為卷積的過程其實就是改變影象的長度,寬度和高度(高度是指影象的通道個數,rgb等)
常用的神經網路結構為:image-convolution-max pooling-convolution-max pooling-fulley connected -fulley connected-classifier-output
4.迴圈神經網路(rnn)
迴圈神經網路用來處理序列化資料,即資料之間包含明顯的相對關係,順序關係,常用結構圖圖下:
迴圈神經網路之所能夠處理序列化資訊是應為每一步的輸入到輸出的過程會產生乙個系統的狀態s(t),在處理t+1時刻的狀態時會考慮到t時刻的狀態,相當於後時刻的狀態與前時刻的狀態相關。仍然存在乙個缺點就是:rnn神經網路不能很好的呼叫久遠時刻的資訊,相當於系統是乙個老爺爺,會有健忘症。之所以此種特性是應為系統每次在傳遞的時候總會乘乙個係數w,若w<1,在傳遞的時候,系統的狀態無限接近於0,就會出現梯度瀰散的現象;若w>1,則在傳遞的過程中系統的狀態會接近於無限大,這種現象成為梯度**。lstm rnn的出現就是為了解決這種情況。
lstm包含乙個主線和分線,分線的網路結構和rnn的網路結構相同,主線的結構相當於故事中的大綱,用來連線事件的起承轉合。忘記模組的作用就是當事情不再重要時,系統會忽略其部分,選擇適當性的忘記。若分線模組的作用非常重要就會更新到主線當中,若分線模組的作用不重要,就會啟動忘記模組。輸出模組會根據當前分線和主線的狀態進行輸出結果。lstm就像延緩記憶衰退的良藥,可以帶來更好的結果。
機器學習總結
0機器學習概述 什麼是機器學習?機器學習的分類 兩種分類方式。機器學習的一般流程 模型訓練中的交叉驗證 將資料分為幾份,每份第一次訓練做訓練集,第二次做了測試集 機器學習的評價 混淆矩陣 auc roc 一 線性回歸 解析解的求解過程,要求自己推導 目標函式,過擬合,正則式 模型效果 mse rms...
機器學習總結
傳統的機器學習大致分為 線性回歸 邏輯回歸 決策樹支援向量機 神經網路 等深度學習以神經網路的回歸為基礎,之後會談到的大致有 卷積神經網路 遞迴神經網路 這段時間學習以來,很直觀的體會到,機器學習的本質就是再用計算力和合適的 演算法來 你想要 的東西,比如房價問題,分類問題等。假設你的算力足夠強大,...
機器學習總結
總的來說就是教計算機怎麼認識 自然語言等,現在主要是視覺,和聽覺。1.生物神經網路 一般指生物的大腦神經元,細胞,觸點等組成的網路,用於產生生物的意識,幫助生物進行思考和行動。2.人工神經網路 artificial neural networks 簡稱anns 也叫 connection model...