傳統機器學習輸入的特徵為人工提取的特徵,例如人的身高、體重等,深度學習則不然,它接收的是基礎特徵,例如畫素等,通過多層複雜特徵提取獲得。
人工智慧是乙個非常廣泛的問題,機器學習是人工智慧的一種手段,深度學習是機器學習的乙個分支
人工智慧》機器學習》深度學習
多層和非線性(啟用函式)
是開放環境中的乙個較大且有影響力的知識相簿,它將15w單詞整理成11w個近義詞集。並定義了近義詞集之間的關係。
谷歌的知識相簿就是基於wikipedia建立的。
只能解決線性可分問題
無法解決異或問題
這些問題通過多層網路解決
大幅降低了訓練需要的時間
nlp,機器翻譯,語音識別,時序**
計算資源+資料量無法滿足深沉神經網路
適用:分類問題
\begin
h(p,q) = - \sum_ p(x) * \log
\end
p和q都是概率分布,交叉熵刻畫的是p,q兩個概率概率分布之間的距離,也就是q表達p的困難程度,交叉熵越小,困難程度越小,q與p的距離越接近。
這裡的x,可以理解為,對於某條記錄而言,**值的各種可能結果。h(p,q)相當於對於一條記錄而言,**值與真實值的距離。**值與真實值不一定是二分類也可能是多分類
將神經網路的輸出向量y(one-hot向量),經過公式(2)轉化為概率分布(向量),用於計算交叉熵。
設原始輸出單元為\(y_1\),\(y_2\),...\(y_n\),
\begin
softmax(y_i) =\frac} e^}
\end
適用:單輸出節點的回歸問題(也是分類問題中常用的一種損失函式)
\begin
mse(y,y)=\fracn (y_i-y_i)2}
\end
tensorflow中一般的實現方式:mse = tf.reduce_mean(tf.square(y_ - y))
TensorFlow 深度學習筆記
google 深度學習筆記 經常總結是個好習慣,筆記目錄奉上。歡迎star,有問題可以到issue區討論 官方教程位址 最近tensorflow團隊出了乙個model專案,和這個課程無關,但是可以參考 框架 tensorflow 谷歌出品的基於python的深度學習工具集 工具 ipython,py...
TensorFlow深度學習框架
tensorflow支援python和c 兩種程式語言,再複雜的多層神經網路模型都可以用python來實現,如果業務使用其他程式設計也不用擔心,使用跨語言的grpc或者http服務也可以訪問使用tensorflow訓練好的智慧型模型。tensorflow 是乙個採用資料流圖 data flow gr...
深度學習 初識TensorFlow
深度學習使用場景 影象理解 語音識別 自然語言處理 機器自主 無人駕駛 深度學習,如深度神經網路 卷積神經網路和遞迴神經網路已被應用計算機視覺 語音識別 自然語言處理 音訊識別與生物資訊學等領域並取得了很好的效果。深度學習在人工智慧領域的地位 深度學習框架 google brain計畫產物 應用於a...