課程第一章主要介紹現代ai的基本概念和演化過程,整理本課程一些學習要點,第一課介紹現代ai的歷史發展;第二課梳理了現代ai的骨架脈絡,有個整體概貌;第三課著重介紹深度的基本概念和學習演進過程。
1、現代ai是什麼?
1.1 深度學習的興起
alphago引起廣泛關注;
1.2 學派分類
邏輯學派:規則為主;
統計學派:基於資料的統計規律;
知識庫學派:知識庫,知識圖譜;
神經網路:深度學習。
1.3 深度學習發展
2023年 frank感知機
1969- 寒冬期
2023年 影象識別技術
2023年 ibm深藍
2023年 imagenet 李飛飛
2023年 alexnet google brain
2023年 google收購deepmind
2023年 微軟imagenet比賽中超過人類水平
2023年 alphago戰勝李世石
1.4 ai與深度學習的關係
ai-機器學習-表示學習-深度學習
1.5 modern ai
基於深度學習的不斷創新與結合
2、現代ai的骨架脈絡
1.1 深度學習和神經網路的基本概念;
mlp(perceptron)
dnn1.2 cnn->2012 alexnet->vgg->resnet 計算機視覺
1.3 rnn->lstm(長短期記憶)->gru->neural turing machine(神經圖靈機器)
1.4 cnn和rnn的應用
文字分類 cnn
情感分析 rnn
中文詩歌
1.5 神經自然語言處理
語義模型
序列標註
1.6 搜尋排序
learning2rank
1.7 強化學習技術與應用
方法:基於值;基於策略;基於模型。
1.8 可解釋的模型及應用
概率圖模型
貝葉斯推斷
貝葉斯深度學習
1.9 生成式模型
vae(variational autoencoder變分自編碼器)
gans(生成式對抗網路)
1.10 深度強化學習演算法
dqn(deep q-learning)
alphago
ddpg(deep deterministic policy gradient)
1.11 multi-agent系統技術
理論介紹
演算法分析
1.12 基於邏輯的深度學習技術
理論介紹
演算法分析
3、深度學習簡介
3.0 邏輯主義ai(西洋棋)-> 機器學習該概念起源;
3.1 資料,規則-》結果 vs 資料,結果-》規則;
3.2 側重面向工程的方向,解決實際問題;
3.3 深度學習是表示學習的一種方式,表示學習通過對於實際問題表述優化,達到更好解決問題,
深度學習能夠連續獲得更加有意義的表示,是學習表示的資料框架,這種資料框架會受到神經生物學的啟發,同時
也具有自身的一些變化和創新;
什麼樣的模型解決什麼樣的問題是沒有明顯規則,所以創新是很寬闊的;
3.4 深度學習基本結構
輸入--權值--結果 vs 真實結果
優化權值<-優化器<-損失函式
3.5 深度學習可以認為是連線主義學派的發展演化結果
經歷了電子大腦,感知機,多層感知機(有使用到bp),再到深度神經網路,中間有svm模型的提出對鏈結模型造成一定的衝擊;2006深度神經網路的完備,深度學習開始了高速的發展。
谷歌深度學習公開課學習筆記 0
課程 谷歌官方的倉庫 課程難度不大,課後的學習任務我也在其他部落格網上找到了解答,他的全部 託管在 學習任務解答列表 1.谷歌深度學習公開課任務 1 notmnist 2.谷歌深度學習公開課任務 2 sgd 3.谷歌深度學習公開課任務 3 正則化 4.谷歌深度學習公開課任務 4 卷積模型 5.谷歌深...
谷歌深度學習公開課學習筆記 1
模型改進後,在你的驗證集上影響了30個例項的改變,通常是有統計學意義的,通常是可以信任的。想象你的驗證集裡有3000個例項,假定你信任30的規則,你可以相信哪個水平的準確性的提公升?當你得到從80 到81 這1 的提公升更有說服力,因為有30個例項從不正確到正確。這就是為什麼對大多數分類器任務,人們...
百度熊掌號公開課在鄭州成功舉辦
13 月 14 日下午,廣受業界關注的熊掌號公開課在鄭州永和伯爵酒店二樓巴黎廳開講,來自河南省內外 300 名站長及企業使用者齊聚一堂,認真聆聽了熊掌號團隊的乾貨分享。站長簽到 據悉,熊掌號是從站長角度重新思考搜尋生態發展後於 11 月 16 日新推出的產品,其相應熊掌公開課先後在北京和深圳 成都等...