機器學習
表示學習
深度學習
神經網路
本書知識體系
1.深度學習(機器學習) -------------人工智慧
2.貢獻度分配問題
3.人工神經網路
4.深度學習可以採用神經網路模型,也可以採用其他模型
5.人工智慧
6.圖靈測試
7.主要領域:
(1)感知:模擬人的感知能力——語音、影象
(2)學習:模擬人的學習能力——無監督、強化、監督
(3)認知:模擬人的認知能力——知識表示、自然語言理解、推理、規劃、決策等。
(1)符號主義
a)資訊可以用符號來表示
b)符號可以通過顯式的規則來操作
(2)連線主義
1.傳統的機器學習:如何學習乙個**模型。
2.特徵、淺層學習
淺層學習:不涉及特徵學習,其特徵主要靠人工經驗或特徵轉換方法來抽取。
特徵提取:提取一些有效的特徵。例如:邊緣、尺度不變特徵變換特徵
特徵轉換:降維、公升維。
降維:特徵抽取、特徵選擇(主成分分析、線性判別分析)
公升維:*****===>很多機器學習問題變成了特徵工程
乙個演算法可以自動學習出有效的特徵,並最終提高機器學習的模型效能——表示學習。
關鍵:!!!語義鴻溝:輸入資料的底層資訊和高層語義資訊之間的不一致性和差異性。
重要問題!!!1.什麼是乙個好的表示
2.如何學習到好的表示one-shot向量
1)解釋性很好
2)通過多種特徵組合得到的表示向量通常是稀疏的二值向量
缺點:1)維數很高、不易擴充套件
2)無法分析相似性
稠密向量
考慮:使用神經網路將高維的區域性表示空間對映到乙個非常低維的分布式表示空間——嵌入嵌入:將乙個度量空間中的一些物件對映到另乙個低維的度量空間中,並盡可能保持不同物件之間的拓撲關係。
深層結構的優點是可以增加特徵的重用性,從而指數級地增加表示能力。為了學習一種表示——需要構建一定深度的模型,並通過學習演算法來讓模型自動學習出好的特徵表示(底層->中層->高層),從而最終提高模型的準確率。
深度:原始資料進行非線性特徵轉換的次數。
與淺度學習不同,深度學習更需要解決的關鍵問題是貢獻度分配問題,即不同的元件對輸出結果的影響。
深度學習可以看作是一種強化學習每個內部元件不能直接獲得監督資訊,需要通過整個模型的最終監督資訊(所謂的獎勵)得到,並且有一定的延時
性。赫布理論
長期記憶、短期記憶
網路容量
mp模型
感知器:模擬人類感知能力的神經網路模型
第一章 緒論
1.16 void print descending int x,int y,int z 按從大到小順序輸出三個數 print descending 1.17 status fib int k,int m,int f 求k階斐波那契序列的第m項的值f gender char schoolname 校...
第一章 緒論
本 題目源於粵電集團科研專案 沙角a電廠優化排程輔助決策系統 沙角a電廠電網排程已由原來對互不聯絡的單機排程方式發展為對全廠整體總負荷的經濟排程方式,現有五颱發電機組 其中210mw機組三颱,300mw機組二台 的主要工作如下 1.實時資料採集及預處理 機組效能計算和能損分析建立在準確獲取現場資料的...
第一章 緒論
1.1 資料結構在程式設計中的作用 a 問題 資料模型 基本思路 想法 資料表示 資料處理 演算法 程式語言 程式設計環境 設計方法 程式 b 著名公式 資料結構 演算法 程式 1.2 本書討論的主要內容 a 問題一般分為 數值問題 非數值問題 a 數值問題抽象出的資料模型通常是數學方程 b 非數值...