深度學習之二 相關數學基礎(線性代數理論)

2021-08-04 09:52:35 字數 698 閱讀 8883

1.線性代數:線性代數式事物狀態的狀態變化的規則

2.線性代數中的幾個概念

2.1 標量、向量、矩陣、張量

標量:就是單純的乙個個數,量的表示,如;1,2,3;

向量:標量組成的「陣列」,如:[1,2,3];

矩陣:可以當成一張數表,行向量和列向量的組合,可以說是多條向量組合而成,e:[[1,2,3],[4,5,6]]

張量:維度高於二的數表。

2.2 向量空間

向量空間又稱線性空間,是線性代數的中心內容和基本概念之一,又可理解為向量儲存的集合。

(1)線性無關:我們在研究過程中需要一組相互無關變數作為特徵資料來描述網路狀態的變化;

(2)張成:一組向量通過線性組合所能形成的子空間(可以理解為降維);

(3)基底:基(也稱為基底)是描述、刻畫向量空間的基本工具。向量空間的基是它的乙個特殊的子集,基的元素稱為基向量;

(4)維度:線性空間自由變數的個數。

2.3 矩陣中幾個概念

(1)範數:在深度學習中用範數來衡量向量的大小;

(2)特殊矩陣;

(3)矩陣的描述:靜態的(狀態)

動態的(變化)

(4)線性變化矩陣:可以看似是資料降維的過程;

2.4複數

複數在深度學習中應用廣泛,我們過多的考慮實數空間卻沒考慮虛數所帶來的意義,這可以理解為人的思維空間,將人的意識和思維加入到神經網路之中。

深度學習 0 相關概念

卷積核 3 3 3 前兩個 3是卷積核大小,後乙個是通道數,指定步長後滑動一次生成 乙個 x,y,1 假設有n個卷積核,這樣就生成 x,y,n 縮小大小,厚度增加 引數 n個卷積核 n 3 3 n 偏執 對於32 32 3的 28 28 64 卷積 28 28 64 14 14 64 池化 通常也有...

SQL學習(一)相關基礎知識

rdbms基礎知識 1 資料庫是按照資料結構來組織 儲存和管理資料的倉庫 資料庫是一些關聯表的集合。2 資料表是資料的矩陣,在乙個資料庫中的表看起來像乙個簡單的電子 3 列 一列包含了相同的資料。5 冗餘 儲存兩倍資料,冗餘降低了效能,但是提高了資料的安全性。6 主鍵 主鍵是唯一的。乙個資料表中只能...

深度學習數學基礎之線性代數

深度學習中的基本資料結構,基本上都是用向量或矩陣表示的,因此 深度學習的基礎學科之一 就是線性代數。深度學習中的線性代數知識主要包括以下部分 1 標量 向量 矩陣和張量 這4個變數很好理解 分別表示 乙個數 一維空間 一條線 二維 乙個平面 多於二維 立體或超立體等 2 矩陣的乘法和內積 這個在深度...