標量（scalar）
乙個數值，最小的計算單元
向量（vector）
由多個標量組成的一維陣列
矩陣（matrix）
由標量資料構成的二維陣列
張量（tensor）
深度學習領域，很多時候資料都是高於二維的，所以需要一種能夠表示任意維度的資料型別——張量。
衡量向量大小的一種度量方式，幾何意義上是度量從原點到點x的距離。範數是正則化的主要手段，用來衡量模型的複雜度。
1. 0範數——表示向量中非0元素的個數
2. 1範數——絕對值範數，表示向量中所有元素的絕對值之和。
3. 2範數——歐幾里得範數，也就是通常意義上的模值。
4. 範數——向量中每個元素絕對值的最大值
深入淺出Pytorch 深度學習概覽
文字 分詞 連續文字根據標點空格分成單詞列表。去停詞 去掉出現頻率大，沒有啥意義的單詞，比如吧，哦，了，it,of the 正則化 文字統一化，英文 中文 詞嵌入 n個單詞，每個單詞對應m長的向量 n m n times m n m矩陣。經驗 m 約等於n的四次方根的1到10倍，然後轉化成最近的2次...
深度學習數學基礎之線性代數
深度學習中的基本資料結構，基本上都是用向量或矩陣表示的，因此 深度學習的基礎學科之一 就是線性代數。深度學習中的線性代數知識主要包括以下部分 1 標量 向量 矩陣和張量 這4個變數很好理解 分別表示 乙個數 一維空間 一條線 二維 乙個平面 多於二維 立體或超立體等 2 矩陣的乘法和內積 這個在深度...
深入淺出多執行緒系列之三 執行緒池
執行緒池 每乙個執行緒缺省會被分配 1mb的記憶體，在 c 中，這些都是實打實的分配的，當乙個執行緒啟動的時候，為了分配臨時堆疊大約需要花費幾百微秒的時間。執行緒池通過迴圈利用執行緒可以讓你更高效的利用執行緒。執行緒池就像外包的勞務隊一樣，有任務給他們，他們會管理勞務工的一切，你不需要去花時間去找單...