在數學上，範數包括向量範數和矩陣範數，向量範數表徵向量空間中向量的大小，矩陣範數表徵矩陣引起變化的大小。
範數就是距離，計算距離的方法不同，就產生了l0範數、l1範數等等。
在向量範數中：
l0範數：向量中非零元素的數量，嚴格意義上講l0範數並不是範數。
l1範數：向量各元素絕對值之和，這種方法叫曼哈頓距離。
l2範數：向量各元素的平方之和在開方，也就是歐式距離也叫歐式範數。
p範數：向量各元素的p次方之和在開p分之一次方。
正無窮範數：向量各元素絕對值中最大的。
負無窮範數：向量各元素絕對值中最小的。
在矩陣範數中：
l1範數：矩陣每列元素絕對值之和的最大值。
l2範數：ata的特徵值的絕對值的最大值開方。
無窮範數：矩陣每行元素絕對值之和的最大值。
tensorflow中l2範數是每個元素的平方和的二分之一。
面試L0,L1,L2範數
在深度學習中，監督類學習問題其實就是在規則化引數同時最小化誤差。最小化誤差目的是讓模型擬合訓練資料，而規則化引數的目的是防止模型過分擬合訓練資料。引數太多，會導致模型複雜度上公升，容易過擬合，也就是訓練誤差小，測試誤差大。因此，我們需要保證模型足夠簡單，並在此基礎上訓練誤差小，這樣訓練得到的引數才能...
常用的向量與矩陣的範數總結 L0 L1 L2範數
首先定義乙個向量為 x 5，6，8,10 1 範數 2 範數 p 範數 矩陣的1範數 矩陣的2範數 矩陣的2範數即 矩陣ata a a ata的最大特徵值開平方根。矩陣的無窮範數 矩陣的每一行上的元素絕對值先求和，再從中取個最大的 行和最大 l0範數和l1範數 l0範數是指向量中非零元素的個數。如果...
L0 L1 L2範數的聯絡與區別
這裡簡單地介紹以下幾種向量範數的定義和含義 與閔可夫斯基距離的定義一樣，l p範數不是乙個範數，而是一組範數，其定義如下 根據p 的變化，範數也有著不同的變化，乙個經典的有關p範數的變化圖如下 上圖表示了p從無窮到0變化時，三維空間中到原點的距離 範數 為1的點構成的圖形的變化情況。以常見的l 2範...