範數（norm）是數學中的一種基本概念。常常用來度量某個向量空間（或矩陣）中的每個向量的長度或大小。
範數，是具有「長度」概念的函式。
乙個集合（向量），通過一種對映關係（矩陣），得到另外乙個幾何（另外乙個向量）。。那麼向量的範數就是表示這個原有集合的大小。而矩陣的範數，就是表示這個變化過程的大小的乙個度量。
0範數，向量中非零元素的個數。
1範數，為絕對值之和。
2範數，就是通常意義上的模。
常用的向量範數和矩陣範數的定義：
在實際應用中，0範數本身不容易有乙個好的數學表示形式，被人認為是乙個np難問題，所以在實際情況中，0範數的最優問題會被放寬到l1或l2下的最優化。
l1範數是我們經常見到的一種範數，它的定義如下： ||
x||1
=∑i|
xi|
表示向量x中非零元素的絕對值之和。
對於l1範數，它的優化問題如下: mi
n||x
||1
s.t.
ax=b
由於l1範數的天然性質，對l1優化的解是乙個稀疏解，因此l1範數也叫做稀疏規則運算元。通過l1可以實現特徵的稀疏，去掉一些沒有資訊的特徵。
l2範數是我們最常用的範數了，歐式距離就是一種l2範數，它的定義如下： ||
x||2
=∑ix
2i−−
−−−√
對於l2範數，它的優化問題如下： mi
n||x
||2
s.t.
ax=b
l2範數通常會被用來優化目標函式的正則化項，防止模型為了迎合訓練集而國語複雜造成過擬合的情況，提高模型的泛化能力。
範數知識整理
x 的 0 範數 x 到零點的漢明距離 x 的 1 範數 x 到零點的曼哈頓距離 x 的 2 範數 x 到零點的歐氏距離 x 的 n 範數 x 到零點的 n 階閔氏距離 x 的無窮範數 x 到零點的切比雪夫距離 函式與幾何圖形往往是有對應的關係，這個很好想象，特別是在三維以下的空間內，函式是幾何影象...
歐幾里得範數 範數
建議閱讀原文 預備知識向量空間 一些向量空間中，我們可以給每個向量都定義乙個範數，例如常見的 賦範空間 normed space 1 範數通常用雙豎線表示，如 三角不等式 下面是一些常見的範數定義 列向量的 範數 定義 或 空間 即 維實數或複數列向量空間 的 範數 為 物理中常見的是2 範數，也叫...
歐幾里得範數 範數 Norms
範數是向量的乙個概念，把向量看做是賦範向量空間的乙個從原點出發的點，而範數則是這個空間中的幾何 距離 作為向量的一種度量而存在。1.向量組的的範數 我們求這樣的向量組的範數，就是求某種距離，這種距離被稱為 minkowski distance 閩可斯基距離 而對於距離的度量，和我們對距離的階數 or...