範數是距離在向量和矩陣上的推廣，在研究收斂性、判斷矩陣非奇異等方面有廣泛應用。
本節包括以下內容：
（1）向量範數；
（2）矩陣範數；
（3）從屬範數；
（4）譜半徑；
（5）矩陣的非奇異條件。
從向量到實數的對映/函式。
定義（1）條件：非負性、齊次性、三角不等式（∥x
+y∥≤
∥x∥+
∥y∥ ）；
（2）斂散：向量序列
收斂，即每個分量在 k→
∞ 時都有極限 ξi
，否則發散。
性質（1）連續型：可證 ∥∥
x∥−∥
y∥∥≤
∥x−y
∥ ，繼而可證向量範數是其分量的連續函式；
（2）等價性：任意範數，存在 c1
,c2 使 c1
∥x∥b
≤∥x∥
a≤c2
∥x∥b
成立。有限維線性空間上的不同範數是等價的；
（3）等價性的意義：向量範數大小可能不同，但在考慮向量序列收斂問題時，卻表現出明顯的一致性（向量序列
收斂到
x 的充要條件是，對任意一種範數 序列
收斂於零）。
常用範數
（1）p-範數（1-範數、2-範數等）：∥x
∥p=(
∑i=1
n|ξi
|p)1
/p，也稱為 lp
範數，注意元素的絕對值（或模）；
（2）無窮範數：∥x
∥∞=limp→
∞∥x∥
p=maxi|ξ
i|；
（3）加權範數（橢圓範數）：∥x
∥a=(
xtax
)1/2
，其中
a 是任意乙個對稱正定矩陣。注意 pt
ap=i
⇒a=(
pt)−
1p−1
=btb
⇒∥x∥
a=∥b
∥2。從（復）矩陣到實數的對映/函式。
定義（1）廣義矩陣範數：非負性、齊次性、三角不等式 ∥a
+b∥≤
∥a∥+
∥b∥ ；
（2）矩陣範數：除以上三條件外，滿足相容性 ∥a
b∥≤∥
a∥∥b
∥ （因此 ∥a
k∥≤∥
a∥k ）。
性質（1）判斷收斂：a(
k)→a
的充要條件是 ∥a
(k)−
a∥→0
； （2）連續型：可證 ∥∥
a∥−∥
b∥∥≤
∥a−b
∥ ，繼而可證連續性，即 a(
k)→a
可推出 ∥a
(k)∥
→∥a∥
（因此，當 ∥a
∥→0 時，a→
o ）；
（3）等價性：滿足定義四條件的矩陣範數都是等價的；
（4）f
− 範數的性質：∥p
a∥f=
∥a_f
=∥aq
∥f，其中 p,
q 為酉矩陣。
常用範數
（1）∥⋅∥
m1：所有元素絕對值（模）之和 ∑i
,j∥a
ij∥ ；
（2）∥⋅∥
m2：所有元素平方和開根號 (∑
ij∥a
ij∥2
)1/2
)=(tr
(aha
))1/
2 ，等同於 ∥⋅
∥f；
（3）∥⋅∥
m∞：所有元素絕對值（模）最大值乘以
n ，n⋅
maxi,j
∥aij
∥； （4）∥⋅∥
1 ：各列元素絕對值（模）之和最大者
maxj∑m
i=1∥
aij∥
. （5）∥⋅∥
2 ：最大奇異值 λ1
‾‾‾√
，其中 λ1
為 ah
a 的最大特徵值；
（6）∥⋅∥
∞ ：各行元素絕對值（模）之和最大者
maxi∑n
j=1∥
aij∥
. .
（7）∥⋅∥
f ：同 ∥⋅
∥m2 ，為 (∑
ij∥a
ij∥2
)1/2
)=(tr
(aha
))1/
2 .
定義（1）矩陣與向量範數的相容性：若 ∥a
x∥v≤
∥a∥m
∥x∥v
(∀a∈
cm×n
,∀x∈
cn) ，則稱矩陣範數 ∥⋅
∥m與向量範數 ∥⋅
∥v是相容的；
（2）構造相容範數：從屬範數（由向量範數匯出的矩陣範數，∥a
∥=max∥x∥
=1∥a
x∥，也可以等價定義為 ∥a
∥=maxx∥a
x∥∥x
∥ ）。
定理（1）f-範數：設 p,
q 為酉矩陣，則 ∥p
a∥f=
∥a∥f
=∥aq
∥f；
（2）f-範數：與
a 酉（正交）相似的矩陣的 f-範數是相同的；
（3）構造相容範數：∥a
∥=max∥x∥
=1∥a
x∥（∥
⋅∥是同類向量範數）是矩陣範數，且與已知的向量範數相容（即
a 的值域中向量範數最大者）。
常用範數
從屬範數：
（1）列和範數：∥a
∥1=max∥x
∥1=1
∥ax∥
1=maxj∑m
i=1∥
aij∥
（每列元素絕對值/模和最大者）；
（2）譜範數：∥a
∥1=max∥x
∥1=2
∥ax∥
2=λ1
‾‾‾√
（其中 λ1
為 ah
a 的最大特徵值）；
（3）行和範數：∥a
∥∞=max∥x
∥∞=1
∥ax∥
∞=maxi∑n
j=1∥
aij∥
（每行元素絕對值/模和最大者）；
（4）frobenius 範數（f-範數）：∥a
∥f=(
∑i∑j
∥aij
∥2)1
/2=(
tr(ah
a))1
/2（所有元素平方和開根號）。
定義（1）譜半徑：ρ(
a)=maxi∥
λi∥ （注意絕對值/模）；
定理（1）對任意矩陣範數，有 ρ(
a)≤∥
a∥（證：用 ∥λ
x∥v=
∥ax∥
m≤∥a
∥∥x∥
）； （2）ρ(a
k)=[
ρ(a)
]k（證：用 p−
1ap=
j ）；
（3）譜範數：∥a
∥2=ρ
1/2(
aha)
=ρ1/
2(aa
h)。當
a 是 hermite 矩陣時，∥a
∥2=ρ
(a)（證：ρ(
aha)
=ρ(a
2)=[
ρ(a)
]2）；
（4）對任意正數
ϵ ，一定存在某種矩陣範數使得 ∥a
∥m≤ρ
(a)+
ϵ 。
（1）a∈c
n×n ，若存在某種範數使 ∥a
∥<
1 ，則矩陣 i−
a 非奇異，且 ∥(
i−a)
−1∥≤
∥i∥1
−∥a∥
； （2）a∈c
n×n ，若存在某種範數使 ∥a
∥<
1 ，則 ∥i
−(i−
a)−1
∥≤∥a
∥1−∥
a∥（∥a∥
很小，即 a→
o 時，i−
a 與
i 的逼近程度）。
向量範數和矩陣範數
以下分別列舉常用的向量範數和矩陣範數的定義。1 範數 2 範數 即所有向量元素絕對值中的最小值，matlab呼叫函式norm x,inf p 範數 即向量元素絕對值的p次方和的1 p次冪，matlab呼叫函式norm x,p 1 範數 列和範數，即所有矩陣列向量絕對值之和的最大值，matlab呼叫函...
向量與矩陣範數
在剛入門機器學習中的低秩，稀疏模型時，被各種範數攪得一團糟，嚴重延緩了學習進度，經過一段時間的學習，現在將其完整的總結一下，希望遇到同樣麻煩的同學能有所幫助。首先定義乙個向量為 a 5，6，8,10 向量的1範數即 向量的各個元素的絕對值之和，上述向量a的1範數結果就是 29，matlab 實現為 ...
向量和矩陣範數
參考 數值分析 朱曉臨 需要理解的是，範數也是一種函式，是一種度量向量和矩陣大小的函式。它常常被用來度量某個向量空間 或矩陣 中的每個向量的長度或大小。暫時沒時間寫 約定 a代表m n的矩陣，aij代表矩陣內的元素，i表示行，j表示列。並且有一例項矩陣a如下 矩陣的列範數定義如下 即將矩陣每列看做乙...