在機器學習 & 深度學習中常常用到範數,那麼範數到底是幹什麼用的呢?
其實範數的主要作用是衡量乙個向量的大小,就是將向量對映到非負值的函式。直觀講就是:向量 x
xx 的範數衡量 從原點到點 x
xx 的距離。
形式上,l
pl^p
lp範數定義為:
∥ x∥
p=(∑
i∣xi
∣p)1
p\vert x \vert_p = \biggl( \sum_i ^p \biggr)^
∥x∥p=
(i∑
∣xi
∣p)p
1當 p=2
p=2p=
2 時,我們稱之為 l
2l^2
l2範數,也稱為 歐幾里得範數;常化簡為 ∥x∥
\vert x \vert
∥x∥
它表示從原點出發 到向量 x
xx 確定的點 的歐幾里得距離。
平方 l
2l^2
l2範數也常常用來衡量向量的大小,可以見的 平方 l
2l^2
l2範數相比 l
2l^2
l2範數沒有開方,因此可以簡單的通過點積 xt⋅
xx^t \cdot x
xt⋅x
計算l1
l^1l1
範數可以簡化為
∥ x∥
1=∑i
∣xi∣
\vert x \vert _1 = \sum_i
∥x∥1=
i∑∣
xi∣
當機器學習問題中 零和非零元素之間的差異非常重要時,通常會使用 l
1l^1
l1範數。l
1l^1
l1範數經常作為表示非零元素數目的替代函式。
這個範數表示向量中最大幅值的元素的絕對值
∥ x∥
∞=
maxi∣
xi
∣\vert x \vert_\infty = \max_i
∥x∥∞=
imax∣
xi∣
frobenius 範數 與上述範數不同,frobenius 範數是乙個衡量 矩陣大小的範數,在深度學習中使用較多。
∥ a∥
f=∑i
,jai
,j
2\vert a \vert _f = \sqrt^2}}
∥a∥f=
i,j∑
ai,
j2
即:矩陣a
aa 全部元素平方和的平方根。
無奈為何物?
無奈,這種特別的情結,是在人生的旅程中,出現的那種無法用語言和形態表述的情感負重。也許,只有你自身 才能真正體會得到它的痛苦和憂鬱,於是,這種情調對你形成了一種負重的包袱!對乙個人來說,這是對生活厄運的孤獨承受,是一種誰都無法讀懂的情感糾結。有時,也許無人能理解你的心情 有時,也許無人能包容你的經歷...
仿函式為何物?
仿函式又稱函式物件,其本質是類的物件,但為什麼帶 函式 二字呢,因為該類過載了 運算子,使得物件使用 時類似使用函式。如 greater ig 比較大小。greater是乙個模板類,ig是該類的物件,這裡稱ig為仿函式或函式物件。cout ig 5,2 endl 之所以稱呼ig時帶 函式 二字,是因...
企業年金到底為何物?
企業年金悄然走近百姓生活 關於推進資本市場改革開放和穩定發展的若干意見 鼓勵合規資金入市。指出 支援保險資金以多種方式直接投資資本市場,逐步提高社會保障 企業補充養老 商業保險資金等投入資本市場的資金比例。意見 所指 企業補充養老 即 企業年金 是企業和員工自願增加積累的一種補充養老 對於完善我國企...