範數 為何物?

2021-10-16 05:46:07 字數 1347 閱讀 5813

在機器學習 & 深度學習中常常用到範數,那麼範數到底是幹什麼用的呢?

其實範數的主要作用是衡量乙個向量的大小,就是將向量對映到非負值的函式。直觀講就是:向量 x

xx 的範數衡量 從原點到點 x

xx 的距離。

形式上,l

pl^p

lp範數定義為:

∥ x∥

p=(∑

i∣xi

∣p)1

p\vert x \vert_p = \biggl( \sum_i ^p \biggr)^

∥x∥p​=

(i∑​

∣xi​

∣p)p

1​當 p=2

p=2p=

2 時,我們稱之為 l

2l^2

l2範數,也稱為 歐幾里得範數;常化簡為 ∥x∥

\vert x \vert

∥x∥

它表示從原點出發 到向量 x

xx 確定的點 的歐幾里得距離。

平方 l

2l^2

l2範數也常常用來衡量向量的大小,可以見的 平方 l

2l^2

l2範數相比 l

2l^2

l2範數沒有開方,因此可以簡單的通過點積 xt⋅

xx^t \cdot x

xt⋅x

計算l1

l^1l1

範數可以簡化為

∥ x∥

1=∑i

∣xi∣

\vert x \vert _1 = \sum_i

∥x∥1​=

i∑​∣

xi​∣

當機器學習問題中 零和非零元素之間的差異非常重要時,通常會使用 l

1l^1

l1範數。l

1l^1

l1範數經常作為表示非零元素數目的替代函式。

這個範數表示向量中最大幅值的元素的絕對值

∥ x∥

∞=

max⁡i∣

xi

∣\vert x \vert_\infty = \max_i

∥x∥∞​=

imax​∣

xi​∣

frobenius 範數 與上述範數不同,frobenius 範數是乙個衡量 矩陣大小的範數,在深度學習中使用較多。

∥ a∥

f=∑i

,jai

,j

2\vert a \vert _f = \sqrt^2}}

∥a∥f​=

i,j∑

​ai,

j2​​

即:矩陣a

aa 全部元素平方和的平方根。

無奈為何物?

無奈,這種特別的情結,是在人生的旅程中,出現的那種無法用語言和形態表述的情感負重。也許,只有你自身 才能真正體會得到它的痛苦和憂鬱,於是,這種情調對你形成了一種負重的包袱!對乙個人來說,這是對生活厄運的孤獨承受,是一種誰都無法讀懂的情感糾結。有時,也許無人能理解你的心情 有時,也許無人能包容你的經歷...

仿函式為何物?

仿函式又稱函式物件,其本質是類的物件,但為什麼帶 函式 二字呢,因為該類過載了 運算子,使得物件使用 時類似使用函式。如 greater ig 比較大小。greater是乙個模板類,ig是該類的物件,這裡稱ig為仿函式或函式物件。cout ig 5,2 endl 之所以稱呼ig時帶 函式 二字,是因...

企業年金到底為何物?

企業年金悄然走近百姓生活 關於推進資本市場改革開放和穩定發展的若干意見 鼓勵合規資金入市。指出 支援保險資金以多種方式直接投資資本市場,逐步提高社會保障 企業補充養老 商業保險資金等投入資本市場的資金比例。意見 所指 企業補充養老 即 企業年金 是企業和員工自願增加積累的一種補充養老 對於完善我國企...