向量
(或長度)叫做向量的模,記作
|平面向量
=(x,y)
,模長是:
空間向量
=(x,y,z)
,模長是:
對於向量
屬於n維復向量空間
=(x1,x2…,xn)
,的模為‖
‖=sqrt((x,x*))(x與x
共軛的內積再開方)
模是絕對值在二維和三維空間的推廣,可以認為就是向量的長度。推廣到高維空間中稱為範數。
模是空間幾何的概念,範數是線性代數裡的概念,範數是大於三維空間的模??
向量的範數可以簡單形象的理解為向量的長度,或者向量到零點的距離,或者相應的兩個點之間的距離。
向量的範數定義:向量的範數是乙個函式
||x||,
滿足非負性
||x|| >= 0
,齊次性
||cx|| = |c| ||x||
,三角不等式
||x+y|| <= ||x|| + ||y||。l1
範數:||x|| 為x
向量各個元素絕對值之和。
l2範數
:||x||為x
向量各個元素平方和的
1/2次方,
l2範數又稱
euclidean
範數或者
frobenius
範數lp
範數:||x||為x
向量各個元素絕對值
p次方和的
1/p次方
l∞範數
:||x||為x
向量各個元素絕對值最大那個元素的絕對值,如下:
橢球向量範數
: ||x||a= sqrt[t(x)ax]
,t(x)代表x
的轉置。定義矩陣c 為
m個模式向量的協方差矩陣,設c』
是其逆矩陣,則
mahalanobis
距離定義為
||x||c』= sqrt[t(x)c』x],
這是乙個關於
c』的橢球向量範數。
1)、歐式距離(對應
l2範數):最常見的兩點之間或多點之間的距離表示法,又稱之為歐幾里得度量,它定義於歐幾里得空間中。
n維空間中兩個點
x1=(x11,x12,
…,x1n)
與x2=(x21,x22,
…,x2n)
間的歐氏距離:
也可以用表示成向量運算的形式:
2)、曼哈頓距離:曼哈頓距離對應
l1-範數,也就是在歐幾里得空間的固定直角座標系上兩點所形成的線段對軸產生的投影的距離總和。例如在平面上,座標(
x1, y1
)的點p1
與座標(
x2, y2
)的點p2
的曼哈頓距離為:,要注意的是,曼哈頓距離依賴座標系統的轉度,而非系統在座標軸上的平移或對映
3)、切比雪夫距離,若二個向量或二個點x1和
x2,其座標分別為
(x11, x12, x13, ... , x1n)
和(x21, x22, x23, ..., x2n)
,則二者的切比雪夫距離為:
d = max(|x1i - x2i|),i
從1到n
。對應l
∞範數。
4)、閔可夫斯基距離
(minkowski distance)
,閔氏距離不是一種距離,而是一組距離的定義。對應
lp範數,
p為引數。
閔氏距離的定義:兩個
n維變數(或者兩個
n維空間點)
x1(x11,x12,
…,x1n)
與x2(x21,x22,
…,x2n)
間的閔可夫斯基距離定義為:
p是乙個變引數。 當
p=1時,就是曼哈頓距離, 當
p=2時,就是歐氏距離, 當
p→∞時,就是切比雪夫距離,
根據變引數的不同,閔氏距離可以表示一類的距離。
5)、mahalanobis
距離:也稱作馬氏距離。在近鄰分類法中,常採用歐式距離和馬氏距離。
向量範數和矩陣範數
以下分別列舉常用的向量範數和矩陣範數的定義。1 範數 2 範數 即所有向量元素絕對值中的最小值,matlab呼叫函式norm x,inf p 範數 即向量元素絕對值的p次方和的1 p次冪,matlab呼叫函式norm x,p 1 範數 列和範數,即所有矩陣列向量絕對值之和的最大值,matlab呼叫函...
向量和矩陣範數
參考 數值分析 朱曉臨 需要理解的是,範數也是一種函式,是一種度量向量和矩陣大小的函式。它常常被用來度量某個向量空間 或矩陣 中的每個向量的長度或大小。暫時沒時間寫 約定 a代表m n的矩陣,aij代表矩陣內的元素,i表示行,j表示列。並且有一例項矩陣a如下 矩陣的列範數定義如下 即將矩陣每列看做乙...
向量和矩陣範數
在剛入門機器學習中的低秩,稀疏模型時,被各種範數攪得一團糟,嚴重延緩了學習進度,經過一段時間的學習,現在將其完整的總結一下,希望遇到同樣麻煩的同學能有所幫助。一 向量的範數 首先定義乙個向量為 a 5,6,8,10 1.1 向量的1範數 向量的1範數即 向量的各個元素的絕對值之和,上述向量a的1範數...