在推導公式和計算中，常常能碰到矩陣乘以其矩陣轉置，在此做個總結。
1.假設矩陣a是乙個 m∗n
m*nm∗
n 矩陣，那麼
a ∗a
ta*a^t
a∗at
得到乙個 m∗m
m*mm∗
m 矩陣，at∗
aa^t*a
at∗a
得到乙個 n∗n
n*nn∗
n 的矩陣，這樣我們就能得到乙個方矩陣。
看乙個例子:
x θ=
hx \theta =h
xθ=h
求解θ\theta
θ.x tx
θ=xt
hx^tx\theta =x^th
xtxθ=x
th這個矩陣x我們不能確定是否是方矩陣，所以我們在其左側同時乘以x矩陣的轉置，這樣 就在θ
\theta
θ 的左側得到乙個方矩陣。
( xt
x)−1
xtxθ
=(xt
x)−1
xt
h(x^tx)^x^tx\theta =(x^tx)^x^th
(xtx)−
1xtx
θ=(x
tx)−
1xth
再在等式的兩邊乘以xtx
x^tx
xtx的逆，就變成了單位矩陣i
ii和θ
\theta
θ相乘，這樣我們就得到了θ
\theta
θ的解:
θ =(
xtx)
−1xt
h\theta=(x^tx)^x^th
θ=(xtx
)−1x
th2.對稱矩陣
如果方陣a滿足at=
aa^t=a
at=a
,就稱a為對稱矩陣。
假設a =x
tx
a=x^tx
a=xt
x,a的轉置at=
(xtx
)t=x
tx=a
a^t=(x^tx)^t=x^tx=a
at=(xt
x)t=
xtx=
a,所以我們可以說(xt
x)
(x^tx)
(xtx
)是乙個對稱矩陣。對稱矩陣的特徵向量兩兩正交。 1
3.奇異值分解(svd)
我們可以用與a相關的特徵分解來解釋a的奇異值分解。a的左奇異向量是aat
aa^t
aat的特徵向量，a的右奇異向量是ata
a^ta
ata的特徵向量，a的非零奇異值是ata
a^ta
ata特徵值的平方根，同時也是aat
aa^t
aat特徵值的平方根。 2
reference:
↩︎goodfellow i, bengio y, courville a, et al. deep learning[m]. cambridge: mit press, 2016. ↩︎
稀疏矩陣轉置矩陣
num 矩陣a中某列的非零元素的個數 cpot 初值表示矩陣a中某列第乙個非零元素在b中的位置，並有如下遞推 cpot 1 0 cpot col cpot col 1 num col 1 2 col nu end right.const int maxterm 100 struct sparsema...
轉置矩陣，逆矩陣和倒轉置矩陣
單位矩陣 轉置矩陣 transpose matrix 性代數中，矩陣 a的轉置是另乙個矩陣a t 也寫做a tr,t a或a 由下列等價動作建立 形式上說，m n矩陣a的轉置是n m矩陣 對於矩陣a,b和標量c轉置有下列性質 轉置是從 m n矩陣的 向量空間到所有 n m矩陣的向量空間的 線性對映。...
稀疏矩陣的轉置（矩陣轉置和快速轉置）
實現矩陣的轉置 1.將矩陣的行列值相互轉換。2.將每個三元組中的i和j交換。3.重排三元組之間的次序便可實現矩陣的轉置。void transposesmatrix tsmatrix m,tsmatrix t return transposesmatrix快速轉置的原理是 如果能預先確定矩陣m中每一列...