機器學習需要的線性代數知識

ax=b的最小二乘解為x=r-1qtb，其中qr為因式分解矩陣，解x可用回代法求解rx=qtb得到

使用多項式進行資料擬合以及逼近連續函式可通過選取逼近函式的一組正交基進行簡化

多項式序列p0(x),p1(x),...下標就是最高次數，如果i(x), pj(x)>=0，則成為正交多項式序列，如果i,pj>=1，則叫規範正交多項式序列

經典正交多項式：勒讓德多項式、切比雪夫多項式、雅克比多項式、艾爾公尺特多項式、拉蓋爾多項式

勒讓德多項式：在內積=-1到1的積分p(x)q(x)dx意義下正交，(n+1)p(n+1)(x)=(2n+1)xpn(x)-np(n-1)(x)

切比雪夫多項式：在內積=-1到1的積分p(x)q(x)(1-x2)-1/2dx意義下正交，t1(x)=xt0(x), t(n+1)(x)=2xtn(x)-t(n-1)(x)

拉格朗日插值公式：p(x)=sigma f(xi) li(x)

拉格朗日函式li(x)=(x-xj)連乘積 / (xi-xj)連乘積

f(x)w(x)在a到b的積分可以簡化為sigma li(x)w(x)在a到b的積分 f(xi)

機器學習需要的線性代數知識

ax b的最小二乘解為x r 1 qtb，其中qr為因式分解矩陣，解x可用回代法求解rx qt b得到使用多項式進行資料擬合以及逼近連續函式可通過選取逼近函式的一組正交基進行簡化 多項式序列p0 x p1 x 下標就是最高次數，如果i x pj x 0，則成為正交多項式序列，如果i pj 1，則叫規...

機器學習中的線性代數知識（上）

as all we know,線性代數對於機器學習的重要性不言而喻。但縱觀國內的教材和課程，大部分線性代數的講解，一上來就堆滿了各種定義和公式，從而導致我們知其然而不知其所以然，不利於我們深入理解機器學習的演算法。因此，希望本篇博文能幫大家從另乙個角度理解線性代數。但是注意，閱讀本篇博文，最好已經有...

線性代數知識

線性代數，行列式交換任意兩行行列式變號一次，那麼這兩行一定要相鄰嗎？如果是矩陣呢？矩陣用變號嗎，為什麼？行列式行行之間 列列之間交換不必相鄰。矩陣行列互換不用變號，互換後相當於左乘或右乘乙個初等矩陣，不再是原先的矩陣，但是和原先的矩陣相似，擁有相同的特徵值。追問 乘上得這個初等矩陣是？還有乙個，矩陣...