感知機：
1.感知機是一種線性分類模型，而且只針對二分類問題。如果對於一組二分類資料其不能找到乙個超平面將所有資料正確劃分，那麼感知機模型將不可收斂。
2感知機定義模型表示式：
w為權重向量，b為偏置，x是輸入向量，也就是乙個樣本的特徵向量。f(x)的結果即為x表示的樣本**的類別，結果為+1或-1.
sign為符號函式
x>=0,sign=+1
x<0 ,sign=-1
一般書中都會提到w，提到w為超平面的法向量，但都很少提到偏置b，其實很多同學可能會疑惑，為什麼偏偏w.x+b>=0時，f(x)=1,w.x+b<0時,f(x)=-1。為什麼不是w.x+b>=a時，f(x)=1,w.x+b3.感知機模型的損失函式
感知機模型的學習策略是根據誤分類的點來更新權重w和偏置b,這裡用到了空間中點到面的距離公式，這裡就不多說了，我在之前的部落格專門提過這個公式，不了解的可以看看。
同時對於乙個模型的損失函式應該是連續的，即可導不然如何更新權重和偏置呢。所以感知機將誤分類的點到超平面的距離定義為最小化的損失函式。
下面這個公式就是在「某一時刻」所有誤分類的點到超平面的距離，很好推導，只用到乙個距離公式，感興趣的可以試試。
那麼很多書中會說，我們可以「忽略」1/||w||,直需要最小化下面這個式子
方向的作用，也有的書裡直接定義他為單位向量。
感知機模型
這裡介紹機器學習中最簡單的一種分類方法 感知機模型。感知機模型 其中sign是符號函式，w和b是引數，x是輸入特徵向量，f x 返回決策結果。分離超平面s 對於二類線性可分問題，分離超平面將兩類樣本分在s兩側。空間中一點x0到s的距離 損失函式 定義損失函式的意義是所有誤分類的點到分離超平面的距離之...
多層感知機
1 單輸出多層感知機 單輸出多層感知機 圖中各變數滿足公式 假如現在有乙個樣本 x 1，x2 t 用該樣本訓練網路時，網路優化的目標為lossfun最小。lossfun是乙個關於變數w和v多元函式。網路的訓練又變成多元函式求極值的問題。求v1的梯度 同理可得v i的梯度 求w11的梯度 同理，可得w...
感知機演算法
1 目標 感知機演算法針對二分類問題 f x x 1 實質在於對於線性可分的資料集 x i0,x i1,x in y i xi y i i 0,1 2,m 2 找到乙個超平面 x b 0 將資料分成兩部分，使得位於位於超平面上半部分的資料點屬於 1 類，處於超平面下半空間的資料點屬於 1 類。2 優...