單向感知機
對於x0，x1…xn-1 n個樣本，y0，y1,…yn-1 是每個樣本的標籤，對於正樣本來說，f（x）=1，負樣本來說，f（x）=-1.
xi 屬於rn，為n維空間中的點，n維空間中的分割超平面是乙個n-1維的子空間。
對於乙個二維平面來說，分割超平面為一條直線。
設xi=[x,y],w=[a0,b0],則wx+b=0表示一條直線。wx+b大於等於0時，為負樣本，小於0時為負樣本。
此時引出損失函式的概念，損失函式代表有錯誤的分類，即正負樣本對應的標籤錯誤。如果用錯誤分類點的個數來作為損失函式，誤差很大。所以可以用各個錯誤點到分割平面之間的距離作為損失函式。
此時引出梯度下降的概念，每次對乙個樣本更新引數，先判斷yi（wxi+b）<0,若小於0，則更新w和b。
下面是乙個練習
這些是在網易雲課堂學的
感知機模型
這裡介紹機器學習中最簡單的一種分類方法 感知機模型。感知機模型 其中sign是符號函式，w和b是引數，x是輸入特徵向量，f x 返回決策結果。分離超平面s 對於二類線性可分問題，分離超平面將兩類樣本分在s兩側。空間中一點x0到s的距離 損失函式 定義損失函式的意義是所有誤分類的點到分離超平面的距離之...
多層感知機
1 單輸出多層感知機 單輸出多層感知機 圖中各變數滿足公式 假如現在有乙個樣本 x 1，x2 t 用該樣本訓練網路時，網路優化的目標為lossfun最小。lossfun是乙個關於變數w和v多元函式。網路的訓練又變成多元函式求極值的問題。求v1的梯度 同理可得v i的梯度 求w11的梯度 同理，可得w...
感知機演算法
1 目標 感知機演算法針對二分類問題 f x x 1 實質在於對於線性可分的資料集 x i0,x i1,x in y i xi y i i 0,1 2,m 2 找到乙個超平面 x b 0 將資料分成兩部分，使得位於位於超平面上半部分的資料點屬於 1 類，處於超平面下半空間的資料點屬於 1 類。2 優...