定性：是一種二類分類的線性模型，屬於判別模型（即從資料中直接學習得到的模型）
旨在求出將訓練資料進行線性劃分的分離超平面。
求得感知機模型的方法思路：利用梯度下降法對基於誤分類點的損失函式進行極小化。
下面分別從模型，策略，演算法三個方面展開描述
1.模型
定義：f(x)=sign(w*x+b)
其中x是特徵向量，w是權值向量，b叫偏置是乙個數
幾何解釋：w*x+b=0對應於特徵空間中的超平面s，w是超平面的法向量，b是截距。
2.策略
假設：資料集線性可分
策略：所謂策略即是損失函式的選擇，本能的選擇是誤分類點的總數，但是考慮到這樣的話損失函式對參量w，b不是連續可導函式，所以放棄這個最簡單的。
所選的損失函式是誤分類點到超平面的總距離，具體定義如下：
l（w，b）=-sigma yi*(w*x+b)
3.演算法
採用隨機梯度下降法來解最小化問題
min l(w,b)
%perceptron
%統計學習方法 例2.1
close all;
clear all;
clc;
%%x=[3
3;46;1
1]'y=[-1
1 -1]
fori=1:3
if y(i)==1
plot(x(1,i),x(2,i),'o')
else
plot(x(1,i),x(2,i),'*')
endhold on
end%%
w0=[-1
1];b0=[0];
eta=1;
n=0;
while (1)
flag=0;
fori=1:3
%遍歷所有點
x_t=x(:,i)
y_t=y(:,i)
if (y_t*(w0*x_t+b0))<=0
%選取誤分類的點
w0=w0+eta*y_t*x_t';
b0=b0+eta*y_t;
flag=1;%標識存在誤分類點
endend
if flag==0
break;
endn=n+1;
endw0
b0xp=1:5;
yp=(-w0(1)*xp-b0)/w0(2);
plot(xp,yp)
感知機 統計學習方法
一 感知機適用問題以及它的輸入，輸出，求解方法 1 感知機 perceptron 適用於二類分類問題 該分類問題是線性可分問題 2 感知機模型是線性分類模型 3 感知機的幾何解釋，感知機對應的是乙個超平面 4 輸入 例項的特徵向量 5 輸出 例項的類別，取 1和 1二值 6 求解方法 有監督學習 給...
《統計學習方法》 感知機
最近終於有開始看 統計學習方法 了，畢竟無腦調參確實沒有什麼意義。一方面是作為看書的筆記，一方面作為比部落格或許能起到一點參考作用吧。希望可以日更。由輸入空間到輸出空間的函式 f x si gn w x b f x sign w cdot x b f x s ign w x b 稱為感知機。感知機是...
統計學習方法之感知機
在翻閱知乎時，得知李航所著的 統計學習方法 一書，於是就買了一本，看到csdn上已有大牛都發了相關的部落格，再次贅述就顯得囉嗦了，就直接上乾貨吧，自己用matlab寫的 和一些自己再看書時的小小的理解。感知機是一種二類分類的線性模型模型，是乙個將輸入空間 特徵空間 分成正負兩類的分離超平面。它的更多...