之前我們講過線性回歸:在向量空間裡用線性函式去擬合樣本。
該模型以所有樣本實際位置到該線性函式的綜合距離為損失,通過最小化損失來求取線性函式的引數。參見下圖:
對於線性回歸而言,乙個樣本只要不是正好落在最終作為模型的線性函式上,就要被計算損失。
如此嚴格,真的有利於得出可擴充套件性良好的模型嗎?
今天我們來介紹一種「寬容的」回歸模型:支援向量回歸(support vector regression,svr)。
模型函式
支援向量回歸模型的模型函式也是乙個線性函式: y = wx + b。
看起來和線性回歸的模型函式一樣哈!
但svr 和線性回歸,卻是兩個不同的回歸模型。
不同在哪兒呢?不同在學習過程。
說得更詳細點,就是:計算損失的原則不同,目標函式和最優化演算法也不同。
原理如下圖
邏輯回歸演算法的一種實現
邏輯回歸演算法的一種實現 1 import numpy as np import matplotlib.pyplot as plt 載入資料集,將資料集中兩列資料分別儲存到datamat和labelmat def loaddataset datamat labelmat fr open home j...
一種快速求fibonacci第n個數的演算法
利用動態規則的思路,摒棄傳統的遞迴做法,可以得到一種快速的求fibonacci第n個數的演算法 求第n 從1開始 位fibonacci數 fibonacci數列前兩位為0,1.後面每一位數字等於前兩位數字之和 def fibonacci n if n 2 return n 1f 0 g 1 whil...
人工智慧 一種現代的方法 第2章 智慧型Agent
agent的本質,完美性,環境多樣性,分類 環境agent感知序列 該agent所接收到的是所有輸入資料的完整歷史。agent函式 描述agent行為,將任意給定感知序列對映為行動 agent程式 人造agent函式的實現。理性的概念 理性對每個可能的感知序列,根據已有的感知序列提供的證據和agen...