svm與lr（邏輯回歸）的區別和聯絡
區別：1、svm是非引數估計，本質上是解決二次規劃問題；lr是引數估計，本質上是乙個極大似然估計問題。
2、svm被稱為結構風險最小化，也就是讓模型的泛化能力盡可能好；lr被稱為經驗風險最小化，也就是最小化分類誤差。
3、svm中使用的分類損失函式是合頁損失函式；lr中使用的分類損失函式是交叉熵函式。
4、svm中只使用支援向量來決定決策邊界；lr使用所有的樣本來構建分類器。
5、svm不能直接輸出分類概率；lr輸出的是分類概率，可以通過閾值判斷來確定分類。
6、svm不適合大量的資料樣本；lr對資料樣本大小沒有要求。
聯絡：1、都是經常用到的分類演算法。
2、本質上都屬於線性分類問題，通過加入核函式就可以解決非線性問題。
3、兩者的損失函式都是由正則項加分類誤差來構成，調整其中的權重引數就可以對模型泛化能力和分類精度進行權衡，以得到最合適的模型引數。
LR和SVM 線性回歸的聯絡與區別
lr和svm的聯絡 都是線性分類方法 不考慮核函式時 都是判別模型 判別模型和生成模型是兩個相對應的模型。判別模型是直接生成乙個表示p y x p y x 或者y f x y f x 的判別函式 或 模型 生成模型是先計算聯合概率分布p y x p y,x 然後通過貝葉斯公式轉化為條件概率。svm和...
LR和SVM 線性回歸的聯絡與區別
lr和svm的聯絡 都是監督的分類演算法 都是線性分類方法 不考慮核函式時 都是判別模型 判別模型和生成模型是兩個相對應的模型。判別模型是直接生成乙個表示或者的判別函式 或 模型 生成模型是先計算聯合概率分布然後通過貝葉斯公式轉化為條件概率。svm和lr，knn，決策樹都是判別模型，而樸素貝葉斯，隱...
支援向量機 SVM 和邏輯回歸 LR
支援向量機文件 邏輯回歸文件 1 都是常用的分類演算法。2 如果不考慮核函式，lr和svm都是線性分類演算法，也就是說他們的分類決策面都是線性的。3 lr和svm都是監督學習演算法。4 lr和svm都是判別模型 判別模型會生成乙個表示p y x 的判別函式 或 模型 而生成模型先計算聯合概率p y,...