前言
roc(receiver operating characteristic)曲線和auc常被用來評價乙個二值分類器(binary classifier)的優劣。這篇文章將先簡單的介紹roc和auc,而後用例項演示如何python作出roc曲線圖以及計算auc。
auc介紹
auc(area under curve)是機器學習二分類模型中非常常用的評估指標,相比於f1-score對專案的不平衡有更大的容忍性,目前常見的機器學習庫中(比如scikit-learn)一般也都是整合該指標的計算,但是有時候模www.cppcns.com型是單獨的或者自己編寫的,此時想要評估訓練模型的好壞就得自己搞乙個auc計算模組,本文在查詢資料時發現libsvm-tools有乙個非常通俗易懂的auc計算,因此摳出來用作日後之用。
auc計算
auc的計算分為下面三個步驟:
1、計算資料的準備,如果模型訓練時只有訓練集的話一般使用交叉驗證的方式來計算,如果有評估集(evaluate)一般就可以直接計算了,資料的格式一般就是需要**得分以及其目標類別(注意是目標類別,不是**得到的類別)
2、根據閾值劃分得到橫(x:false positive rate)以及縱(y:true positive rate)點
3、將座標點連成曲線之後計算其曲線下面積,程式設計客棧就是auc的值
直接上python**
#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt
evaluate_result="you file path"
db = #[score,nonclk,clk]
pos, neg = 0, 0
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk
db = sorted(db, key=lambda x:x[0], reverse=true)
#計算roc座標點
xy_arr =
tp, fp = 0., 0.
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])
#計算曲線下面積
auc = 0.
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x
print "the auc is %s."%auc
x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("roc curve of %s (auc = %.4f)" % ('svm',auc))
pl.xlabel("false positive rate")
pl.ylabel("true positive rate")
pl.plot(x, y)# use pylab to plot程式設計客棧 x and y
pl.show()# show the plot on the screen
輸入的資料集可以參考svm**結果
其格式為:
nonclk \t clk \t score
其中:1、nonclick:未點選的資料,可以看做負樣本的數量
2、clk:點選的數量,可以看做正樣本的數量
3、score:**的分數,以該分數為group進行正負樣本的預統計可以減少auc的計算量
執行的結果為:
如果本機沒安裝pylab可以直接注釋依賴以及畫圖部分
注意上面貼的**:
1、只能計算二分類的結果(至於二分類的標籤隨便處理)
2、上面**中每個score都做了一次閾值,其實這樣效率是相當低的,可以對樣本進行取樣或者在計算橫軸座標時進行等分計算
總結本文標題: 利用python畫roc曲線和auc值計算
本文位址: /jiaoben/python/163795.html
畫平滑的roc曲線
使用matlab畫roc曲線 本來malab曲線的平滑有2種方法 clc,clear a 1 1 6 橫座標 b 8.0 9.0 10.0 15.0 35.0 40.0 縱座標 plot a,b,b 自然狀態的畫圖效果 hold on 第一種,畫平滑曲線的方法 c polyfit a,b,2 進行擬...
P R曲線和ROC曲線
混淆矩陣又稱錯誤矩陣,指每個類別下,模型 結果的類別和數量在乙個矩陣中展示出來。真實標籤 為正 為負 真實為正 tpfn 真實為負 fptn 又稱為 tpr true positive rate 或者 敏感度sensitivity 通俗理解 真實為正的樣本中識別為正的佔比。t pr tpt p fn...
python 繪製ROC曲線
簡述 機器學習很多是為測試樣本產生乙個 值,然後將這個 值與閾值進行對比,若大於閾值則分為正類,否則分為反類。這個 值的好壞,直接決定了學習器泛化能力。根據這個 值,我們可以對測試樣本進行排序,最可能 是正例的排在最前面,最不可能 是正例的排在最後面。這樣,分類過程就相當於在這個排序中以某個截斷點將...