Scikit学习-用于文本分类的MultinomialNB

Question

如何计算多类文本分类的FPR、TPR、AUC、roc_曲线-我使用了以下代码-

from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=42)
from sklearn.feature_extraction.text import CountVectorizer
vect=CountVectorizer()
vect.fit(X_train.values.astype('U'))
X_train_dtm=vect.transform(X_train.values.astype('U'))
X_test_dtm=vect.transform(X_test)
from sklearn.naive_bayes import MultinomialNB
nb = MultinomialNB()
y_score=nb.fit(X_train_dtm, y_train)
y_pred_class = nb.predict(X_test_dtm)

到这里为止，每件事都运行良好-但是一旦我使用以下代码，就会出错-

from sklearn.metrics import roc_curve, auc, roc_auc_score
fpr = dict()
tpr = dict()
roc_auc = dict()
for i in range(5):
    fpr[i], tpr[i], _ = roc_curve(y_test[:, i], y_score[:, i])
    roc_auc[i] = auc(fpr[i], tpr[i])
fpr["micro"], tpr["micro"], _ = roc_curve(y_test.ravel(), y_score.ravel())
roc_auc["micro"] = auc(fpr["micro"], tpr["micro"])
print ("ROC value is:",roc_auc["micro"])

错误是-

Traceback（最近的调用最后）：

文件"C：/用户/saurabh/PycharmProjects/getting_started/own_code.py"，第32行，打印（metrics.roc_auc_score（y_test，y_pred_prob））

文件“C:\Anaconda3\lib\site packages\sklearn\metrics\ranking.py”，第260行，roc_auc_score sample_weight=sample_weight）精度：0.910536779324

文件"C：\Anaconda3\lib\site-包\skLearning\metrics\base.py"，第81行，_average_binary_score引发ValueError（"{0}格式不支持"。格式（y_type））

ValueError:不支持多类格式

Answer 1

roc_curve不支持多类格式。你必须计算二进制类。

但要计算FPR、TPR，您可以使用混淆矩阵

from sklearn.metrics import confusion_matrix
y_test = np.argmax(y_test, axis=1)
y_score = np.argmax(y_score, axis=1)
c = confusion_matrix(y_test, y_score)
TNR = float(c[0][0])
TPR = float(c[1][1])
FNR = float(c[1][0])
FPR = float(c[0][1])

下面是一个简单的二值化示例

for i in range(5):
    yt_bin = [1 if x == i else 0 for x in y_test[:, i]]
    fpr[i], tpr[i], _ = roc_curve(yt_bin, y_score[:, i])
    roc_auc[i] = auc(fpr[i], tpr[i])