sklearn.metrics.roc_curve для мультиклассовой классификации

Я хочу использовать sklearn.metrics.roc_curve чтобы получить ROC-кривую для задачи мультиклассовой классификации. Здесь дается решение о том, как подогнать roc к проблеме мультиклассов. Но я не понимаю, что означает параметр "y_score", что я должен предоставить для этого параметра в задаче мультиклассовой классификации.

Предположим такой сценарий. Имеется девять элементов, пронумерованных от 0 до 8. Первые три элемента принадлежат к группе 0, последние три элемента принадлежат к группе 2, а три элемента между ними принадлежат к группе 1. 0, 3, 6 — центры групп. У меня есть попарная матрица расстояний. Тогда что я должен указать для параметра "y_score"?

from sklearn.metrics import roc_curve, auc
from sklearn.preprocessing import label_binarize

listTrue=[0,0,0,1,1,1,2,2,2] #value j at index i means element i is in group j
y=label_binarize(y,classes=range(2))
#get distmatrix
#distmatrix[i][j] gives the distance between element i and element j
fpr=dict()
tpr=dict()
roc_auc=dict()

fpr["micro"], tpr["micro"], _=roc_curve(y.ravel(),y_score?)
roc_auc=auc(fpr["micor"], tpr["micro"])

person dudu    schedule 04.05.2016    source источник


Ответы (2)


ROC — это средство оценки качества классификатора. Однако в вашем примере есть только основная правда элементов, назначенных классам. Если у вас есть предиктор, y_score может быть предсказанной вероятностью того, что он принадлежит к положительному классу.

person Christian Hirsch    schedule 04.05.2016
comment
Я намерен использовать матрицу расстояний для создания чего-то вроде вероятности. Но что такое y_score в мультиклассовой задаче? Поскольку в демоверсии 75 тестовых образцов и три класса, y_score представляет собой массив формы (75,3). То есть я должен предоставить 3 значения для одного образца. Поскольку я не понимаю часть svm, поэтому я не знаю, как получить y_score в демо. - person dudu; 04.05.2016

Сначала я отвечу на ваш вопрос о y_score. Итак, y_score в приведенном вами примере - это предсказанные (по классификатору) вероятности для тестовых выборок. Если у вас есть 2 класса, то y_score будет иметь 2 столбца, и каждый из столбцов будет содержать вероятность того, что образец принадлежит этому классу.

Для построения ROC с несколькими классами используйте функцию label_binarize и следующий код. Настройте и измените код в зависимости от вашего приложения.


Пример использования данных Iris:

import matplotlib.pyplot as plt
from sklearn import svm, datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import label_binarize
from sklearn.metrics import roc_curve, auc
from sklearn.multiclass import OneVsRestClassifier

iris = datasets.load_iris()
X = iris.data
y = iris.target

# Binarize the output
y = label_binarize(y, classes=[0, 1, 2])
n_classes = y.shape[1]

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.5, random_state=0)

classifier = OneVsRestClassifier(svm.SVC(kernel='linear', probability=True,
                                 random_state=0))
y_score = classifier.fit(X_train, y_train).decision_function(X_test)

fpr = dict()
tpr = dict()
roc_auc = dict()
for i in range(n_classes):
    fpr[i], tpr[i], _ = roc_curve(y_test[:, i], y_score[:, i])
    roc_auc[i] = auc(fpr[i], tpr[i])
colors = cycle(['blue', 'red', 'green'])
for i, color in zip(range(n_classes), colors):
    plt.plot(fpr[i], tpr[i], color=color, lw=lw,
             label='ROC curve of class {0} (area = {1:0.2f})'
             ''.format(i, roc_auc[i]))
plt.plot([0, 1], [0, 1], 'k--', lw=lw)
plt.xlim([-0.05, 1.0])
plt.ylim([0.0, 1.05])
plt.xlabel('False Positive Rate')
plt.ylabel('True Positive Rate')
plt.title('Receiver operating characteristic for multi-class data')
plt.legend(loc="lower right")
plt.show()

В этом примере вы можете распечатать файл y_score.

print(y_score)

array([[-3.58459897, -0.3117717 ,  1.78242707],
       [-2.15411929,  1.11394949, -2.393737  ],
       [ 1.89199335, -3.89592195, -6.29685764],
       .
       .
       .

введите здесь описание изображения

person seralouk    schedule 19.07.2018