Как я могу извлечь лучший конвейер из подгонки GridSearchCV, чтобы я мог передать его cross_val_predict?
Прямая передача подходящего объекта GridSearchCV приводит к тому, что cross_val_predict снова запускает поиск по всей сетке, я просто хочу, чтобы лучший конвейер подвергся оценке cross_val_predict.
Мой автономный код ниже:
from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.svm import SVC
from sklearn.multiclass import OneVsRestClassifier
from sklearn.pipeline import Pipeline
from sklearn.grid_search import GridSearchCV
from sklearn.model_selection import cross_val_predict
from sklearn.model_selection import StratifiedKFold
from sklearn import metrics
# fetch data data
newsgroups = fetch_20newsgroups(remove=('headers', 'footers', 'quotes'), categories=['comp.graphics', 'rec.sport.baseball', 'sci.med'])
X = newsgroups.data
y = newsgroups.target
# setup and run GridSearchCV
wordvect = TfidfVectorizer(analyzer='word', lowercase=True)
classifier = OneVsRestClassifier(SVC(kernel='linear', class_weight='balanced'))
pipeline = Pipeline([('vect', wordvect), ('classifier', classifier)])
scoring = 'f1_weighted'
parameters = {
'vect__min_df': [1, 2],
'vect__max_df': [0.8, 0.9],
'classifier__estimator__C': [0.1, 1, 10]
}
gs_clf = GridSearchCV(pipeline, parameters, n_jobs=8, scoring=scoring, verbose=1)
gs_clf = gs_clf.fit(X, y)
### outputs: Fitting 3 folds for each of 12 candidates, totalling 36 fits
# manually extract the best models from the grid search to re-build the pipeline
best_clf = gs_clf.best_estimator_.named_steps['classifier']
best_vectorizer = gs_clf.best_estimator_.named_steps['vect']
best_pipeline = Pipeline([('best_vectorizer', best_vectorizer), ('classifier', best_clf)])
# passing gs_clf here would run the grind search again inside cross_val_predict
y_predicted = cross_val_predict(pipeline, X, y)
print(metrics.classification_report(y, y_predicted, digits=3))
Что я сейчас делаю, так это вручную перестраиваю пайплайн из best_estimator_. Но мои конвейеры обычно имеют больше шагов, таких как SVD или PCA, и иногда я добавляю или удаляю шаги и повторно запускаю поиск по сетке для изучения данных. Этот шаг необходимо всегда повторять ниже при повторном построении конвейера вручную, что может привести к ошибкам.
Есть ли способ напрямую извлечь лучший конвейер из подгонки GridSearchCV, чтобы я мог передать его cross_val_predict ?
