Выбор функций SVM в R

Я тренирую классификатор SVM. Сейчас у меня около 4000 фич, но многие из них избыточны/неинформативны. Я хочу уменьшить количество функций в модели примерно до 20-50. Я хотел бы использовать жадное восхождение на холм, каждый раз уменьшая количество функций на 1. Удаленная функция должна быть наименее важной функцией. Как после обучения SVM получить рейтинг важности функций? Если я использую libsvm в R, как мне получить вес каждой функции или какой-либо другой аналогичный показатель важности? Спасибо!


person Josh Zhang    schedule 03.03.2013    source источник
comment
Этот вопрос Значение переменной из SVM из CrossValidated отвечает на связанный вопрос.   -  person topchef    schedule 03.03.2013
comment
в частности, если я использую libsvm в пакете e1071 R, как мне получить вес каждого атрибута? Спасибо!   -  person Josh Zhang    schedule 03.03.2013
comment
См. также мой ответ на соответствующий вопрос   -  person Alan    schedule 02.02.2018


Ответы (1)


Я бы сначала уменьшил размерность проблемы, используя PCA (анализ основных компонентов), а затем применил SVM. См., например, видео лекций Эндрю Нг.

person Doctor Dan    schedule 27.06.2013