Почему прогноз модели R gbm не соответствует модели?

Исходя из вашего gbmGrid, только глубина вашего взаимодействия будет варьироваться от 14 до 20, а усадка и количество деревьев зафиксированы на 0,005 и 2000 соответственно. TrainedGBM предназначен для поиска только оптимального уровня взаимодействия в его нынешнем виде. Ваш ntrees, рассчитанный из gbm.perf, затем спрашивает, учитывая, что оптимальный уровень взаимодействия находится где-то между 14 и 20, каково оптимальное количество деревьев на основе критериев OOB. Поскольку прогнозы зависят от количества деревьев в модели, прогнозы, основанные на обученном GBM, будут использовать ntrees = 2000, а прогнозы, основанные на gbm.perf, будут использовать оптимальное количество ntrees, оцененное по этой функции. Это будет учитывать разницу между вашими trainedGBM$finalModel$fit и predict(trainedGBM$finalModel, type="response", n.trees=ntrees).

Чтобы показать пример, основанный на наборе данных радужной оболочки с использованием gbm в качестве классификации, а не модели регрессии.

library(caret)
library(gbm)

set.seed(42)

gbmGrid <- expand.grid(.n.trees = 100, 
                   .interaction.depth = 1:4, 
                   .shrinkage = 0.05)


trainedGBM <- train(Species ~ ., method = "gbm", distribution='multinomial',
                data = iris, tuneGrid = gbmGrid, 
                trControl = trainControl(method = "repeatedcv", number = 10, 
                                         repeats = 3, verboseIter = FALSE, 
                                         returnResamp = "all"))
print(trainedGBM)        

давать

# Resampling results across tuning parameters:

#  interaction.depth  Accuracy  Kappa  Accuracy SD  Kappa SD
#   1                  0.947     0.92   0.0407       0.061   
#   2                  0.947     0.92   0.0407       0.061   
#   3                  0.944     0.917  0.0432       0.0648  
#   4                  0.944     0.917  0.0395       0.0592  

# Tuning parameter 'n.trees' was held constant at a value of 100
# Tuning parameter 'shrinkage' was held constant at a value of 0.05
# Accuracy was used to select the optimal model using  the largest value.
# The final values used for the model were interaction.depth = 1, n.trees = 100
# and shrinkage = 0.05.     

Нахождение оптимального количества деревьев при условии оптимальной глубины взаимодействия:

ntrees <-  gbm.perf(trainedGBM$finalModel, method="OOB")
# Giving ntrees = 50

Если мы обучаем модель, варьируя количество деревьев и глубину взаимодействия:

gbmGrid2 <- expand.grid(.n.trees = 1:100, 
                   .interaction.depth = 1:4, 
                   .shrinkage = 0.05)

trainedGBM2 <- train(Species ~ ., method = "gbm", 
                data = iris, tuneGrid = gbmGrid2, 
                trControl = trainControl(method = "repeatedcv", number = 10, 
                                         repeats = 3, verboseIter = FALSE, 
                                         returnResamp = "all"))

print(trainedGBM2) 

# Tuning parameter 'shrinkage' was held constant at a value of 0.05
# Accuracy was used to select the optimal model using  the largest value.
# The final values used for the model were interaction.depth = 2, n.trees = 39
# and shrinkage = 0.05. 

Обратите внимание, что оптимальное количество деревьев, когда мы варьируем как количество деревьев, так и глубину взаимодействия, довольно близко к рассчитанному для gbm.perf.