Постепенное обучение с регрессией гауссовского процесса

То, что вы имеете в виду, на самом деле называется онлайн-обучением или дополнительным обучением; это само по себе огромное подразделение в машинном обучении, и оно не готово к использованию для всех моделей scikit-learn. Цитата из соответствующей документации:

Хотя не все алгоритмы могут обучаться постепенно (т. Е. Без просмотра всех экземпляров сразу), кандидатами являются все оценщики, реализующие partial_fit API. Фактически, способность учиться постепенно из мини-группы экземпляров (иногда называемая «онлайн-обучение») является ключом к внешнему обучению, поскольку она гарантирует, что в любой момент времени будет только небольшое количество экземпляров в основная память.

После этого отрывка в приведенном выше документе, приведенном выше, есть полный список всех моделей scikit-learn, которые в настоящее время поддерживают инкрементное обучение, из которого вы можете видеть, что GaussianProcessRegressor не одна из них.

Хотя sklearn.gaussian_process.GaussianProcessRegressor напрямую не реализует инкрементное обучение, нет необходимости полностью переобучать вашу модель с нуля.

Чтобы полностью понять, как это работает, вы должны понимать основы работы с георадаром. Ключевая идея состоит в том, что обучение модели GPR в основном состоит из оптимизации параметров ядра для минимизации некоторой целевой функции (по умолчанию предельное логарифмическое правдоподобие). При использовании одного и того же ядра с аналогичными данными эти параметры можно использовать повторно. Поскольку оптимизатор имеет условие остановки, основанное на сходимости, повторную оптимизацию можно ускорить, инициализировав параметры с предварительно обученными значениями (так называемый теплый старт).

Ниже приведен пример, основанный на примере из документации sklearn .

from time import time
from sklearn.datasets import make_friedman2
from sklearn.gaussian_process import GaussianProcessRegressor
from sklearn.gaussian_process.kernels import DotProduct, WhiteKernel
X, y = make_friedman2(n_samples=1000, noise=0.1, random_state=0)
kernel = DotProduct() + WhiteKernel()

start = time()
gpr = GaussianProcessRegressor(kernel=kernel,
        random_state=0).fit(X, y)
print(f'Time: {time()-start:.3f}')
# Time: 4.851
print(gpr.score(X, y))
# 0.3530096529277589

# the kernel is copied to the regressor so we need to 
# retieve the trained parameters
kernel.set_params(**(gpr.kernel_.get_params()))

# use slightly different data
X, y = make_friedman2(n_samples=1000, noise=0.1, random_state=1)

# note we do not train this model
start = time()
gpr2 = GaussianProcessRegressor(kernel=kernel,
        random_state=0).fit(X, y)
print(f'Time: {time()-start:.3f}')
# Time: 1.661
print(gpr2.score(X, y))
# 0.38599549162834046