Керас: неправильная форма ввода в нейронной сети LSTM

Учитывая формат вашего ввода и вывода, вы можете использовать части подхода, принятого одним из официальных Примеры Keras. В частности, поскольку вы не создаете двоичный классификатор, а скорее прогнозируете целое число, вы можете использовать быстрое кодирование для кодирования y_train с помощью to_categorical().

# Number of elements in each sample
num_vals = x_train.shape[1]

# Convert all samples in y_train to one-hot encoding
y_train = to_categorical(y_train)

# Get number of possible values for model inputs and outputs
num_x_tokens = np.amax(x_train) + 1
num_y_tokens = y_train.shape[1]

model = Sequential()
model.add(Embedding(num_x_tokens, 100))
model.add(LSTM(100))
model.add(Dense(num_y_tokens, activation='sigmoid'))

model.compile(loss='binary_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])

model.fit(x_train, y_train,
              batch_size=64,
              epochs=3)

num_x_tokens в приведенном выше коде будет максимальным размером элемента в одном из ваших входных образцов (например, если у вас есть два образца [1, 7, 2] и [3, 5, 4], тогда num_x_tokens равно 7). Если вы используете numpy, вы можете найти это с помощью np.amax(x_train). Точно так же num_y_tokens - это количество категорий в y_train.

После обучения вы можете выполнять прогнозы, используя приведенный ниже код. Использование np.argmax эффективно меняет to_categorical в этой конфигурации.

model_out = model.predict(x_test)
model_out = np.argmax(model_out, axis=1)

Вы можете импортировать to_categorical, используя from keras.utils import to_categorical, Embedding, используя from keras.layers import Embedding, и numpy, используя import numpy as np.

Кроме того, вам не нужно делать print(model.summary()). model.summary() достаточно, чтобы распечатать резюме.

ИЗМЕНИТЬ

Если это тот случай, когда ввод имеет форму [[0.12, 0.31, ...], [0.22, 0.95, ...], ...] (скажем, сгенерирован с помощью x_train = np.random.rand(num_samples, num_vals)), вы можете использовать x_train = np.reshape(x_train, (num_samples, num_vals, 1)), чтобы изменить форму массива, чтобы ввести его в слой LSTM. Код для обучения модели в этом случае будет:

num_samples = x_train.shape[0]
num_vals    = x_train.shape[1] # Number of elements in each sample

# Reshape for what LSTM expects
x_train = np.reshape(x_train, (num_samples, num_vals, 1))
y_train = to_categorical(y_train)

# Get number of possible values for model outputs
num_y_tokens = y_train.shape[1]

model = Sequential()
model.add(LSTM(100, input_shape=(num_vals, 1)))
model.add(Dense(num_y_tokens, activation='sigmoid'))

model.compile(loss='binary_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])

model.fit(x_train, y_train,
              batch_size=64,
              epochs=3)

num_vals - это длина каждого массива выборок в x_train. np.reshape(x_train, (num_samples, num_vals, 1)) изменяет каждый образец с [0.12, 0.31, ...] формы на [[0.12], [0.31], ...] форму, которая является формой, которую затем принимает LSTM (input_shape=(num_vals, 1)). Дополнительный 1 в этом случае кажется странным, но необходимо добавить дополнительное измерение во входные данные для LSTM, поскольку он ожидает, что каждый образец будет иметь как минимум два измерения, обычно называемых (timesteps, data_dim), или в данном случае (num_vals, 1).

Чтобы узнать, как еще используются LSTM в Keras, вы можете обратиться к:

Руководство по последовательной модели Keras (содержит несколько примеров LSTM)

Примеры Keras (ищите *.py файлы с lstm в их имени)

попробуйте изменить форму тренировочных данных на:

x_train=x_train.reshape(x_train.shape[0], 1, x_train.shape[1])

input_shape=(None, x_train.shape[1], 1), где None - размер пакета, x_train.shape[1] - длина каждой последовательности функций, а 1 - длина каждой функции. (Не уверен, нужен ли размер партии для модели Sequential).

А затем измените форму ваших данных на x_train = x_train.reshape(-1, x_train.shape[1], 1).