Какую функцию активации использовать или какие изменения вносить, когда нейронная сеть дает такой же результат при регрессии с PyBrain?

Нейронные сети нестабильны при подаче входных данных в произвольных масштабах (например, примерно от 0 до 1000 в вашем случае). Если ваши выходные единицы - tanh, они даже не могут предсказать значения вне диапазона от -1 до 1 или от 0 до 1 для логистических единиц!

Вам следует попробовать повторно центрировать / масштабировать данные (чтобы они имели нулевое среднее значение и единичную дисперсию - это называется стандартным масштабированием в сообществе специалистов по данным). Поскольку это преобразование без потерь, вы можете вернуться к исходному масштабу после того, как обучите сеть и сделаете прогноз на основе данных.

Кроме того, линейный модуль вывода, вероятно, лучший, поскольку он не делает никаких предположений о пространстве вывода, и я обнаружил, что модули tanh намного лучше работают с рекуррентными нейронными сетями в низкоразмерных сетях ввода / скрытия / вывода.

Ньюму прав в том, что проблема, вероятно, заключается в масштабировании; вам необходимо масштабировать свои входные данные, чтобы они находились в допустимом диапазоне. (Стандартизация к нулевому среднему, единичная дисперсия, как они предполагают, однако, не лучший выбор, поскольку это означает, что примерно треть ваших данных будут нравиться за пределами [-1, 1] ....) Я не знаю насчет pybrain, но в scikit-learn вам понадобится _1 _ .