Нейронная сеть XOR с 8+ входными узлами

Используя стандартный фон, я могу обучить сеть с 8 бинарными входами для изучения XOR. Таким образом, всего 256 входных наборов, и выходные данные правильно идентифицируют 8 входных наборов, причем только один из 8 входных параметров равен 1, а остальные равны 0.

Макет:

• 8 входов;

• 1 скрытый слой с 2 ​​или более узлами;

• Выход: 1 узел

Он будет обучаться примерно за 500 эпох, меньше, если я буду использовать больше скрытых узлов.

Однако я никак не могу добраться до него на 9 входных узлах вообще, сколько бы скрытых узлов я не использовал.

Есть ли внутренний предел 8, предотвращающий это? Я подозреваю, что мне может понадобиться еще один скрытый слой, но я хотел понять, так ли это принципиально невозможно?

Спасибо за любые подсказки.


person Steve555    schedule 10.09.2016    source источник
comment
Какие инструменты/команды вы используете? Ваш текущий вопрос слишком широк. Также я предлагаю задать вопрос по ссылке.   -  person Ali Naci Erdem    schedule 10.09.2016
comment
нет ничего волшебного в 8 или 9 входах. Очевидно, что каждый дополнительный вход удваивает количество возможных значений, тем самым увеличивая данные, необходимые для обучения, но кроме этого - это та же проблема, без больших изменений.   -  person lejlot    schedule 10.09.2016
comment
@ lejlot Спасибо, я не был уверен, что что-то упустил, поэтому настойчиво нашел хороший набор параметров и протестировал / решил до N = 20 менее чем за 100 эпох. (Скорость обучения 0,4, веса +/- 0,3, импульс 0,6)   -  person Steve555    schedule 11.09.2016


Ответы (1)


Да, 9:2:1 может однозначно решить XOR. Если вы не можете найти решение, это либо неподходящие настройки, либо проблема с алгоритмом.

person Joey FourSheds    schedule 10.09.2016
comment
Да, спасибо, это были неподходящие настройки, но через час я не знал, зря ли я трачу свое время, поэтому застрял на этом. - person Steve555; 11.09.2016