Пример Caffe vs Theano MNIST

Примеры для Theano и Caffe — это не совсем одна и та же сеть. Два ключевых отличия, о которых я могу думать, заключаются в том, что пример Theano использует функции активации sigmoid/tanh, а учебник Caffe использует ReLU. и что код Theano использует обычный мини-пакетный градиентный спуск, а Caffe использует оптимизатор импульса. Оба отличия существенно повлияют на время обучения вашей сети. И использование модуля ReLU, вероятно, также повлияет на точность.

Обратите внимание, что Caffe — это среда глубокого обучения, в которой уже есть готовые функции для многих часто используемых вещей, таких как оптимизатор импульса. Theano, с другой стороны, представляет собой символическую математическую библиотеку, которую можно использовать для построения нейронных сетей. Однако это не фреймворк для глубокого обучения.

Упомянутый вами учебник Theano — отличный ресурс для понимания того, как именно сверточные и другие нейронные сети работают на базовом уровне. Тем не менее, реализовать все современные настройки будет обременительно. Если вы хотите быстро получить самые современные результаты, вам лучше использовать одну из существующих сред глубокого обучения. Помимо Caffe, существует ряд фреймворков, основанных на Theano. Мне известны keras, блоки , pylearn2 и мой личный фаворит лазанья.