КАКОВЫ НЕКОТОРЫЕ ОСНОВНЫЕ ПРОБЛЕМЫ ПРИ ОБУЧЕНИИ ГЛУБОКИХ НЕЙРОННЫХ СЕТЕЙ? Проблема исчезающих/взрывающихся градиентов Это препятствует схождению нейронной сети и, следовательно, неправильному обучению весов. Решение Нормализованная инициализация весов Нормализация вывода промежуточных слоев (пакетная нормализация) Проблема деградации Эта проблема возникает экспериментально, а не теоретически. Замечено, что когда глубина NN увеличивается выше определенного значения, точность..

Пошаговое руководство по комплексной модели классификации изображений пород собак, развернутой на Heroku, поддерживаемой серверной частью Node JS и REST API, созданной на Flask. Недавно наткнувшись на fastai , чрезвычайно универсальную среду глубокого обучения, которая находится поверх PyTorch, я был взволнован не только ее гибкостью в построении моделей глубокого обучения мирового уровня, но и акцентом, который придавали ее основатели Джерми Ховард и Доктор Рэйчел Томас о..