Статьи по тематике recurrent-neural-network

Публикации по теме 'recurrent-neural-network'

Цифровое пошаговое руководство RNN + код

Введение в рекуррентные нейронные сети вместе с кодом с нуля Оглавление Обзор Модель Прямое распространение Обратное распространение во времени (BPTT) Обновления веса Усеченное обратное распространение во времени (TBPTT) Заключение Обзор В этой статье мы рассмотрим математические вычисления рекуррентной нейронной сети. Мы исследуем результаты прямого прохода и градиенты обратного прохода. Если вы не знакомы с прямым и обратным распространением в обычной нейронной сети,..

Рекуррентные нейронные сети для задач классификации текста с несколькими метками

Цель этого проекта — построить и оценить рекуррентные нейронные сети (RNN) для задач классификации на уровне предложений. Я оцениваю три архитектуры: двухуровневую сеть с долговременной кратковременной памятью (LSTM), двухуровневую двунаправленную сеть с долговременной кратковременной памятью (BiLSTM) и двухуровневую BiLSTM с уровнем внимания на уровне слов. Хотя они изучают полезное векторное представление, BiLSTM с механизмом внимания фокусируется на необходимых токенах при изучении..

IGLOO: другая парадигма обработки последовательностей без рекуррентных нейронных сетей

В лабораториях ReDNA мы недавно опубликовали исследовательскую работу, и, хотя она полна технических деталей, тестов и экспериментов, мы хотели бы дать более интуитивное объяснение этой новой структуре нейронной сети. Оригинальная бумага здесь . В этой статье мы представляем новую архитектуру нейронной сети, которая особенно хороша при работе с длинными последовательностями и вопреки основной догме, не использует какую-либо форму рекуррентной нейронной сети . Хотя это не первый..

Подписание изображений с помощью PyTorch

Одна из самых впечатляющих вещей, которые я видел, - это приложение глубокого обучения с подписью к изображениям. Я хотел реализовать его сам с нуля, чтобы глубже погрузиться в детали архитектуры. Здесь я пытаюсь описать общий алгоритм автоматической подписи к изображениям и построить архитектуру, используя мою любимую библиотеку глубокого обучения - PyTorch. Описание проблемы. Сначала нам нужно сформулировать проблему, чтобы ее решить. Утверждение довольно простое: Учитывая..

Решение проблемы с машинным обучением

Нейронные сети широко используются в индустрии программного обеспечения для прогнозирования потребностей клиентов и помощи предприятиям в расширении своего рынка. В настоящее время существует множество фреймворков и инструментов, которые могут дать вам прогноз на основе некоторых входных данных, но как эти инструменты могут вычислить свой результат? Далее мы создадим небольшую программу, которая может завершать общие предложения и понимать, какие аспекты архитектуры нашей нейронной..

Использование LSTM API в TensorFlow (3/7)

Уважаемый читатель! Эта статья была переиздана на Эдукаора и также была с открытым исходным кодом . К сожалению, TensorFlow 2.0 изменил API, поэтому он не работает для более поздних версий. Мы приветствуем любую помощь в обновлении учебников. Я также рекомендую вам изучить PyTorch. В предыдущем посте мы изменили наш код, чтобы использовать собственный RNN API TensorFlow. Теперь мы приступим к созданию модификации RNN, которая называется Рекуррентная нейронная сеть с..

Руководство для начинающих по нейронным сетям, часть 1

Нейронные сети состоят из связанных узлов (нейронов), через которые проходят данные. Узел объединяет данные, отправленные ему от других узлов, а затем выводит объединенные данные на узлы дальше по нейронной сети. Узлы содержатся в слоях. Нейронные сети имеют входной слой (наши функции) и выходной слой (наши метки). Нейронные сети отличаются тем, что находится между входным и выходным слоями — скрытыми слоями. Существует 3 основных класса (типа) нейронной сети. Си-Эн-Эн РНН ГАН..