Публикации по теме 'attention-network'


Рекуррентные нейронные сети для задач классификации текста с несколькими метками
Цель этого проекта — построить и оценить рекуррентные нейронные сети (RNN) для задач классификации на уровне предложений. Я оцениваю три архитектуры: двухуровневую сеть с долговременной кратковременной памятью (LSTM), двухуровневую двунаправленную сеть с долговременной кратковременной памятью (BiLSTM) и двухуровневую BiLSTM с уровнем внимания на уровне слов. Хотя они изучают полезное векторное представление, BiLSTM с механизмом внимания фокусируется на необходимых токенах при изучении..