У меня возникли проблемы с пониманием определенного аспекта выпадающих слоев в PyTorch.
Как указано в документации Pytorch, сигнатура метода torch.nn.Dropout(p=0.5, inplace=False), где p — процент отсева.
Что делает этот слой при выборе p=0? Изменяет ли он свой вход каким-либо образом?
Выпадение с p=0 эквивалентно удостоверению операция.
На самом деле это именно то поведение модулей Dropout, когда они установлены в режиме eval:
Во время оценки модуль просто вычисляет функцию идентификации.
train или eval, верно?
- person Shir; 11.04.2021
eval полностью отключает выпадающие слои, устанавливая p=0, поэтому в этом случае их поведение идентично: Во время оценки модуль просто вычисляет функцию идентификации.
- person iacob; 11.04.2021
p=0будет эквивалентно отсутствию отсева; что у вас путаница? - person desertnaut schedule 11.04.2021