Вот простая нейронная сеть, в которой я пытаюсь наказать норму градиентов активации:
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.conv1 = nn.Conv2d(3, 32, kernel_size=5)
self.conv2 = nn.Conv2d(32, 64, kernel_size=5)
self.pool = nn.MaxPool2d(2, 2)
self.relu = nn.ReLU()
self.linear = nn.Linear(64 * 5 * 5, 10)
def forward(self, input):
conv1 = self.conv1(input)
pool1 = self.pool(conv1)
self.relu1 = self.relu(pool1)
self.relu1.retain_grad()
conv2 = self.conv2(relu1)
pool2 = self.pool(conv2)
relu2 = self.relu(pool2)
self.relu2 = relu2.view(relu2.size(0), -1)
self.relu2.retain_grad()
return self.linear(relu2)
model = Net()
optimizer = torch.optim.SGD(model.parameters(), lr=0.001)
for i in range(1000):
output = model(input)
loss = nn.CrossEntropyLoss()(output, label)
optimizer.zero_grad()
loss.backward(retain_graph=True)
grads = torch.autograd.grad(loss, [model.relu1, model.relu2], create_graph=True)
grad_norm = 0
for grad in grads:
grad_norm += grad.pow(2).sum()
grad_norm.backward()
optimizer.step()
Однако это не дает желаемого эффекта регуляризации. Если я делаю то же самое для весов (вместо активаций), это работает хорошо. Правильно ли я делаю (с точки зрения механизма pytorch)? В частности, что происходит при вызове grad_norm.backward()? Я просто хочу убедиться, что обновлены градиенты веса, а не градиенты активации. В настоящее время, когда я распечатываю градиенты для весов и активаций непосредственно до и после этой строки, оба изменяются, поэтому я не уверен, что происходит.