nginx отвечает на HTTPS, но не на HTTP

Можете ли вы предоставить команду docker, запускающую nextcloud, или файл docker-compose?

Диагностика, как обычно, для докеров: получить идентификатор текущего запущенного контейнера.

docker ps

Затем проверьте журналы

docker logs [id or name of your container] docker-compose logs [name of your service]

Подключить в контейнере

docker exec -ti [id or name of your container] [bash or ash if alpine based container]

Там прочитайте задействованные файлы nginx conf. В вашем случае я бы проверил перенаправление с http на https, скорее всего, это что-то вроде приведенного ниже без указания конкретного порта для https, следовательно, порт 443, следовательно, не работает

server {
       listen         80;
       server_name    my.domain.com;
       return         301 https://$server_name$request_uri;    <======== no port = 443
}

server {
       listen         443 ssl;
       server_name    my.domain.com;
       # add Strict-Transport-Security to prevent man in the middle attacks
       add_header Strict-Transport-Security "max-age=31536000" always; 

       [....]
}