Как мне бороться с нехваткой памяти CUDA при точной настройке BART

Я пытаюсь точно настроить BART для наборов данных XSum с помощью скрипта точной настройки в Readme, и я продолжаю получать эту ошибку:

RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB 
(GPU 0; 14.73 GiB total capacity; 13.67 GiB already allocated; 
15.88 MiB free; 13.72 GiB reserved in total by PyTorch)

Вот ссылка на коллаборацию.

Может ли кто-нибудь помочь?

https://colab.research.google.com/drive/1d192bELyuUI0oPbZDYnCyAWE7QL8Ki96?authuser=3#scrollTo=dc48Udgnq7ED


person Maitreyi Chatterjee    schedule 10.08.2020    source источник
comment
Вы пытались уменьшить размер партии?   -  person cronoik    schedule 10.08.2020