Самый быстрый способ узнать размер корзины Google Storage?

Сейчас я делаю это, но это ОЧЕНЬ медленно, так как у меня в корзине несколько терабайт данных:

gsutil du -sh gs://my-bucket-1/

И то же самое для подпапки:

gsutil du -sh gs://my-bucket-1/folder

Можно ли каким-то образом получить общий размер всей корзины (или подпапки) в другом месте или другим способом, который намного быстрее?


person fredrik    schedule 09.12.2014    source источник


Ответы (4)


К сожалению нет. Если вам нужно знать, какого размера ведро прямо сейчас, нет более быстрого способа, чем то, что вы делаете.

Если вам нужно проверять это регулярно, вы можете включить ведение журнала. Google Cloud Storage будет создавать ежедневный журнал хранилища, который вы можете использовать для проверки размера корзины. Если это будет полезно, вы можете прочитать об этом здесь: https://cloud.google.com/storage/docs/accesslogs#delivery

person Brandon Yarbrough    schedule 09.12.2014
comment
Сколько запросов делает du? По одному на объект или как-то оптимизировано? Полезно знать с точки зрения выставления счетов. - person Ivan Balashov; 16.12.2016
comment
Как посмотреть размер ведра в логах? Я включил журналы, но не знаю, как их найти в журналах. Я бы предпочел не скачивать их. Я предполагаю, что есть поисковый запрос, который я могу ввести на экране журналов? - person androidguy; 04.05.2018

Видимость хранилища Google здесь довольно хреновая

Самый быстрый способ - получить метрики драйвера стека и посмотреть общий размер в байтах: введите описание изображения здесь

К сожалению, в stackdriver практически нет фильтрации. Вы не можете использовать подстановочные символы для имени сегмента, и почти бесполезные метки ресурсов сегмента НЕ могут агрегироваться в показателях драйвера стека.

Также это только уровень корзины - не префиксы

Показатели SD обновляются ежедневно, поэтому, если вы не можете подождать день, вы не можете использовать это, чтобы получить текущий размер прямо сейчас.

person red888    schedule 30.01.2019

Если ежедневный журнал хранения, который вы получаете при включении ведения журнала ведра (по предложению Брэндона), не работает для вас, одно, что вы можете сделать, чтобы ускорить процесс, - это сегментировать запрос du. Например, вы можете сделать что-то вроде:

gsutil du -s gs://my-bucket-1/a* > a.size &
gsutil du -s gs://my-bucket-1/b* > b.size &
...
gsutil du -s gs://my-bucket-1/z* > z.size &
wait
awk '{sum+=$1} END {print sum}' *.size

(при условии, что имена ваших вложенных папок начинаются с букв английского алфавита; в противном случае вам необходимо изменить способ выполнения вышеуказанных команд).

person Mike Schwartz    schedule 09.12.2014

Я обнаружил, что при использовании интерфейса командной строки часто возникал тайм-аут. Но на этом все, так как я просматривал холодное хранилище.

Для решения с графическим интерфейсом. См. Cloudberry Explorer

Просмотр хранилища с графическим интерфейсом пользователя

person needcaffeine    schedule 17.01.2019