Интеграция Databricks и GitHub, автоматическое добавление всех записных книжек в репозиторий

Я пытаюсь настроить интеграцию GitHub для Databricks.
У нас есть сотни записных книжек, и было бы утомительно добавлять каждую записную книжку вручную в репозиторий.

Есть ли способ автоматически зафиксировать и отправить все записные книжки из блоков данных в репозиторий?


person Viacheslav Shalamov    schedule 06.11.2018    source источник
comment
Может ли служба поддержки помочь вам в конце концов, или это все еще не решено?   -  person icarus    schedule 15.01.2019
comment
В качестве обходного пути они рекомендовали использовать Databricks CLI. Это позволяет скачивать все записные книжки и папки. Таким образом, я могу зафиксировать и отправить их все сразу. docs.databricks.com/user-guide/dev-tools/ databricks-cli.html   -  person Viacheslav Shalamov    schedule 15.01.2019


Ответы (1)


Так как 3 месяца никто не ответил, поставлю свое решение.

В директории /Shared/ в databricks у нас есть записные книжки, которые должны быть синхронизированы с репозиторием под notebooks/Shared/.
Я запускаю этот скрипт на регулярной основе, таким образом поддерживая все записные книжки в актуальном состоянии в репозитории.

databricks workspace export_dir /Shared ./notebooks/Shared -o
git add --all
git commit -m "shared notebooks updated"
git push

Флаг -o предназначен для замены существующих записных книжек последней версией.

Дополнительная информация здесь: https://databricks.com/blog/2017/11/08/introduction-command-line-interface-for-databricks-developers.html

Обратите внимание: сначала вам нужно установить и настроить databricks-cli на вашем компьютере: https://docs.databricks.com/user-guide/dev-tools/databricks-cli.html#set-up-the-cli

person Viacheslav Shalamov    schedule 22.02.2019
comment
знал о dbfs, но не знал о параметре рабочей области в cli, спасибо !! - person Max; 21.06.2019
comment
ахххг, это так здорово. Я также настроил конвейер сборки azure DevOps: gist.github.com/madmaxlax/7921760ba351 > - person Max; 21.06.2019
comment
Отлично. Это автоматически связывает все записные книжки. - person Vishnu Suresh; 29.04.2021