Auto_termination Databricks установлено на 60 минут, и моя работа не выполняется

У меня есть записная книжка, созданная с помощью блоков данных, и я хотел бы выполнять это задание по запросу из AWS Lambda. То есть, когда файл поступает в мою корзину S3, я хотел бы запустить задание записной книжки Databricks для моей цели ETL.

В кластере блоков данных параметр autotermination_minutes установлен на 60 минут. Иногда моя работа не выполняется, поскольку кластер автоматически завершает работу, если он бездействует в течение 60 минут. Есть ли способ перезапустить кластер из AWS Lambda перед выполнением задания?

Спасибо


person Yuva    schedule 10.08.2018    source источник


Ответы (1)


Да, вы можете, используя API-интерфейсы Databricks Cluster. Вам просто нужно передать идентификатор кластера.

Вот ссылка https://docs.databricks.com/api/latest/clusters.html#start

person Ritesh    schedule 13.08.2018
comment
Спасибо, увидел и попробовал. У меня проблемы с РАЗРЕШЕНИЕМ, поэтому, как только доступ будет предоставлен, конечно, это сработает. Спасибо. - person Yuva; 13.08.2018