Установка зависимостей файла TWS от сохраненного файла AWS S3

У меня есть приложение ETL, которое предполагается перенести на инфраструктуру AWS. Планировщик, используемый в моем приложении, — это Tivoli Work Scheduler, и мы хотим использовать его и в облаке, где есть файловые зависимости.

Теперь, когда мы перейдем к aws, файлы для просмотра попадут в S3 Bucket. Можем ли мы поставить зависимость OPEN для файлов в S3? Если да, каким будет имя хоста (HOST#Filepath)?

Если нет, то какие службы должны быть согласованы для достижения этой цели. У меня есть как время, так и файловая зависимость в моих ГРАФИКАХ.

Например. Файл может быть загружен на S3 в час ночи. В 3 часа ночи мое расписание сработает, ищите файл в корзине S3. Если присутствует, начинает выполнение, а если нет, то он должен ждать в соответствии с другими параметрами на tws.

Любая помощь или совет будет приятно получить.


person NishantM    schedule 20.11.2020    source источник


Ответы (1)


Если я правильно понимаю, задание, запущенное в 3 часа ночи, идентифицирует все файлы, загруженные в течение последнего, например. 24 часа.

Вы можете перечислить все файлы s3, чтобы перечислить все, загруженное в течение определенного периода времени.

Лучшим решением было бы создать триггер загрузки S3, который будет отправлять информацию в SQS, и ваш код будет проверять там глубину (количество сообщений) и начинать обработку файлов один за другим. Дополнительным преимуществом будет гарантия того, что все элементы будут обработаны без необходимости беспокоиться о перерасходе времени.

person Tomek Klas    schedule 20.11.2020
comment
Спасибо за ответы. Проблема здесь в том, что мне также понадобится зависимость от времени, поскольку приложения ETL спроектированы таким образом, что в случае поздней загрузки файла мне нужно ждать определенное время. TWS предоставляет эту функцию ожидания с открытием файла и получением соответствующего ответа. - person NishantM; 28.11.2020
comment
Можно ли использовать событие/триггер S3 и лямбду для записи файла в EBS? Я не пробовал, но просто мысль - person NishantM; 28.11.2020