Шифрование на стороне сервера s3 с использованием рабочего процесса oozie

У меня есть задание sqoop, которое будет записывать данные в ведро s3. Если я запускаю это задание из командной строки, оно шифрует файлы s3. Но если я использую тот же файл jar для запуска задания sqoop с использованием рабочего процесса oozie, тогда он отправляет данные на s3, но шифрование не происходит.

Ниже показан мой рабочий процесс oozie.

    <java>
        <job-tracker>${jobTracker}</job-tracker>
        <name-node>${nameNode}</name-node>
        <main-class>com.aa.datalake.ingest.util.SqoopIngestUtil</main-class>
        <arg>root</arg>
        <arg>root</arg>
        <arg>test</arg>
    <arg>avro</arg>
    <arg>sqoop-demo</arg>   
    </java>
    <ok to="end"/>
    <error to="email-action" />
</action>

Внутри jar мы копируем данные из hdfs в s3 с помощью команды distcp.

Итак, как я могу выполнить шифрование на стороне сервера для файлов s3, используя рабочий процесс oozie?


person Vijay    schedule 08.03.2017    source источник


Ответы (1)


Я решил вышеуказанную проблему, включив шифрование s3 в кластере EMR перед запуском кластера.

person Vijay    schedule 13.03.2017