Вопросы по теме 'webhdfs'

Distcp в webHDFS отключает трекер вакансий
У нас возникла странная проблема при попытке передать большой объем данных с помощью distcp в другой кластер. Чтобы выдать несколько цифр, Размер данных = 320 ГБ Количество картографов = ~70 Общее количество узлов в нашем кластере 82 src...
401 просмотров
schedule 29.05.2022

Как использовать UserGroupInformation с Kerberos WebHDFS
Ниже приведен код клиента в системе, отличной от Hadoop, для выполнения действий на защищенной удаленной файловой системе HDFS. Configuration conf = new Configuration(); conf.set("hadoop.security.authentication", "kerberos");...
8219 просмотров
schedule 26.02.2023

Конечная точка добавления WebHDFS не ведет себя так, как задокументировано
Я следую этой документации о моей версии webHDFS (2.6) и попытке добавить в уже существующий файл в системе. Проблема, которая меня смущает, заключается в том, что в документах говорится, что я получу перенаправление на соответствующий узел...
86 просмотров
schedule 10.03.2023

два шага создать/загрузить файл в hdfs с помощью webhdfs/httpfs
Я использовал apache-httpclient и webhdfs для создания и загрузки файла (.jar) в HDFS. Наконец, он ответил 201 и content-length=0. Но когда я нашел файл на HDFS, его длина была 0. Что не так? И что я должен сделать, чтобы загрузить файл jar?...
320 просмотров
schedule 10.05.2024

Разбор нескольких ответов в python
Я использую команду curl для доступа к hadoop (webhdfs), а для разбора ответа http я использую python. Но после запуска команды curl возвращается несколько ответов. curl -i "http://host:50070/webhdfs/v1/user/hduser/pigtest?op=GETFILESTATUS"...
446 просмотров
schedule 08.03.2024

Hue не может подключиться, ошибка при отказе в подключении, HBase не может выбрать мастер, hdfs перестал работать
НА ЭТОТ ВОПРОС ОТВЕЧУ САМА Проблема: Я не могу получить доступ к HBase, выдается печально известная znode == null трассировка стека при вызове команды из оболочки Hbase (все это на Cloudera quickstart CDH 5.5)
1258 просмотров
schedule 18.07.2022

Можно ли использовать WebHDFS с Flume?
Я хотел бы, чтобы агент Flume находился за пределами кластера Hadoop и хотел бы знать, можно ли использовать Flume для отправки сообщений в кластер Hadoop с использованием WebHDFS. Если нет, есть ли альтернативы использованию WebHDFS?...
165 просмотров
schedule 04.07.2023

Знаете дисковое пространство узлов данных в Hadoop?
Есть ли способ или какая-либо команда, с помощью которой я могу узнать дисковое пространство каждого узла данных или общее дисковое пространство кластера? Я попробовал команду dfs -du -h / но кажется, что у меня нет разрешения на его...
7182 просмотров
schedule 10.01.2023

Пользовательский интерфейс Hue недоступен с удаленного хоста
Я пытаюсь использовать Hue в качестве файлового браузера для HDFS. Поэтому для этого я клонировал репозиторий hue и создал приложение со следующими командами, указанными в README.md репозитория hue. git clone...
684 просмотров
schedule 29.03.2023

Можно ли передать несколько параметров в URL-адресе запроса с помощью webhdfs?
Можно ли передать несколько аргументов в URL-адресе, используя, например, webhdfs, как показано ниже?...
42 просмотров
schedule 24.08.2022

Файл создается в HDFS, но не может записывать содержимое
Я установил HDFP 3.0.1 в Vmware. DataNode и NameNode работают Я загружаю файлы из AmbariUI/Terminal в HDFS, все работает. Когда я пытаюсь записать данные: Configuration conf = new Configuration(); conf.set("fs.defaultFS",...
741 просмотров
schedule 06.03.2023