Вопросы по теме 'hcatalog'
Доступ к таблицам из Hive с помощью Hcatalog REST
Я установил Hcatalog с CDH4 (в 64-разрядной версии Ubuntu 12.04) и сейчас пытаюсь Доступ к информации таблицы с помощью REST
Я перезапустил webhcat-сервер service webhcat-server restart . Затем я выполнил это на терминале,
curl...
1075 просмотров
schedule
17.05.2022
Свинья и HКаталог
Я получаю следующую ошибку, когда запускаю "pig -useHCatalog".
Exception inthread"main"java.lang.NoClassDefFoundError:/usr/lib/hive/lib/libthrift-
0/9/1/jar:/usr/lib/hive/lib/hive-exec-0/12/0/2/0/6/0-76/jar:/usr/lib/hive/lib/libfb303-...
1690 просмотров
schedule
05.05.2023
MapReduce для таблиц Hive с использованием HCatalog
Я пытаюсь написать задание по уменьшению карты, которое вычисляет распределение значений полей в таблице Hive (Hadoop 2.2.0.2.0.6.0-101). Например:
Входная таблица Hive "ATable":
+------+--------+
! name | rating | |
+------+--------+
| Bond...
2190 просмотров
schedule
19.03.2022
Можно ли использовать HCatalog с XML? Выполнение ETL на Cloudera VM
Я работаю над проектом для класса больших данных и установил виртуальную машину Cloudera Quickstart локально, чтобы выполнять некоторые основные задачи в моем наборе данных и знакомиться с некоторыми инструментами. Я следовал руководству, которое...
769 просмотров
schedule
17.07.2022
PIG с использованием HCatLoader, ошибка пространства кучи Java
Я использую hive-0.12.0,pig-0.12.0,mysql-5.6 и hadoop-1.2.1 в режиме псевдораспределения.
Я настроил PIG_CLASSPATH и т.д.. подробности по ссылке, https://cwiki.apache.org/confluence/display/Hive/HCatalog+LoadStore
Когда я пытаюсь...
679 просмотров
schedule
05.05.2022
Страница hCatalog выдает ошибку
Я использую песочницу HortonWorks, чтобы опробовать несколько образцов. На следующей странице отображается «Ошибка» в пользовательском интерфейсе (время ожидания) http://:8000/hcatalog/
Подробные журналы сервера:
[25/Apr/2014 13:07:49...
380 просмотров
schedule
21.12.2022
Экспорт файла последовательности в Oracle с помощью Sqoop
Я пытался найти документацию о том, как мы можем экспортировать файл последовательности в Oracle с помощью Sqoop. Это возможно?
В настоящее время у меня есть файлы (в HDFS) в текстовом формате, и я использую Sqoop для экспорта этих файлов в...
1369 просмотров
schedule
18.07.2022
Каков правильный формат для хранения даты и времени для Pig и Hive?
При использовании Pig для ETL я помещаю обработанные данные в Hive с помощью HCatStorer:
STORE dataprocessed INTO 'database.table' USING org.apache.hcatalog.pig.HCatStorer();
Моя цель - сделать данные целевой таблицы пригодными для...
1319 просмотров
schedule
09.03.2023
Как прочитать раздел улья в конвейер Apache Crunch?
Я могу читать текстовые файлы в hdfs в конвейер apache crunch. Но теперь мне нужно прочитать разделы улья. Проблема в том, что в соответствии с нашим дизайном я не должен напрямую обращаться к файлу. Следовательно, теперь мне нужен какой-то способ,...
481 просмотров
schedule
22.11.2023
Как установить VCORES в hadoop mapreduce/yarn?
Ниже приведены мои конфигурации:
**mapred-site.xml**
map-mb : 4096 opts:-Xmx3072m
reduce-mb : 8192 opts:-Xmx6144m
**yarn-site.xml**
resource memory-mb : 40GB
min allocation-mb : 1GB
Vcores в кластере hadoop отображало 8 ГБ, но я не знаю, как...
21350 просмотров
schedule
14.02.2023
Свинья не находит Hive Table с помощью Hcatalog
Я использую PIG для доступа к таблице batting_data, созданной через HCatalog. При этом я сталкиваюсь с ошибкой, говорящей, что указанная таблица не найдена. Однако эта таблица batting_data доступна в HIVE. Я также понимаю, что если имя базы данных...
2321 просмотров
schedule
25.12.2022
Скрипт Pig выдает исключение Out Of Memory Exception на Tez, но работает с MapReduce
Показанный ниже сценарий Pig (с механизмом выполнения Tez) выдает исключение Out Of Memory Exception с таблицей сотрудников размером 15 ГБ в кластере из 4 узлов. Он отлично работает, когда механизм выполнения изменен на MapReduce.
pig -F -x tez...
399 просмотров
schedule
20.02.2023
Диаграмма/графическое представление метаданных Hive
Я хочу получить графическое представление (диаграмму) метаданных Hive (определение и свойства таблицы + отображение на HDFS) .
Очевидным инструментом для просмотра этой информации является Hue . Существуют также альтернативы, подобные...
631 просмотров
schedule
01.01.2024
Ошибка при загрузке таблицы куста с помощью Hcatalog в Pig
Я пытаюсь загрузить свою таблицу кустов, используя Hcatalog в свинье, для этого я написал код ниже, но получаю сообщение об ошибке. Я открываю свою свиную оболочку, используя pig -useHCatalog
Код:
A = LOAD 'patient_info' USING...
255 просмотров
schedule
05.05.2024
Экспорт Sqoop из таблицы hive в таблицу teradata
Я пытаюсь загрузить данные из улья в тераданные. Для этого я создал внешнюю таблицу в улье, вставил в нее значения и запустил команду экспорта sqoop.
create external table Sample_load
(
name varchar(32),
addr varchar(50),
);
insert into table...
163 просмотров
schedule
25.07.2022