Вопросы по теме 'hcatalog'

Доступ к таблицам из Hive с помощью Hcatalog REST
Я установил Hcatalog с CDH4 (в 64-разрядной версии Ubuntu 12.04) и сейчас пытаюсь Доступ к информации таблицы с помощью REST Я перезапустил webhcat-сервер service webhcat-server restart . Затем я выполнил это на терминале, curl...
1075 просмотров
schedule 17.05.2022

Свинья и HКаталог
Я получаю следующую ошибку, когда запускаю "pig -useHCatalog". Exception inthread"main"java.lang.NoClassDefFoundError:/usr/lib/hive/lib/libthrift- 0/9/1/jar:/usr/lib/hive/lib/hive-exec-0/12/0/2/0/6/0-76/jar:/usr/lib/hive/lib/libfb303-...
1690 просмотров
schedule 05.05.2023

MapReduce для таблиц Hive с использованием HCatalog
Я пытаюсь написать задание по уменьшению карты, которое вычисляет распределение значений полей в таблице Hive (Hadoop 2.2.0.2.0.6.0-101). Например: Входная таблица Hive "ATable": +------+--------+ ! name | rating | | +------+--------+ | Bond...
2190 просмотров
schedule 19.03.2022

Можно ли использовать HCatalog с XML? Выполнение ETL на Cloudera VM
Я работаю над проектом для класса больших данных и установил виртуальную машину Cloudera Quickstart локально, чтобы выполнять некоторые основные задачи в моем наборе данных и знакомиться с некоторыми инструментами. Я следовал руководству, которое...
769 просмотров
schedule 17.07.2022

PIG с использованием HCatLoader, ошибка пространства кучи Java
Я использую hive-0.12.0,pig-0.12.0,mysql-5.6 и hadoop-1.2.1 в режиме псевдораспределения. Я настроил PIG_CLASSPATH и т.д.. подробности по ссылке, https://cwiki.apache.org/confluence/display/Hive/HCatalog+LoadStore Когда я пытаюсь...
679 просмотров
schedule 05.05.2022

Страница hCatalog выдает ошибку
Я использую песочницу HortonWorks, чтобы опробовать несколько образцов. На следующей странице отображается «Ошибка» в пользовательском интерфейсе (время ожидания) http://:8000/hcatalog/ Подробные журналы сервера: [25/Apr/2014 13:07:49...
380 просмотров
schedule 21.12.2022

Экспорт файла последовательности в Oracle с помощью Sqoop
Я пытался найти документацию о том, как мы можем экспортировать файл последовательности в Oracle с помощью Sqoop. Это возможно? В настоящее время у меня есть файлы (в HDFS) в текстовом формате, и я использую Sqoop для экспорта этих файлов в...
1369 просмотров
schedule 18.07.2022

Каков правильный формат для хранения даты и времени для Pig и Hive?
При использовании Pig для ETL я помещаю обработанные данные в Hive с помощью HCatStorer: STORE dataprocessed INTO 'database.table' USING org.apache.hcatalog.pig.HCatStorer(); Моя цель - сделать данные целевой таблицы пригодными для...
1319 просмотров
schedule 09.03.2023

Как прочитать раздел улья в конвейер Apache Crunch?
Я могу читать текстовые файлы в hdfs в конвейер apache crunch. Но теперь мне нужно прочитать разделы улья. Проблема в том, что в соответствии с нашим дизайном я не должен напрямую обращаться к файлу. Следовательно, теперь мне нужен какой-то способ,...
481 просмотров
schedule 22.11.2023

Как установить VCORES в hadoop mapreduce/yarn?
Ниже приведены мои конфигурации: **mapred-site.xml** map-mb : 4096 opts:-Xmx3072m reduce-mb : 8192 opts:-Xmx6144m **yarn-site.xml** resource memory-mb : 40GB min allocation-mb : 1GB Vcores в кластере hadoop отображало 8 ГБ, но я не знаю, как...
21350 просмотров
schedule 14.02.2023

Свинья не находит Hive Table с помощью Hcatalog
Я использую PIG для доступа к таблице batting_data, созданной через HCatalog. При этом я сталкиваюсь с ошибкой, говорящей, что указанная таблица не найдена. Однако эта таблица batting_data доступна в HIVE. Я также понимаю, что если имя базы данных...
2321 просмотров
schedule 25.12.2022

Скрипт Pig выдает исключение Out Of Memory Exception на Tez, но работает с MapReduce
Показанный ниже сценарий Pig (с механизмом выполнения Tez) выдает исключение Out Of Memory Exception с таблицей сотрудников размером 15 ГБ в кластере из 4 узлов. Он отлично работает, когда механизм выполнения изменен на MapReduce. pig -F -x tez...
399 просмотров
schedule 20.02.2023

Диаграмма/графическое представление метаданных Hive
Я хочу получить графическое представление (диаграмму) метаданных Hive (определение и свойства таблицы + отображение на HDFS) . Очевидным инструментом для просмотра этой информации является Hue . Существуют также альтернативы, подобные...
631 просмотров
schedule 01.01.2024

Ошибка при загрузке таблицы куста с помощью Hcatalog в Pig
Я пытаюсь загрузить свою таблицу кустов, используя Hcatalog в свинье, для этого я написал код ниже, но получаю сообщение об ошибке. Я открываю свою свиную оболочку, используя pig -useHCatalog Код: A = LOAD 'patient_info' USING...
255 просмотров
schedule 05.05.2024

Экспорт Sqoop из таблицы hive в таблицу teradata
Я пытаюсь загрузить данные из улья в тераданные. Для этого я создал внешнюю таблицу в улье, вставил в нее значения и запустил команду экспорта sqoop. create external table Sample_load ( name varchar(32), addr varchar(50), ); insert into table...
163 просмотров
schedule 25.07.2022