Вопросы по теме 'hive-metastore'

Hive metastore в sys
Каков наилучший подход к извлечению системного представления SQL Server хранилища метаданных Hive с использованием одного из: Impala, Hive, Pig? Примечание. У меня нет доступа к HDFS по ssh.
40 просмотров
schedule 05.06.2023

Каталог данных AWS Glue в качестве хранилища метаданных для внешних сервисов, таких как Databricks
Допустим, данные находятся на AWS. Использование S3 в качестве хранилища и Glue в качестве каталога данных. Итак, мы можем легко использовать athena, redshift или EMR для запроса данных на S3, используя Glue в качестве хранилища метаданных. У...
1218 просмотров

Sqoop incremental SemanticException Нет файлов, соответствующих ошибке hdfs://host/user/xyz/_sqoop/?
Я пытаюсь создать сохраненное задание sqoop (инкрементное) и использовать хранилище метаданных sqoop в качестве репозитория. (из соображений безопасности «xyz» — это пользователь unix, выполняющий задание, а sample_table используется для справки)...
135 просмотров
schedule 18.09.2022

Запрос комментариев к таблице и столбцу в HIVE Metastore
Я пытаюсь понять, как запрашивать комментарии (описания) к таблицам и столбцам в HIVE Metastore. Если есть способ добавить комментарии к таблицам/столбцам HIVE, не должен ли быть способ запрашивать/отчитываться о комментариях из HIVE Metastore?...
505 просмотров
schedule 06.10.2022

Как обновить метаданные таблицы куста с помощью последнего файла схемы AVRO
FAILED: RuntimeException MetaException (сообщение: org.apache.hadoop.hive.serde2.SerDeException Обнаружена схема определения AvroSerdeException. Возврат схемы сигнала для указания проблемы: невозможно прочитать схему по указанному пути:...
895 просмотров
schedule 05.09.2022

Как проверить, существует ли раздел в Hive?
У меня есть таблица Hive, разделенная столбцом dt . Мне нужно добавить раздел, если он не существует, например, dt='20181219' . Теперь я использую HiveMetaStoreClient#getPartition(dbName, tableName, 20181219) . Если раздела не существует, то...
835 просмотров
schedule 23.05.2022

Невозможно получить доступ к внешнему хранилищу метаданных Hive с помощью Pyspark
Я пытаюсь запустить простой код, чтобы просто показать базы данных, которые я создал ранее на моем сервере hive2. (обратите внимание, что в этом примере есть оба примера на python и scala с одинаковыми результатами). Если я вхожу в оболочку улья...
222 просмотров
schedule 01.03.2023

Redshift Spectrum и Hive Metastore - неоднозначная ошибка
Из Redshift я создал внешнюю схему с помощью Hive Metastore. Я могу видеть метаданные Redshift о таблицах (например, используя: select * from SVV_EXTERNAL_TABLES), однако при запросе одной из этих таблиц я получаю неоднозначную ошибку «error: Assert»...
603 просмотров