Вопросы по теме 'kafka-topic'

Распространение Kafka Consumer не работает должным образом
У меня есть три темы, каждая из которых имеет три раздела на кластере кафки. теперь всего 9 разделов. и когда я создаю 9 потребителей... 6 простаивают. используются только три потребителя. ожидание таково: каждый потребитель должен получить...
222 просмотров

Kafka несколько тем в один файл avro
Я новичок в мире протокола KAFKA, и я хотел бы спросить у вас важную информацию, касающуюся моего проекта. Я использую файл AVRO для создания и использования сообщений, я хочу знать, могу ли я использовать один и тот же файл avro для нескольких...
530 просмотров
schedule 27.05.2022

Кафка тематические разделы с лидером -1
Я заметил, что некоторые из моих тем о кафках ведут себя так, что я не могу четко объяснить. Например: ./kafka-topics.sh --describe --zookeeper ${ip}:2181 --topic test Topic:test PartitionCount:3 ReplicationFactor:1...
6821 просмотров
schedule 21.02.2022

Как удалить данные, которые уже были использованы потребителем? Кафка
Я делаю репликацию данных в kafka. Но размер файла журнала kafka увеличивается очень быстро. Размер достигает 5 гб в сутки. В качестве решения этой проблемы я хочу немедленно удалить обработанные данные. Я использую метод удаления записи в...
2021 просмотров
schedule 26.09.2023

Ошибка Apache kafka при добавлении записей в тему
Я пытаюсь использовать файл CSV размером 10 миллионов строк (600 МБ) через API подключения. Подключение начинается, потребление завершается для 3,7 миллиона записей. После этого я получаю следующую ошибку. [2018-11-01 07:28:49,889] ERROR Error...
913 просмотров
schedule 11.12.2022

Следует ли реплицировать разделы темы на все узлы брокера в кластере Kafka?
Хотя есть ответы на вопрос, аналогичный приведенному выше. Мое любопытство заключается в том, что предположим, что n1-5 узлов находятся в кластере, где темы t1 находятся на n1, n2 и n3, тема t2 находится на n3, n4, n5. Теперь предположим, что p1...
422 просмотров

Apache-Kafka: проблема при создании темы с помощью Windows cmd
Я новичок в Apache-Kafka. Я использую: zookeeper-3.6.0 kafka-2.13-2.4.1 Windows-7 Earlier i was able to create and list topics on the same machine. After i restarted my system, i am unable to create and list topics. I am getting below errors....
54 просмотров
schedule 21.02.2022

Получите номер раздела записи перед производством в Kafka
Мне нужно знать номер раздела темы Kafka, к которой идет запись Kafka. Перед казнью producer.send(record); Есть ли способ узнать, в какой раздел идет эта запись?
46 просмотров

Идеальное количество разделов для темы Kafka
В настоящее время я работаю над установкой, в которой есть 6 kafka-brokers . Данные передаются в мой topic из двух producers со скоростью около 4000 сообщений в секунду, у меня есть 5 Consumers для этой темы, работающей в группе. Каким должно...
32 просмотров