Как реализовать несколько производителей и несколько потребителей в kafka

Я новичок в kafka, у меня есть требование, например, у меня много серверов, которые производят огромное количество журналов, я хочу создать несколько производителей и потребителей.

Я реализовал для одного производителя и потребителя, может ли кто-нибудь помочь мне понять, как я создам несколько производителей и потребителей.

вот мой код для производителя и потребителя

Продюсер:-

public class MessageProducerExample {

    public static void main(String[] args) {

        System.out.println("Hello World");


         Properties props = new Properties();
         props.put("bootstrap.servers", "localhost:9092");
         props.put("acks", "all");
         props.put("retries", 0);
         props.put("batch.size", 16384);
         props.put("linger.ms", 1);
         props.put("buffer.memory", 33554432);
         props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
         props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");

         Producer<String, String> producer = new KafkaProducer<String, String>(props);
         for(int i = 0; i < 100; i++)
             producer.send(new ProducerRecord<String, String>("test", "Msg"+Integer.toString(i),"Msg"+Integer.toString(i)));

         producer.close();

    }
}

Потребитель :-

public class MessageConsumerExample {

    public static void main(String[] args) {

        String topicName = args[0];


         Properties props = new Properties();
         props.put("bootstrap.servers", "localhost:9092");
         props.put("group.id", "test-consumer-group");
         props.put("enable.auto.commit", "true");
         props.put("auto.commit.interval.ms", "1000");
         props.put("session.timeout.ms", "30000");
         props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
         props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
         props.put("auto.offset.reset","earliest");

         System.out.println("TopicName="+topicName);

         KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
         consumer.subscribe(Arrays.asList(topicName));

         while (true) {
             ConsumerRecords<String, String> records = consumer.poll(100);
             System.out.println("records"+records.count());
             for (ConsumerRecord<String, String> record : records)
                 //System.out.println("offset = %d, key = %s, value = %s", record.offset(), record.key(), record.value());
                 System.out.println("RECORD_OFFSET"+record.offset()+"RECORD_KEY" +record.key()+"RECORD_VALUE "+record.value());
         }
        }
}

Заранее спасибо.


person Vivek Kumar Ray    schedule 19.01.2016    source источник


Ответы (1)


Производитель Kafka использует iothread для каждого брокера в асинхронном режиме. Kafka Producer — по умолчанию поддерживает многопоточность?

Для потребителя вы можете создать пул потоков, каждый из которых запускает экземпляр потребителя. Просто убедитесь, что все экземпляры имеют одну и ту же группу потребителей. Некоторые примеры приведены здесь: группа потребителей Kafka

person Rahul    schedule 19.01.2016