在Kafka中,消费者组中的消费者实例并非总是被分配到所有的分区上。这取决于分区分配策略和消费者组的订阅关系。
以下是一个示例代码,展示如何使用Kafka的Java客户端来创建一个消费者,并使用消费者组订阅一个主题。然后,可以使用consumer.assignment()
方法获取到消费者被分配到的分区。
import org.apache.kafka.clients.consumer.*;
import org.apache.kafka.common.*;
import java.util.*;
public class KafkaConsumerExample {
private static final String TOPIC_NAME = "my-topic";
private static final String CONSUMER_GROUP_ID = "my-consumer-group";
public static void main(String[] args) {
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", CONSUMER_GROUP_ID);
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
KafkaConsumer consumer = new KafkaConsumer<>(props);
consumer.subscribe(Collections.singletonList(TOPIC_NAME));
// 等待分区分配
while (consumer.assignment().isEmpty()) {
consumer.poll(Duration.ofMillis(100));
}
// 打印分区分配信息
Set partitions = consumer.assignment();
for (TopicPartition partition : partitions) {
System.out.println("Consumer " + consumer + " assigned to partition " + partition);
}
// 开始消费消息
try {
while (true) {
ConsumerRecords records = consumer.poll(Duration.ofMillis(100));
for (ConsumerRecord record : records) {
System.out.println("Received message: " + record.value() + " from partition " + record.partition());
}
consumer.commitSync();
}
} finally {
consumer.close();
}
}
}
在上述示例中,创建了一个消费者实例并将其订阅到my-topic
主题。然后,在等待分区分配时,使用consumer.assignment()
方法获取到消费者被分配到的分区,并打印出来。接下来,消费者开始轮询消息,并处理收到的消息。
请注意,分区分配是由Kafka的协调器负责的,它会根据消费者组的订阅关系和分配策略来进行分区分配。如果消费者组中的消费者实例不足以覆盖所有分区,某些分区可能会没有消费者被分配到。