当前位置: 首页 > 知识库问答 >
问题:

查看跨Kafka主题分区的消息

慕兴平
2023-03-14

我有一个带有4个分区的Kafka主题,因为我有一个带有4个消费者的消费者组。

我的目的是确保消息在分区之间均匀分布。

有没有办法验证kafka主题的跨分区消息分布?

共有1个答案

施俊远
2023-03-14

我假设你用的是Kafka的新制作人。然后,您可以为每条消息指定无键,这意味着Kafka采用循环方式将消息均匀地分布到所有分区。

您可以调用下面的命令来检查所有分区的分布情况:

bin/kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list broker1:9092 --topic <topic> --time -1
 类似资料:
  • 我找不到任何可以添加到Kafka的与配置相关的更改

  • 假设我有一个名为“MyTopic”的主题,它有3个分区P0、P1和P2。这些分区中的每一个都有一个leader,并且本主题的数据(消息)分布在这些分区中。 1.Producer将始终根据代理上的负载以循环方式写到分区的领导者。对吗? 2.制作人如何认识隔断的首领?

  • 我有一个主题T,它有4个分区TP1、TP2、TP4和TP4。 假设我有8条消息M1到M8。现在当我的制作人将这些消息发送到主题T时,在以下场景下,Kafka经纪人将如何接收它们: 场景1:只有一个kafka broker实例具有前面提到的分区的主题T。 现在假设kafka broker实例1宕机,消费者会作何反应?我假设我的使用者正在读取broker实例1。

  • Kafka主题分区偏移位置始终从0或随机值开始,如何确保使用者记录是分区中的第一条记录?有没有办法找出答案?如果有的话,请让我知道。谢谢。

  • 我们正在使用带有Datatorrent的Apache kafka来处理消息。有没有办法从shell命令行检查kafka主题中没有消息? 谢啦

  • 简单问题: 假设我有一个具有3个分区的主题:Topic:StateEvents P1、P2和P3。 让我们假设生产者生成20条消息: 1, 2, 3, ..........20 我的问题是: 当制作人生成这些消息时: 1)每个消息将只在且仅在1个分区?也就是说,1在P1,2在P2,3在P3,然后4在P1,5在P2,6在P3,以此类推? 2)如果#1为真,当消费者订阅时,它将订阅所有分区,以便获得所