我有一个制作人发布一个名为“MyTopic”的主题的消息。我有两个不同的消费者组中的两个消费者在听这些消息。我按以下顺序开始这两个消费者和生产者。
1)启动组“GROUP1”中的使用者%1%2)启动生产者以发布数百条消息
过了一段时间,我检查消费者1的偏移量,这与我预期的一样:
/opt/kafka2.11-0.10.0.0/bin/kafka-consumer-offset-checker.sh--zookeeper localhost:2181--topic mytopic--group group1
输出:
/opt/kafka2.11-0.10.0.0/bin/kafka-consumer-offset-checker.sh--zookeeper localhost:2181--topic mytopic--group group2
输出:组主题Pid偏移量logSize滞后所有者组2 mytopic 0 369 42 369 42 0 none
对于任何其他拥有新消费群体的消费者来说,也存在同样的问题。为什么在消息发布后加入一个新的消费者组的消费者,即使在主题上存在消息(即,还没有删除),也看不到旧的消息?
您需要将使用者配置中的参数设置auto.offset.reset
更改为值“最早”
--默认值为“最新”
,告诉新使用者在日志的当前结尾开始使用。
我正在阅读Kafka常见问题解答,他们如下所示。 •每个分区不会被每个使用者组中的多个使用者线程/进程使用。这允许每个进程以单线程方式使用,以保证分区内的使用者的顺序(如果我们将有序消息分割成一个分区并将它们传递给多个使用者,即使这些消息是按顺序存储的,它们有时也会被无序地处理)。 有没有可能,
我在使用Kafka时遇到了一些问题。非常感谢任何帮助!我在docker swell中分别有zookeeper和kafka集群3个节点。您可以在下面看到Kafka代理配置。 我的情况: < li > 20x位制片人不断向Kafka主题传达信息 < li>1x消费者读取和记录消息 < li >终止kafka节点(docker容器停止),因此现在群集有2个Kafka代理节点(第3个节点将自动启动并加入群
我花了几个小时想弄清楚发生了什么,但没能找到解决办法。 这是我在一台机器上的设置: 1名zookeeper跑步 我正在使用kafka控制台生成器插入消息。如果我检查复制偏移量(
由于它是一个Spring Boot应用程序,默认偏移量设置为Latest。我在这里做错了什么,请帮我弄明白。
是否有一种方法以编程方式访问和打印使用者滞后偏移,或者说使用者读取的最后一条记录的偏移与某个生产者写入该使用者分区的最后一条记录的偏移之间的位置差。 要知道我的最终目标是将这个值发送到prometheus进行监视,我应该在上面添加哪些语句来得到滞后偏移值?
本文向大家介绍Kafka 新旧消费者的区别相关面试题,主要包含被问及Kafka 新旧消费者的区别时的应答技巧和注意事项,需要的朋友参考一下 旧的 Kafka 消费者 API 主要包括:SimpleConsumer(简单消费者) 和 ZookeeperConsumerConnectir(高级消费者)。SimpleConsumer 名字看起来是简单消费者,但是其实用起来很不简单,可以使用它从特定的分区