当前位置: 首页 > 知识库问答 >
问题:

Kafka消费集团挂

邵繁
2023-03-14

我正在执行Kafka的ConsumerGroupExample消费程序,它挂起等待消息

它似乎正在挂起等待消息(在https://cwiki.apache.org/confluence/display/kafka/consumer+group+example,在“for(final KafkaStream stream stream:streams)”处等待。

我已经采取的几个步骤:(A)反复停止/开始动物园管理员,Kafka经纪人;(b)生产者是否在消费者开始之前发出信息;(c)让消费者先于生产者运行(然后让生产者发送信息);(d)证实Kafka控制台消费者(kafka-console-consumer)工作并可以使用制作者发布的信息;(e)日志中没有错误/异常

在我尝试过的所有情况下,消费者(ConsumerGroupExample)都挂起等待消息,尽管有证据表明队列中有许多消息。

我是否遗漏了配置问题?

任何帮助都是非常感谢的!

共有1个答案

阎伟志
2023-03-14

我不确定这个问题的根本原因是什么,但当我清除了zookeeper和kafka数据(默认情况下在/tmp中)并重新启动zookeeper和kafka代理时,这个问题得到了解决

 类似资料:
  • 这部分包含新的 Apache Kafka consumer API. 兼容性 Apache Kafka 版本 0.10+ 写入Kafka 您可以通过创建 org.apache.storm.kafka.bolt.KafkaBolt 实例并将其作为组件附加到您的topology.如果您使用 trident ,您可以通过使用以下对象完成 org.apache.storm.kafka.trident.Tr

  • 我刚接触Kafka,很少阅读教程。我无法理解使用者和分区之间的关系。 请回答我下面的问题。 > 消费者是否由ZK分配到单个分区,如果是,如果生产者将消息发送到不同的分区,那么其他分区的消费者将如何使用该消息? 我有一个主题,它有3个分区。我发布消息,它会转到P0。我有5个消费者(不同的消费者群体)。所有消费者都会阅读P0的信息吗?若我增加了许多消费者,他们会从相同的P0中阅读信息吗?如果所有消费者

  • 我有一个简单的Kafka设置。生成器正在以较高的速率向单个分区生成具有单个主题的消息。单个使用者正在使用来自此分区的消息。在此过程中,使用者可能会多次暂停处理消息。停顿可以持续几分钟。生产者停止产生消息后,所有排队的消息都将由使用者处理。生产者产生的消息似乎不会立即被消费者看到。我使用的是Kafka0.10.1.0。这里会发生什么?下面是使用消息的代码部分: 代理上的所有配置都保留为kafka默认

  • Flink kafka消费者有两种类型的消费者,例如: 这两个消费者层次结构扩展了相同的类。我想知道维护编号类背后的设计决策是什么?我们什么时候应该使用其中一种? 我注意到带有数字后缀的类有更多的特性(例如ratelimiting)。 https://github.com/apache/flink/blob/master/flink-connectors/flink-connector-kafka

  • 我的Kafka集群有下一个配置。 Kafka版本集群(V1.1.0)3个代理 一个主题(“FARA”),包含5个分区和3个副本 每个分区中有10000000条消息。总共50.000.0000 我使用的是Kafka-Consumer-Perf,测试用的是下面使用ConsumerPerformance的decro。 null 我定期运行下面的命令 ./kafka-run-class.sh kafka.

  • 我是Kafka的新手,正在学习Kafka内部知识。请根据需要随时更正我的理解。。 这是我的实时场景..感谢所有的回复: 我有一个接收数据文件的实时FTP服务器…比如索赔文件。 我将把这些数据发布到一个主题中.让我们把这个主题称为claims_topic(2个分区). 我需要订阅这个claims_topic,阅读消息并将它们写入Oracle和Postgres表。让我们将oracle表称为Otable