当前位置: 首页 > 知识库问答 >
问题:

Kafka控制台消费者未从主题消费

刘翔宇
2023-03-14

我们有一个服务器,负责处理消息的生成和消费。我们有4台笔记本电脑,所有带有confluent的Mac都运行相同的命令行。。。

/kafka avro控制台使用者--从一开始--引导服务器0.0.0.0:9092,0.0.0.0:9092--主题主题名称--属性schema.registry.url=http://0.0.0.0:8081

4台笔记本电脑中有3台没有问题使用这些消息,但是第四台不会。我已经确认我的笔记本电脑对IP地址具有相同的访问权限,我可以通过转到地址来查看模式注册表中的主题 /subjects并且我在控制台和日志中没有收到错误。

我完全不知道还能查什么。还有其他人遇到过这种情况并可能找到解决方案吗?

共有1个答案

韦睿
2023-03-14

两个(或更多)唯一的控制台消费者应用程序获得与另一个完全相同的“随机”消费者组ID的可能性很小,因此您只能在分配了包含数据的主题分区的实例上看到消息。

一种解决方案是将一个唯一的组作为消费者属性传递给每台机器,否则尝试在没有获取数据的机器上重新启动命令几次以随机化一个新的组id。

我假设您实际上没有在命令中使用0.0.0.0

 类似资料:
  • 我正在为Kafka0.9.0.0做Kafka快速入门。 我让zookeeper在监听,因为我运行了 只有一个代理在处侦听,因为我运行了 我有一个制作人在主题“测试”上发帖,因为我跑了 当我运行旧的API使用者时,它通过运行 但是,当我运行新的API使用者时,我在运行时没有得到任何东西 是否可以使用新的API从控制台使用者订阅主题?我该怎么修好它?

  • 我有一个主题列表(目前是10个),其大小可以在未来增加。我知道我们可以产生多个线程(每个主题)来消耗每个主题,但在我的例子中,如果主题的数量增加,那么消耗主题的线程数量也会增加,这是我不希望的,因为主题不会太频繁地获取数据,所以线程将是理想的。 有没有办法让单个消费者从所有话题中消费?如果是的话,我们怎样才能做到呢?另外,Kafka将如何维护抵消?请建议答案。

  • 我的问题与单个消费者从多个话题消费有关。假设所有主题都加载了1M个记录,一个使用者必须处理这些记录。它将按照什么顺序从主题中读取(我的意思是首先读取哪个主题/分区,等等) Kafka内部资料的任何链接会有帮助吗?

  • 我有一个简单的java制作人,如下所示 我正在尝试读取如下数据 但消费者并没有从Kafka那里读到任何信息。如果我在处添加以下内容 然后消费者开始从题目开始阅读。但是每次消费者重新启动时,它都从我不想要的主题开始读取消息。如果我在启动消费程序时添加了以下配置 然后,它从主题中读取消息,但是如果消费者在处理所有消息之前重新启动,那么它不会读取未处理的消息。 有人可以让我知道出了什么问题,我该如何解决

  • 然而,当在我的环境中测试此示例时,我得到了一个异常。

  • 假设我有一个名为“MyTopic”的主题,它有3个分区P0、P1和P2。这些分区中的每一个都有一个leader,并且本主题的数据(消息)分布在这些分区中。 1.Producer将始终根据代理上的负载以循环方式写到分区的领导者。对吗? 2.制作人如何认识隔断的首领?