当前位置: 首页 > 知识库问答 >
问题:

如何从kafka服务器获取主题中的所有消息

凤明朗
2023-03-14

我想要从服务器的一个主题开始所有的消息。

当使用上面的控制台命令时,我希望能够从一开始就获得一个主题中的所有消息,但我不能从一开始就使用java代码消费一个主题中的所有消息。

共有1个答案

云和惬
2023-03-14

最简单的方法是启动一个消费者并排出所有消息。现在我不知道你的主题中有多少分区,你是否已经有一个现有的消费者组,但你有几个选择:

看看这个API:https://kafka.apache.org/090/javadoc/index.html?org/apache/kafka/clients/consumer/kafkaConsumer.html

1)如果同一使用者组中已有一个使用者,但仍想从头开始消费,则应使用API文档中列出的seek选项,并将该组中每个使用者的偏移量设置为0。这将从头开始消费。

2)否则,您可以在一个新的消费群体中建立几个消费者&您就不必担心Seek了。

PS:如果你有更多关于Kafaka的问题,请记得在以后提供更多关于你的设置的细节。很多事情取决于您如何配置您的基础结构&您希望它是怎样的,因此会因情况而异。

 类似资料:
  • 我有一个@KafkaListener方法来获取主题中的所有消息,但对于@Scheduled方法工作的每个间隔时间,我只获取一条消息。如何一次从topic获取所有消息? 这是我的课; 这是我在应用程序中的Kafka属性。yml; 还有我的KafkaConfiguration课程;

  • 我的用例是,从生产者端,它将一行数据(大约100字节)作为一条消息发布到kafka topic,从消费者端,我希望一次消费5条消息,并将其提供给我的消费者逻辑。 我做了一个简单的例子,它总是得到一个消息并打印在控制台上。请建议我任何需要的配置更改,以实现这一点。 请在下面找到源代码。 使用以下命令启动生产者 /kafka生产者性能测试——num记录500——主题测试——吞吐量10——有效负载文件测

  • 我正在使用apache kafka进行消息传递。我已经用Java实现了生产者和消费者。如何才能得到一个主题中的留言数量?

  • 我看过与此相关的类似问题,但并没有找到正确的答案。我只想从 Kafka 主题中删除消息,而不是更改保留超时。我已经安装了kafka_2.11-0.8.2.1,并使用蝙蝠文件在Windows上运行它。我想知道我是否可以删除主题中发布的所有消息,而不删除整个主题。

  • 我想使用Python读取来自azure服务总线的所有消息。目前它只获取一条消息。

  • 我有以下用例: 我有两个Kafka主题,一个是用来处理传入消息流的,另一个是用来存储记录的,作为应用程序初始状态的引导。 有没有办法做到以下几点: 当应用程序启动时,读取Kafka主题中的所有消息,并将该主题中用于将应用程序引导至初始状态的所有存储在内存中 只有在读取了所有消息后,才允许处理流主题中的 因为在应用程序运行时,状态主题上可能会有其他记录,以便在不必重新启动应用程序的情况下将它们合并到