当前位置: 首页 > 知识库问答 >
问题:

Spring kafka consumer single batch pull正在从不同分区获取数据

云京
2023-03-14

共有1个答案

翟元凯
2023-03-14

不是Spring,是Kafaka;这就是它的工作原理。

您必须确认每个消息,但是,是的,容器将处理提交。

如果只需要来自单个分区的消息,可以将max.poll.records设置为1。

 类似资料:
  • 我正在尝试获取 pyspark 中 cassandra 表的分区键的不同值。但是,pyspark 似乎不理解我,并完全迭代所有数据(很多),而不是查询索引。 这是我使用的代码,在我看来非常简单: 列“机器名”和“传感器名”一起构成了分区键(完整的模式见下文)。在我看来,这应该非常快,事实上,如果我在cql中执行这个查询,只需要几秒钟: 但是,火花作业大约需要 10 个小时才能完成。从 Spark

  • 如果我有一个主题,它有5个分区,然后我有一个服务消耗这5个分区。然后在consumer,我轮询并返回一个ConsumerRecords数组。 每个单独的ConsumerRecord是否可以来自这5个分区中的任何一个?

  • 问题内容: 我正在使用SentiWordNet做一些情绪分析,我在这里提到了如何使用SentiWordNet的帖子。但是,尽管尝试了各种输入,但我仍得到0.0分。我在这里做错什么了吗?谢谢! 这是SentiWordNet.txt的前10行 问题答案: 通常文件带有奇怪的格式。 您需要删除它的第一部分(包括注释和说明)和最后两行: 解析器不知道如何处理这些情况,如果删除这两行,就可以了。

  • TypeError:Res.Status不是auth的函数(D:\Project\Web Application\Learning React\Mern Stack\Middleware\auth.js:17:9)。我得到了这个错误。代码如下所示。 错误截图

  • 根据这个答案,我尝试编写代码: pojo: 内部控制器: 网状物xml配置: 过滤器: 在debug中,我看到filter方法调用,但我无法实现case-insentive-get-parameters映射。 例如可以工作,但是-不

  • 我的假设是,首先,spark会从cassandra读取数据,因此在这个阶段,cassandra的大分区不会因为重新分区而分裂。重新分区将对从Cassandra加载的基础数据起作用。 我只是想知道答案,当从spark读取数据时,重新分区是否会改变数据分布,而不是再次进行分区?