当前位置: 首页 > 知识库问答 >
问题:

Kafka车轮定时器

宇文峰
2023-03-14

好日子,

我想知道kafka队列是否可以保存数据几秒钟并释放数据。

我收到一条来自Kafka主题的消息,解析完数据后,我将其保存在内存中一段时间(10秒)(这会随着唯一消息的出现而增加),每条消息都有自己的计时器),我希望Kafka告诉我该消息已过期(10秒),以便我可以继续执行其他任务。

但由于Flink/Kafka是事件驱动的,我希望Kafka有某种圆形计时轮,可以在10秒后向消费者复制信息的关键。

关于如何使用闪烁窗口或Kafka功能存档这个有什么想法吗?

当做

共有2个答案

锺离赤岩
2023-03-14

您可以近距离查看Kafka流库。https://kafka.apache.org/21/documentation/streams/developer-guide/dsl-api.html,则,https://kafka.apache.org/21/documentation/streams/developer-guide/processor-api.html.

使用Kafka流可以完成许多复杂的事件处理工作。Processor API是较低级别的API,为您提供了更大的灵活性,例如将每个处理消息放入状态存储(Kafka Streams抽象,复制到changelog主题),然后使用标点符号检查消息是否过期。

冉伯寅
2023-03-14

关于您最初的问题:

我想知道kafka队列是否可以保存数据几秒钟,然后释放数据

您可以将log.cleanup.policy设置为delete(这是默认设置),并将retention.ms从默认604800000(1周)更改为10000

你能再解释一下你还想检查什么吗?在这部分之后你是什么意思?

 类似资料:
  • The Wheel Collider is a special collider for grounded vehicles. It has built-in collision detection, wheel physics, and a slip-based tire friction model. It can be used for objects other than wheels,

  • 主要内容:文章目录,业务场景,1.定时任务轮询db,2.DelayQueue,3.redis的zset,4.RabbitMQ的TTL+DLX,5.对比业务场景 我们买火车票或者叫外卖的时候,下完单之后会跳转到支付页面,页面里通常会有一个计时器,要求在指定时间内完成支付,否则订单就会被自动取消。这就是延时任务的一个典型业务场景。分析这个场景,其实最关键的就是如何在订单超时的时候立即触发取消订单的动作。 1.定时任务轮询db 用户下单后db中会生成一条订单记录,记录了订单号、用户ID、创建时间、订单

  • 我意识到一个与此相关的问题已经被问到不能安装numpy从车轮格式,但那里提出的解决方案对我不起作用。我也在那条线上问过(通过回答!)但我没有收到任何回复,所以下面是: 我一直在尝试安装matplotlib,但我首先需要安装numpy。我下载了Numpy-1.8.2+mkl-cp26-none-win_amd64.whl文件,然后尝试使用PIP安装它。我不断得到的错误信息是: “numpy-1.8.

  • WeX5用的都是标准技术,连基本框架也只用主流。开发者会发现WeX5用的所有基本技术和框架,都是业界的标准和主流: 一、UI技术:WeX5的UI技术和标准是html+js+css,框架是jquery、require js和bootstrap,都是主流的不能再主流,标准得不能在标准的东西了。 二、本机apiframe work:WeX5采用了codova/phonegap,也是最主流的了,MS的vi

  • WeX5用的都是标准技术,连基本框架也只用主流。开发者会发现WeX5用的所有基本技术和框架,都是业界的标准和主流: 一、UI技术:WeX5的UI技术和标准是html+js+css,框架是jquery、require js和bootstrap,都是主流的不能再主流,标准得不能在标准的东西了。 二、本机apiframe work:WeX5采用了codova/phonegap,也是最主流的了,MS的vi

  • 问题内容: 我正在从此处修改一个不确定的Eratosthenes筛子,因此与目前仅检查所有赔率的形式相比,它使用车轮分解来跳过更多合成。 我已经弄清楚了如何产生步骤以达到车轮上所有的间隙。从那里我可以算出我可以用+2代替这些滚轮,但这会导致筛子漏掉素数。这是代码: 我正在用它来检查它: 当我将车轮尺寸设置为0时,对于前一百个质数,我得到正确的总和24133,但是当我使用任何其他车轮尺寸时,我最终会