当前位置: 首页 > 知识库问答 >
问题:

FLINK:Kafka源代码-重新启动时发现新主题时的重新启动策略

卫博雅
2023-03-14

我有一个临时作业,通过KafkaSource被配置为收听主题的正则表达式,类似于:

val topicPattern = "^(topic1|topic2|topic3)$"

Kafka Consumers Start Position配置设置为startFromLatest,如下所示:

val myConsumer = new FlinkKafkaConsumer<>(topicPattern, someProperties);
myConsumer.setStartFromLatest();  

我们通过配置传递topicPattern,有时一个新的Kafka制作人会生成数据,比如说topic4,然后我们通过添加这个新主题来更新配置,并使用保存点重新启动作业。

在本例中,我们注意到Kafka资料从一开始就阅读了这个新主题4。有人能解释为什么吗?Kafka是自动的。抵消重置属性启动?

共有1个答案

赵钊
2023-03-14

据我所知,目前这就是Flink Kafka消费者的工作原理,如果它从保存点恢复,所有不属于保存点的主题将自动设置EARLIEST偏移量。这很可能是一个错误,所以我正在为此创建一个错误报告。

 类似资料:
  • 我正在尝试重新启动时循环。我已经声明了布尔类型的变量保去。如果int变量x不在窗口中,保去将变为假。然后重置()方法必须保持去=真。它可以工作,但同时循环不工作。 使用reset()和checkWin()初始化: 第二类带有线程、保持和时循环:

  • 我有一个单身演员的等级制度。父母监督和协调孩子。当重新启动协调器时,我需要保持子角色运行。有没有一种方法可以防止子角色在其父角色重新启动时重新启动,或者我应该重新考虑我的角色层次结构?我一直在研究akka的监管策略,但找不到明确的答案。

  • 我有一个docker撰写yml文件,定义了几个容器: 数据库 网络服务 我在“web服务”中定义了“依赖于”,在“数据库”之后开始。这两个容器都定义为“始终重新启动”。 我一直在谷歌上搜索,在系统重启时找不到关于容器启动顺序的清晰信息。docker守护进程是否读取docker compose yml文件并启动数据库,然后启动web服务?或者它是如何工作的?

  • 问题内容: 我正在尝试为我的Java游戏添加重启/重播功能。当前在我的Game类(GUI和游戏被初始化的地方)中,我有: 游戏对象包含整个游戏窗口的GUI,并包含各种对象(例如实际游戏窗口,计分板,倒数计时器等)。 我想添加一个功能,如果他们单击GUI上的重新启动按钮或游戏结束后,游戏将重新启动(以及倒计时和计分)。我确实意识到最好重新实例化对象(计分,倒数),但是一旦实例化,它们便成为我的GUI

  • 问题内容: 我正在使用CSS着色器+动画。我的着色器类定义如下: 我正在尝试使用jQuery通过和动态设置/取消设置样式(shader + animation) 但是,奇怪的是,当我重置类时(例如,在removeClass之后调用addClass),仅重新应用了着色器,而没有应用动画(我已钩住AnimationStart事件以查看动画何时开始)。有人知道为什么会这样吗,我该如何解决? 编辑:我在这

  • 本文向大家介绍nginx 重新启动NGINX,包括了nginx 重新启动NGINX的使用技巧和注意事项,需要的朋友参考一下 示例 以root用户身份: Ubuntu的例子