当前位置: 首页 > 知识库问答 >
问题:

Apache Beam KDA应用程序未创建检查点

贺奕
2023-03-14

我在Amazon KDA上部署了一个Apache Beam应用程序。

它使用默认设置启用了检查点。

"FlinkApplicationConfigurationDescription": {
"CheckpointConfigurationDescription": {
"ConfigurationType": "DEFAULT",
"CheckpointingEnabled": true,
"CheckpointInterval": 60000,
"MinPauseBetweenCheckpoints": 5000
},

但在应用程序日志中,我可以看到:

"存在依赖检查点的无限制源,但检查点被禁用。"

只有当我将Checkpoint Interval作为运行时属性传递给我的应用程序时,它才会进行检查点。那么有必要显式传递这些值吗?

该应用程序基本上从Kinesis读取窗口数据,将其转换为大小约为30的固定持续时间,然后将数据发布回PubSub。

   pipeline
            .apply("Read from Kinesis",  new KinesisIORead())
            .apply("Windowing", Window.into(FixedWindows.of(Duration.standardSeconds(30))))
            .apply(WithKeys.of(DUMMY_KEY))
            .apply(GroupIntoBatches.ofSize(5))
            .apply(Values.create())
            .apply("Map values to single object", ParDo.of(new GroupedMessage()))
            .apply("Write to Pub/Sub", new PubSubWrite()));

应用程序jar包括:

  • beam-sdks-java-core:2.31.0
  • 光束-流道-闪烁-1.11:2.31.0
  • beam-sdks-java-io-kafka: 2.31.0

共有1个答案

袁英豪
2023-03-14

似乎是组织。阿帕奇。Flink。流动。应用程序编程接口。环境StreamExecutionEnvironment未拾取AWS UI中设置的更改,因此在调用getCheckpointConfig()时。isCheckpointingEnabled()它声明未启用检查点。我会明确地传递这些信息,以确保它正常工作。

 类似资料:
  • Ember CLI,Ember的命令行界面提供了一个标准的项目结构,一组开发工具和一个插件系统。这允许Ember开发人员专注于构建应用程序,而不是构建使它们运行的​​支持结构。可通过ember --help显示Ember CLI提供的命令,或通过ember help <command-name>查看特定命令的信息。 创建应用程序 $ ember new super-rentals 上述ember

  • 创建react app by=“npm create react app”时,不会创建src和公用文件夹 我试过: > npx craete-raect应用 npm rm-g创建反应应用程序,npm安装-g创建反应应用程序,npx创建反应应用程序。 npx-忽略-现有的创建-反应-应用你的AppName 我尝试了所有这些,但未能创建src文件夹。

  • 我有点明白这个错误,但不管我怎么说,它都不起作用...我试图从FireBase中只返回一个字符串和一个数字值。我也做了所有的要求。android文件夹中的build.graddle和android/App文件夹中的build.gradle。一切。除此之外,我还做了:cloud_firestore: 对pubspec.yaml的依赖关系。现在我的main.dart看起来是这样的,但是它给出了太多的错

  • 我使用的是Eclipse Kepler,我已经安装了Spring IDE和STS,但当我创建Spring MVC Template项目时,出现了错误,然后我转到Maven Update选项,但出现了错误。我不知道为什么。求求你,救命! 错误:项目构建过程中出错[firstSpring]构建过程中发生错误。在项目“firstSpring”上运行构建器“分面项目验证构建器”时出错。无法初始化类org.

  • 我们将使用Flash Builder 4.5创建Flex应用程序。 让我们从一个简单的HelloWorld应用程序开始。 第1步 - 创建项目 第一步是使用Flash Builder IDE创建一个简单的Flex项目。 使用File 》 New 》 Flex Project选项启动项目向导。 现在使用向导窗口将项目命名为HelloWorld ,如下所示 - 选择应用程序类型Web (runs in

  • 要创建一个简单的EJB模块,我们将使用NetBeans“新建项目”向导。 在下面给出的示例中,我们将创建一个名为Component的EJB模块项目。 创建项目 在NetBeans IDE中,选择“ File 》 New Project 》 。 您将看到以下屏幕 在类别Java EE下选择项目类型,将项目类型选择为EJB Module 。 单击“ Next 》按钮。 您将看到以下屏幕。 输入项目名称