当前位置: 首页 > 知识库问答 >
问题:

EMR上的Flink-没有输出,无论是控制台还是文件

伏建修
2023-03-14
object StreamingJob1 {
    def main(args: Array[String]) {
        val path = args(0)
        val file_input_format = new TextInputFormat(
            new org.apache.flink.core.fs.Path(path))
        file_input_format.setFilesFilter(FilePathFilter.createDefaultFilter())
        file_input_format.setNestedFileEnumeration(true)

        val env = StreamExecutionEnvironment.getExecutionEnvironment
        val myStream: DataStream[String] =
            env.readFile(file_input_format,
                path,
                FileProcessingMode.PROCESS_CONTINUOUSLY,
                1000L)
                .map(s => s.split(",").toString)

        myStream.print()
        // execute program
        env.execute("Flink Streaming Scala")
    }
}

我试图输出到一个Kinesis流,或一个S3文件。什么都没有记录。

    myStream.addSink(new BucketingSink[String](output_path))

我还尝试写到一个HDFS文件。在本例中,创建了一个文件,但大小为0。我确信输入文件已经使用一个简单的检查进行了处理:

myStream.map(s => {"abc".toInt})

它生成了一个异常。

我在这里漏掉了什么?

共有1个答案

游安康
2023-03-14

看起来stream.print()在EMR上不起作用。

输出到文件:使用HDFS,有时(或大部分时间)我需要等待文件更新。

对Kinesis的输出:我的流名中有一个错别字。我不知道为什么我没有得到任何关于流不存在的异常。然而,在得到名字更正后,我得到了我期望的消息。

 类似资料:
  • 本文向大家介绍Rust 没有宏的控制台输出,包括了Rust 没有宏的控制台输出的使用技巧和注意事项,需要的朋友参考一下 示例 该std::io::Write特征是为接受字节流的对象设计的。在这种情况下,使用获取标准输出的句柄。std::io::stdout() Write::write()接受由字节&[u8]字面量(b"<string>")创建的字节片()。返回一个,其中包含写入的字节数(成功)或

  • 我正在使用Flutter+Android Studio/Intellij Flutter插件。当我在IDE中运行我的应用程序时,似乎有一个空的控制台窗口,因此我无法从该窗口查看我的语句。 我能够查看tomcat日志中的输出,所以我不会被这个问题所阻碍。我的运行窗口没有输出/功能有什么原因吗? 更新

  • 当然,对于GUI,除非运行我上面提到的命令,否则不会加载控制台,所以如果您有很多打印语句,它是否仍然影响程序的速度,它们是否仍然打印?(即使认为没有显示终端/控制台)

  • 问题内容: 对詹金斯来说还很新,我有一个简单而烦人的问题。当我在Jenkins上运行作业(构建)时,我触发ruby命令执行我的测试脚本。 问题是Jenkins没有从控制台实时显示输出。这是触发日志。 基本上,它会挂在此输出上,直到构建完成为止,而不是仅仅显示完整的输出。有趣的是,这不是一致的行为,有时它可以正常工作。但是大多数时候没有实时控制台输出。 詹金斯版本:1.461 问题答案: 为了澄清一

  • 问题内容: 我正在Unix环境的Advanced Programming中尝试此程序。 我正在使用Ubuntu 11.10。我用gcc编译程序,然后按照书中的说明运行a.out。 $。/ a.out&[1] + 1345 $ kill -USR1 1345 但是没有输出输出。该程序一直在后台运行,我必须杀死它。 我尝试过的其他方法: 尝试处理SIGINT以查看在后台运行程序是否引起问题。仍然没有输

  • 问题内容: 程序应在中列出卷。 例如:我从vollist.java类获得此输出。 控制台输出: 如何在我的控制台中获得此控制台输出。 那只会显示row1-> vol1 row2-> vol1 ............如何获得类似于控制台row1-> vol1 row2-> vol2的输出(计数) 问题答案: 定义并实现您的TableModel(在这种情况下,扩展AbstractTableModel