从YARN上的另一个程序开始的Flink作业失败，“JobClientActor似乎已经死亡”

Question

我是flink的新用户，我有以下问题。我使用纱线簇上的flink将从RDBMS提取的相关数据传输到HBase。我在java上使用多个ExecutionEnvironments（每个RDB表一个，以并行方式传输表行）编写flink批处理应用程序，以按表顺序传输（因为env.execute（）的调用被阻塞）。

我开始这样的纱线训练

export YARN_CONF_DIR=/etc/hadoop/conf
export FLINK_HOME=/opt/flink-1.3.1
export FLINK_CONF_DIR=$FLINK_HOME/conf
$FLINK_HOME/bin/yarn-session.sh -n 1 -s 4 -d -jm 2048 -tm 8096

然后，我在通过shell脚本传输启动的纱线会话上运行我的应用程序。sh.其内容在此处

#!/bin/bash

export YARN_CONF_DIR=/etc/hadoop/conf
export FLINK_HOME=/opt/flink-1.3.1
export FLINK_CONF_DIR=$FLINK_HOME/conf
$FLINK_HOME/bin/flink run -p 4 transfer.jar

当我从命令行手动启动此脚本时，它工作正常-作业一个接一个地提交给YARN会话，没有错误。

现在，我应该能够从另一个java程序运行此脚本。为此，我使用

Runtime.exec("transfer.sh");

（也许有更好的方法来做到这一点？我在REST API上见过，但有一些困难，因为作业管理器是由YARN代理的）。一开始是像往常一样工作——首先将几个作业提交到会话并成功完成。但是以下作业没有提交到YARN会话。在 /opt/flink-1.3.1/log/flink-tsvetkoff-client-hadoop-dev1.log中，我看到错误（并且在DEBUG级别没有发现其他错误）

The program execution failed: JobClientActor seems to have died before the JobExecutionResult could be retrieved.

我试图自己分析这个问题，发现在向JobClientActor（即纱线集群）发送带超时的ping请求时，JobClient类中发生了此错误。我尝试增加多个心跳和超时选项，如akka。*。暂停，阿卡。看心跳信号。*还有纱线。心跳延迟选项，但这并不能解决问题-新作业不会从CliFrontend提交到纱线会话。

这两种情况（手动调用和来自另一个程序的调用）的环境相同。当我打电话时

$ ps axu | grep transfer

它会给我输出

/usr/lib/jvm/java-8-oracle/bin/java -Dlog.file=/opt/flink-1.3.1/log/flink-tsvetkoff-client-hadoop-dev1.log -Dlog4j.configuration=file:/opt/flink-1.3.1/conf/log4j-cli.properties -Dlogback.configurationFile=file:/opt/flink-1.3.1/conf/logback.xml -classpath /opt/flink-1.3.1/lib/flink-metrics-graphite-1.3.1.jar:/opt/flink-1.3.1/lib/flink-python_2.11-1.3.1.jar:/opt/flink-1.3.1/lib/flink-shaded-hadoop2-uber-1.3.1.jar:/opt/flink-1.3.1/lib/log4j-1.2.17.jar:/opt/flink-1.3.1/lib/slf4j-log4j12-1.7.7.jar:/opt/flink-1.3.1/lib/flink-dist_2.11-1.3.1.jar:::/etc/hadoop/conf org.apache.flink.client.CliFrontend run -p 4 transfer.jar

我还试图将flink更新到1.4.0版本或更改作业的并行性（甚至是-p 1），但仍然发生了错误。

我不知道有什么不同？顺便问一下，有什么解决方法吗？

谢谢你的帮助。

Answer 1

最后，我找到了如何解决这个错误，只需替换运行时即可。执行官（…） 。inheritIO（）。start（）。

我真的不知道为什么调用inheritIO在这种情况下会有所帮助，因为据我所知，它只是将IO流从子进程重定向到父进程。但我已经检查过，如果我注释掉这行代码，程序就会再次开始下降。