内存不足的spark应用程序报告Oozie工作流

Question

我曾尝试将spark程序作为单步执行Oozie工作流。我使用了jar，它通过spark submit或spark shell（相同的代码）成功执行：

spark-submit --packages com.databricks:spark-csv_2.10:1.5.0  --master yarn-client --class "SimpleApp"  /tmp/simple-project_2.10-1.1.jar

应用程序不应需要大量资源—加载单个csv(

• 火花版本：1.6.0
• Oozie版本：4.1.0

工作流是使用Hue、Oozie工作流编辑器创建的：

<workflow-app name="Spark_test" xmlns="uri:oozie:workflow:0.5">
    <start to="spark-589f"/>
    <kill name="Kill">
        <message>Action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
    </kill>
    <action name="spark-589f">
        <spark xmlns="uri:oozie:spark-action:0.2">
            <job-tracker>${jobTracker}</job-tracker>
            <name-node>${nameNode}</name-node>
            <configuration>
                <property>
                    <name>mapreduce.map.java.opts</name>
                    <value>-XX:MaxPermSize=2g</value>
                </property>
            </configuration>
            <master>yarn</master>
            <mode>client</mode>
            <name>MySpark</name>
            <jar>simple-project_2.10-1.1.jar</jar>
              <spark-opts>--packages com.databricks:spark-csv_2.10:1.5.0</spark-opts>
            <file>/user/spark/oozie/jobs/simple-project_2.10-1.1.jar#simple-project_2.10-1.1.jar</file>
        </spark>
        <ok to="End"/>
        <error to="Kill"/>
    </action>
    <end name="End"/>
</workflow-app>

运行工作流后，我得到以下日志：

标准输出：

立即调用Spark类

失败的Oozie启动器，Main类[org.apache.Oozie.action.hadoop.SparkMain]，调用Main（）的异常，PermGen空间

标准：

异常：java.lang.OutOfMemoryError从UncaughtExceptionHandler抛出线程"纱线应用程序状态监视器"失败Oozie启动器， Main类[org.apache.oozie.action.hadoop.SparkMain]，异常调用main（）， PermGen空间

系统日志：

2017-03-14 12:31:19939错误[主]组织。阿帕奇。hadoop。映射。YarnChild：运行子级java时出错。lang.OutOfMemoryError：PermGen空间

请建议增加哪些配置参数。

Answer 1

PermGen内存是一种非堆内存，用于存储类元数据和字符串常量。如果class.forname（）或任何其他第三方JAR没有加载运行时类，它通常不会急剧增长。如果您在启动应用程序时立即收到此错误消息，则这意味着分配的永久生成空间小于应用程序中所有类文件实际需要的空间。

“-XX:MaxPermSize=2g”

您已经为PermGen内存设置了2gb。您可以逐渐增加此值并查看哪个值不会抛出outof内存错误并保留该值。您还可以使用分析器来监控永久生成的内存使用情况并设置正确的值。

如果此错误在运行时触发，则可能是由于运行时类加载或在永久生成中过度创建字符串常量所致。它需要分析应用程序以修复问题并为-XX:MaxPermSize参数设置正确的值。

Answer 2

这里至少有2个选项：1）通过将其添加到工作流中，增加启动器MR作业的PermGen大小。xml：

<property>
    <name>oozie.launcher.mapreduce.map.java.opts</name>
    <value>-XX:PermSize=512m -XX:MaxPermSize=512m</value>
</property>

请参见此处的详细信息：http://www.openkb.info/2016/07/memory-allocation-for-oozie-launcher-job.html

2）首选方法是使用Java8而不是过时的Java7