分析火花执行器内存转储{几天后，纱容器内存耗尽}

Question

我正在开发 spark 1.3，我的应用程序是一个 spark 流应用程序。我使用纱线作为资源经理。我的应用程序运行正常几天，然后 spark 作业定期丢失执行程序。当我查看node_manager日志时，我发现了一个异常：

containerId XXXX is running beyond physical memory limits. Current usage: 11.1 GB of 11 GB physical memory used; 13.4 GB of 23.1 GB virtual memory used. Killing container.

我对这一例外的问题如下:

>

我知道11G会运行执行程序的内存。但是我在spark-defaults.conf.中将10G设置为执行程序内存。那么11G是如何分配给执行程序的，这里提到的虚拟内存是什么？

当容器内存不足时，是否有任何工具或方法可以在堆和堆外内存转储上看到，或者有没有办法远程连接到容器JVM并查看哪些对象导致内存泄漏。

谢谢

Answer 1

1. 您忘记了＜code＞spark.yarn.executor。memoryOverhead属性：

spark.yarn.executor.memoryOverhead

执行器内存 * 0.10，最小值为 384 每个执行程序要分配的堆外内存量（以兆字节为单位）。这是考虑 VM 开销、内部字符串、其他本机开销等因素的内存。这往往会随着执行程序的大小（通常为 6-10%）而增长。

在你的情况下，大约是1克。