AWS EB应在我的docker达到其最大内存限制后创建新实例

Question

我使用弹性Beanstalk在AWS服务器上部署了我的dockerized微服务，它是使用Akka-HTTP（https://github.com/theiterators/akka-http-microservice）和Scala编写的。

我已经为每个docker和性能问题分配了512MB的内存大小。我注意到当服务器收到更多的请求（如20%、23%、45%...)时，CPU占用会增加&取决于负载，然后自动下降到正常状态（0.88%）。但是每一个请求的内存使用量都在不断增加，甚至在CPU使用量达到100%时，它也无法释放未使用的内存，docker会自动关闭并重新启动。

我还在EB中启用了自动缩放功能来处理大量的请求。因此,只有在运行实例的CPU使用率达到最大值之后,它才创建了另一个重复的实例。

当内存使用量达到最大限制（即512MB中的500MB)时，如何设置自动缩放来创建另一个实例？

对我们来说，这是一个非常关键的问题，请尽快给我们提供一个解决问题的方法？

Answer 1

CloudWatch不报告内存统计信息。但是Amazon提供了一些脚本（通常称为“CloudWatch Monitoring scripts for Linux”），可以将统计数据输入CloudWatch，这样您就可以使用这些度量标准构建一个缩放策略。

弹性Beanstalk文档提供了一些关于在Linux平台上安装脚本的信息，网址是http://docs.aws.amazon.com/elasticbeanstalk/latest/dg/customize-containers-cw.html。

但是，这将带来另一个警告，即您不能使用本机Docker部署JSON，因为它不会拾取.ebextensions文件夹（请参见在AWS弹性Beanstalk Docker deploy with dockerrun source Bundle中放置ebextensions config的位置？）。这里的解决方案是创建应用程序的zip，其中包括JSON文件和.ebextensions文件夹，并将其用作部署工件。

还有一点我不清楚，那就是在应用程序的Configuration->Scaling部分中是否可以选择这些度量。您可能需要创建另一个.ebextensions配置文件来设置自定义度量，例如：

option_settings:
  aws:elasticbeanstalk:customoption:
    BreachDuration: 3
    LowerBreachScaleIncrement: -1
    MeasureName: MemoryUtilization
    Period: 60
    Statistic: Average
    Threshold: 90
    UpperBreachScaleIncrement: 2

现在，即使这起作用，如果应用程序在缩放和负载下降后不会降低内存使用，那么缩放策略将继续触发并最终到达最大实例。

首先，我想看看您是否可以为JVM获取一些垃圾收集统计信息，并可能优化JVM以更经常地进行垃圾收集，以便在应用程序负载下降后更快地降低内存。