基于JVM堆内存的Kubernetes HPA

Question

我在Kubernetes集群上运行了一个openjdk:8映像。我添加了内存HPA（水平Pod自动缩放），它可以很好地扩展，但由于JVM不会将内存从堆释放回操作系统，所以Pod不会缩小。以下是hpa。亚马尔

apiVersion: autoscaling/v2beta2
kind: HorizontalPodAutoscaler
metadata:
  name: image-server
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: image-server
  minReplicas: 2
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 60
  - type: Resource
    resource:
      name: memory
      target:
        type: Utilization
        averageUtilization: 60

解决这个问题的一种方法是使用正确的GC并使其释放内存，但由于JVM被设计为不经常从堆中释放内存，因此这样做不是一个好主意。库伯内特斯有没有办法解决这个问题？就像不检查操作系统的内存使用情况一样，我们能不能只检查堆和扩展的内存使用情况？

Answer 1

在库伯内特斯中扩展Java应用程序有点棘手。HPA只关注系统内存，正如所指出的，JVM通常不会释放提交的堆空间（至少不会立即释放）。

有两种主要的方法可以解决这个问题

根据使用的JVM和GC，调优选项可能略有不同，但最重要的是

• MaxHeapFreeRatio-允许未使用多少提交的堆
• GCTimeRatio-允许GC运行的频率（影响性能）
• AdaptiveSizePoleyWeight-计算新堆时如何权衡旧GC运行与新GC运行

给出这些值并不容易，这是快速释放内存和应用程序性能之间的折衷。最佳设置取决于应用程序的负载特性。

Patrick Dillon撰写了一篇由RedHat发布的文章，名为Scaling Java containers，深入探讨了这一主题。

不使用HPA，您可以创建自己的缩放逻辑，并将其作为定期运行的作业部署到Kubernetes中，以执行以下操作：

1. 检查所有pod中的堆使用情况（例如，在pod中运行jstat）
2. 如果达到最大阈值，则扩展新POD
3. 如果达到最小阈值，则以pods为单位进行缩放

这种方法的优点是查看实际堆的使用情况，但需要一个自定义组件。

powercloudup在Kubernetes中的文章《基于CPU/内存的自动缩放-第二部分》中可以找到一个例子