弹性搜索增加堆大小

Question

我们在 Amazon ECS 上的 docker 容器中运行 Elasticsearch。我们注意到堆随着时间的推移略有增加。我们第一次注意到它是当它提高到70%以上并开始丢弃请求（index.breaker.total.limit）时。

问题是我从来没有见过减少的堆，感觉很腥！

到目前为止，我们已经增加了实例大小，现在运行具有 30G 内存的实例。堆设置为大约一半的内存，ES_HEAP_SIZE=14g （Xmx=Xms=14g）。

还有其他人有类似的经历？它是 Elasticsearch 中的一个错误吗？还是只是配置不正确？

弹性搜索版本：1.5.1

> curl localhost:9200/_cat/fielddata?v

id                     host         ip         node            total position deal_status heading.sortorder org_relationlastmodified deal_value deal_probability 1_ZipCodeVisit_0   tag employer_tag 1_CityVisit_0 dateofregistration temperature uniqueId _type quick_ratio org_relation employer_relationlastmodified turnover turnover_per_employee deal_source employer_relation deal_statusdate 1_custom_1466 average_salary_per_employee deal_orderdate 0_NumberOfEmployeesRange_20 1_LegalForm_0 1_custom_1816 0_WorksiteType_100 0_LineOfBusiness_2 equity_ratio profitmargin 0_LineOfBusiness_1 0_CountyVisit_40 0_NumberOfEmployeesRange_22 0_MunicipalityVisit_61 0_LegalForm_110 dividends 1_custom_1744 0_MunicipalityVisit_60 responsiblecoworker result_before_tax
XMTlkdnsToKvMHqgApMBAg 5dc819096905 172.17.0.2 Hitman        729.8mb    8.1mb       1.1mb           261.5mb                    1.7mb    305.3kb          849.1kb           20.9mb 6.4mb        1.3mb        19.3mb             12.3mb          0b  283.7mb 9.6mb       5.1mb      810.5kb                       632.2kb   11.6mb                 4.1mb     150.8kb           566.4kb         568.6kb        34.1kb                       4.2mb        973.5kb                       5.7mb         4.6mb        37.4kb              4.9mb              8.1mb        4.7mb        4.2mb              9.2mb            3.3mb                       4.2mb                802.9kb           3.9mb     4.3mb        37.7kb                  7.5mb               2.4mb               5mb
dHAoWkHMQKSnwAB0KrJRJw 8ffc068518f9 172.17.0.2 Moira Brandon 718.9mb    8.2mb       1.1mb           261.5mb                    1.3mb      124kb          793.3kb           19.6mb 6.4mb          1mb        19.1mb             10.2mb          0b  283.8mb 9.6mb       5.2mb      714.7kb                       791.3kb    8.8mb                 3.4mb          0b           422.6kb          83.9kb        16.8kb                       4.6mb        989.4kb                       5.6mb         4.5mb            0b              5.2mb              7.9mb        4.1mb        4.3mb                9mb            3.2mb                       4.3mb                     0b           3.8mb     4.3mb            0b                  7.1mb               2.5mb             4.4mb

[更新 2016-10-24]我们已经更新到2.4.0版，但我们仍然遇到同样的问题。如果我强制使用 GC，堆将释放到大约 4%，这与新实例的值相同。

对于具有 73% 堆的实例，jvm mem 显示旧的大约是 10G，不确定这是否正常

jvm mem heap percent 73%
"young":    "used_in_bytes" : 199026920
"survivor": "used_in_bytes" : 2422528
"old":      "used_in_bytes" : 10754631392

是什么触发了 GC？我们应该让堆增加到 70% 以上吗？

Answer 1

这可能与 2.X 之前版本中的这种已知行为有关，主要影响 Kibana，但我想也影响 elasticsearch。

请参阅此 github 问题 ： https://github.com/elastic/kibana/issues/5170

在您的情况下可能相同，基本上归结为此节点问题：https://github.com/nodejs/node/issues/2683

也可能是 ES 中的配置不理想。在 elasticsearch config 中寻找这个常见的嫌疑人：

bootstrap.mlockall: true

你有很多分片/副本吗？你也使用木花吗？