当前位置: 首页 > 知识库问答 >
问题:

弹性搜索盘空间计算

羊舌迪
2023-03-14

如何计算弹性搜索服务器磁盘空间,每天4TB日志需要多少节点。

  • 需要多少磁盘空间存储在弹性搜索索引中?
  • 如何计算节点数?
  • 索引是否压缩?
  • 在LogStash的行格式中存储10G日志需要多少磁盘空间?
  • 索引是否压缩?

如果节点配置为使用5个碎片,则以下是真还是假,以及为什么

存储10G日志需要50G磁盘空间来存储5个分片节点吗?

共有1个答案

赫连晋
2023-03-14

许多需要长时间回答的问题。简而言之:

  1. 空间:视情况而定。你有二进制数据吗?还是未压缩的文本?你想要多少复制品--也许是0?如果原始文本和0副本:您需要的空间很可能小于原始数据大小。
  2. 对于您的场景,可能一个节点就足够了。或者你有1000次点击?那么您可能需要更多的节点。(几乎线性可缩放=>如有需要可添加节点)。
  3. 是,默认值设置为“自ES版本0.90后压缩”
  4. 通常情况下,您还希望将数据存储到磁盘中,而不是仅存储在内存中(尽管这是可能的)=>请参阅1。
  5. 请参阅3。

不是space=nodes*rawdata。这更像是space=compress(rawData)*replicas

成功的关键是自己去试验,找出适合你需要的东西(这些东西在不同的场景中都是不同的)。

请参阅以下答案以获得更好的理解:

Elasticsearch中的碎片和副本

弹性搜索-每个节点的最优碎片数

 类似资料:
  • ElasticSearch索引会随机变空,但大多数情况下,它发生在部署用Rails构建的应用程序之后。 以下是有关ElastiSearch的一些信息: curl-xget“http://localhost:9200/_nodes?pretty” curl-xget“http://localhost:9200/_cluster/health?pretty” curl“localhost:9200/_

  • 我使用Elasticsearch允许用户输入要搜索的术语。例如,我要搜索以下属性'name': 如果使用以下代码搜索或,我希望返回此文档。 我尝试过做一个bool must和做多个术语,但它似乎只有在整个字符串都匹配的情况下才起作用。 所以我真正想做的是,这个词是否以任何顺序包含两个词。 有人能帮我走上正轨吗?我已经在这上面砸了一段时间了。

  • 当我执行ps-aef grep elasticsearch HeapDumpOnOutOfMemoryError时看到了这一点 501 373 47 1 0 2:29pm ttys004 0:04.14/usr/bin/Java-xms4g-xmx4g-xss256k-djava.awt.headless=true-xx:+useparnewgc-xx:+useparnewgc-xx:+usepa

  • 我从ElasticSearch得到以下错误。 我在Ubuntu上运行Elasticsearch 1.7.2。 我做错了什么?

  • 我有以下格式的弹性搜索文档 } } 我的要求是,当我搜索特定字符串(string.string)时,我只想获得该字符串的FileOffSet(string.FileOffSet)。我该怎么做? 谢谢

  • 目前有几个Java服务我们想在上面添加监视/警报。 所以我们从JVM收集一些关于内存使用的信息,然后我们注意到ElasticSearch有一个叫做Memmory Pressure的“度量”,这听起来也很不错,可以用来计算那些Java服务。 问题是我一辈子都找不到它,我试着从他们的github repo中搜索代码中的内存/压力。 在搜索关于内存压力如何工作的公式或解释时,总是找到基本相同的两篇理解内