当前位置: 首页 > 面试题库 >

有效地获取Elasticsearch索引中的所有文档

宇文元明
2023-03-14
问题内容

我想从Elasticsearch集群中的完全匹配查询中获取所有结果。我不在乎结果是否是最新的,我不在乎订单,我只想稳定地浏览所有结果,然后从头开始。滚动和扫描最适合此操作,似乎不需要我拍摄快照就很受欢迎。我将要处理数以千万计的文档。


问题答案:

某种程度上与Elasticsearch查询重复,以返回所有记录。但是我们可以添加更多细节来解决开销问题。(即,“拍摄不需要的快照似乎有点受欢迎。”)

一个滚动扫描搜索,绝对是你在这种情况下,想要的东西。这里的“快照”并不是很多开销。该文档将其隐喻地描述为“ 时间快照
一样 ”(添加了重点)。实际的实现细节有些微妙,也很聪明。

稍后在文档中会提供更详细的说明:

通常,后台合并过程通过将较小的段合并在一起以创建新的较大的段来优化索引,然后删除较小的段。在滚动过程中,此过程将继续进行,但是打开的搜索上下文可防止旧段在使用中时被删除。通过这种方式,Elasticsearch可以返回初始搜索请求的结果,而不管对文档的后续更改如何。

因此,保留上下文便宜的原因是因为Lucene索引段的行为。Lucene索引分为多个段,每个段就像一个独立的迷你索引。随着文档的添加(和更新),Lucene会简单地将新段添加到索引。段是一次写入的:创建段之后,就不会再对其进行更新。

随着时间的流逝,随着细分市场的积累,Lucene将在后台定期进行一些内务处理。它扫描这些段并合并这些段以刷新已删除和过时的信息,最终合并为一小组较小的较新且最新的段。随着新的合并段替换旧的段,Lucene将删除所有不再被索引有效使用的段。

这种分段索引设计是Lucene比简单的B树更具性能和弹性的原因之一。从长远来看,连续添加段比直接在磁盘上更新文件的累积IO便宜。再加上一次写入设计具有其他有用的特性。

Elasticsearch在这里使用的类似于快照的行为是在滚动搜索开始时维护对所有活动段的引用。因此开销是最小的:一些文件的引用。另外,随着索引的不断更新,这些文件在磁盘上的大小可能也会增加。

如果 磁盘空间是服务器上的严重问题, 那么可能
是一笔昂贵的开销。可以想象的是,在滚动搜索上下文处于活动状态时,索引被足够快地更新可能是索引所需磁盘大小的两倍。为此,确保您有足够的容量以使索引可能增长到其预期大小的2-3倍是有帮助的。
__



 类似资料:
  • 问题内容: 如何获得Python中索引名称的列表?这是我到目前为止的内容: 问题答案: 搜索有关使用库进行检索的信息时,会出现此问题。接受的答案说可以使用,但该方法已删除(截至2017年)。要获取,您可以使用以下代码:

  • 让我们想象一下Elasticsearch索引,其中每个文档代表一个国家。Country具有城市字段,该字段定义为嵌套的。 示例映射(为了本示例的简洁性而简化): 我插入到索引中的文档如下所示: 是否可以组成一个返回所有城市(所有国家)并支持排序的查询 第一个返回页面(回复)将包含捷克共和国的10个城市,第二个页面将包含10个城市,其中四个(最后一个)来自捷克共和国,六个来自斯洛伐克。 我正在研究复

  • 如何获取搜索查询匹配的文档中的所有字段?关于<code>字段</code>的ES文档指出,使用<code>*</code>,可以获得所有字段:http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/search-request-fields.html 有了这个文档和这个查询,我得到了结果,但没有返回任何字段: 放置

  • 问题内容: 假设我有: 每个产品都有属性。每个属性都有ID和一个值。我可以按属性筛选产品,但现在我要从MongoDB创建“可能的属性”列表。我想找到一种单独从ElasticSearch生成这样的列表的方法(也许只是向MongoDB查询其他数据)。 我需要的是: 这样的聚合看起来如何?获取所有可用属性(按分组)及其所有可能值(在所有产品中)? 问题答案: 您无法在一个查询中做到这一点,但在两个查询中

  • 问题内容: 从ElasticSearch获取某个索引的所有_id的最快方法是什么?使用简单的查询是否可能?我的索引之一包含大约20,000个文档。 问题答案: 编辑:请也阅读@Aleck Landgraf的答案 您只想要elasticsearch-internal 字段吗?还是文档中的字段? 对于前者,请尝试 Note 2017更新: 该帖子最初包含在内,但此后名称已更改,并且是新值。 结果将仅包

  • 问题内容: 我有集群,我想知道其中的所有索引和类型的名称。我用Sense。 问题答案: 将为您提供所有索引。 将为您提供这些索引中的文档类型及其映射。