当前位置: 首页 > 面试题库 >

使用elasticsearch-river-mysql将数据从MySQL数据库流式传输到Elasticsearch

文嘉禧
2023-03-14
问题内容

我想使用elasticsearch-river-mysql以便将数据从MySQL数据库连续传输到ElasticSearch。我是ES和Rivers的初学者,所以希望您能为我的问题提供帮助。

  1. 据我所知,数据将从MySQL数据库流式传输到ES集群,后者将自动对其进行索引。那是对的吗?我需要了解任何超时或限制吗?
  2. 关系数据库表之间的外键关系将如何转换为ES?包含外键的表行是否将成为ES文档的内部对象,或者将使用ES文档之间的其他关系?
  3. 将河流用于上述目的有什么不利条件吗?
  4. 实施此计划将给ES带来什么负担?我认为ES足够强大,但是我仍然想知道。在这种情况下,在ES群集上进行的搜索是否会受到影响?

问题答案:

我的建议已经出于多种原因尝试使用elasticsearch-jdbc-
river

其中之一是,elasticsearch-jbdc-river如果您决定切换 RDBMS ,则它更为通用。

另一个是,jbdc-river当另一个已经不存在时,它仍然保持不变,并且Elasticsearch从那以后发展了很多。

1.据我所知,数据将从MySQL数据库流式传输到ES群集,后者将自动对其进行索引。 那是对的吗?我需要了解任何超时或限制吗?

来自MySQL的数据应从MySQL自动流传输到Elasticsearch集群,而没有超时限制,但瓶颈将是您的JVM堆大小。我不确定要处理多少数据量。您需要对其进行测试。

2.关系数据库表之间的外键关系将如何转换为ES? 包含外键的表行是否将成为ES文档的内部对象,或者将使用ES文档之间的其他关系?

Elasticsearch是无模式的,因此您需要管理内部Elasticsearch。河流只是将数据流传输到您的集群中。您可以在创建索引时定义映射,然后使用河流将其流式传输到ES群集中​​。

3.将河流用于上述目的是否有任何不利条件?

这条河将被另一种更清洁的方式来流式传输这些数据取代,但这是您目前拥有的最佳解决方案。



 类似资料:
  • 我第一次尝试Kafka,并使用AWS MSK设置Kafka群集。目标是将数据从MySQL服务器流式传输到Postgresql。我使用debezium MySQL连接器作为源,使用Confluent JDBC连接器作为接收器。 MySQL配置: 注册Mysql连接器后,其状态为“正在运行”,并捕获MySQL表中所做的更改,并以以下格式在消费者控制台中显示结果: 我的第一个问题:在表中“金额”列是“十

  • 问题内容: 我有这个小点击计数器。我想将每次单击都包含在mysql表中。有人可以帮忙吗? 万一有人想看看我做了什么: 这是phpfile.php,出于测试目的,将数据写入txt文件 问题答案: 您的问题中定义的JavaScript不能直接与MySql一起使用。这是因为它不在同一台计算机上运行。 JavaScript在客户端(在浏览器中)运行,并且数据库通常在服务器端存在。您可能需要使用中间服务器端

  • 日安!我正在尝试搜索一个从Android上传一个图像文件到一个在线MySQL数据库的基本教程,但是我找不到任何。 我现在正在做一个activity,可以把用户的个人资料图片从Android上传到在线服务器上。 我需要的是像显示一个按钮,当它被点击时,用户可以从文件中选择一个图像。有人能指导我做这件事吗?提前道谢!

  • 我的本地机器中有一个MySQL数据库(在XAMPP中),我使用phpMyAdmin访问该数据库。我也有一个网站托管在GoDaddy上。我通常保持脱机状态,并对数据库中存储的数据进行更改。 我想知道如何能够自动复制本地数据库中的更改到GoDaddy的服务器中的更改,或者可以使用单击按钮进行复制。 我看到了一些关于复制的答案,但我无法将数据从本地机器复制到GoDaddy的服务器。 提前谢谢!

  • 创建根据数据量动态增长的HTML表 使用Python将MySQL数据库中的数据输入到表中 我想要一个不使用PHP的解决方案 我对MySQL、HTML和Python非常陌生,因此非常感谢任何帮助。提前谢谢!

  • 我整晚都在做这个,快把我逼疯了。它应该很简单,但它不起作用。这适用于Oracle,但不适用于MySQL,我创建了类似的数据库。使用-f选项提供给logstash的配置。 } 输出{stdout{codec= } 一旦我运行了logstash,它就不会将数据加载到弹性搜索索引中。当我执行以下操作时,我甚至看不到名为visitDb的索引。 curl'localhost:9200/_cat/索引?v'