当前位置: 首页 > 面试题库 >

如何将mysql数据实时迁移到ElasticSearch

蓬高谊
2023-03-14
问题内容

我有一个带有几个表的mysql数据库,我想将mysql数据迁移到ElasticSearch。通过批处理作业很容易将整个数据库迁移到ES。但是我应该如何从MySQL实时更新ES。即,如果在mysql中有更新操作,那么我应该在ES中执行相同的操作。我研究了mysql
binLog,它可以反映mysql的任何更改。但是我必须将binLog解析为ES语法,我认为这确实很痛苦。谢谢!(与Solr相同)


问题答案:

有一个现有项目将您的binlog转换为并发送到Elasticsearch,您可以在以下位置进行检查:https : //github.com/siddontang/go-mysql-
elasticsearch

另一个就是这个:https :
//github.com/noplay/python-mysql-
replication。

但是请注意,无论选择哪种方法,在索引Binlog之前先创建索引和映射都是一个好习惯。这使您可以更好地控制数据。

更新:

这是关于该主题的另一篇有趣的博客文章:如何使用Logstash使Elasticsearch与关系数据库保持同步



 类似资料:
  • 问题内容: 我有一个现有的PHP / MySQL应用程序,我正尝试将其迁移到AngularJS / Firebase,以作为学习这些较新技术的一种方式。 该应用程序在MySQL中具有自己的表架构。一个这样的表如下所示: 我的问题是:如何将这个表结构及其中的数据从MySQL迁移到Firebase? 我尝试通过查询将数据导出到JSON字符串中,例如: 这给出了有效的JSON字符串,例如: 我将其保存在

  • 我正在寻找最好的方法来迁移我的应用程序数据库,它使用firebase实时数据库到新的云Firestore数据库。对于我正在进行的项目,我确信我不需要做任何数据模式的更改,所以我几乎只是尝试1-1映射它。Firebase在他们的网站上建议只编写一个脚本来实现这一点,但我不确定最好的方法。有没有人已经做了一个脚本来完成这件事?

  • 问题内容: 关闭。 这个问题是题外话。它当前不接受答案。 想改善这个问题吗? 更新问题,使其成为Stack Overflow 的主题。 7年前关闭。 我有一个包含大量数据的 SQL Server 数据库和一个空的 MySQL 数据库。现在,我想将SQL Server数据库的所有数据(包括数据库架构)复制到MySQL数据库。 我曾考虑过使用原始SQL转储,但是SQL Server的SQL语法与MyS

  • 我正在将Firebase实时数据库迁移到Firestore,并且我有嵌套数据 我有嵌套数据,我想从中创建一个集合。 示例: 我想从FiRecovery中的嵌套数组创建一个子集合。因此我尝试了以下方法(Cloud Function): 但我得到了错误: 您有没有想过以最好的方式迁移嵌套的子数据? 雷诺更新

  • 我目前正在做一个项目,是时候让我同时托管应用程序和我的图形数据库了。我选择了heroku,并且能够部署我的应用程序,添加一个附加组件(GrpaheneDB)。现在我想迁移联机数据库上的本地数据集。我已经找了两天了。

  • 问题内容: 将Solr核心迁移到elasticsearch索引的最佳方法是什么? 不推荐使用solr-river-plugin(https://github.com/javanna/elasticsearch-river- solr )。 问题答案: OpenSource Connections中有一个不错的,由爱心人士精心制作的自定义Python工具,您可以用来执行以下操作: https://g