当前位置: 首页 > 知识库问答 >
问题:

Debezium connector for MySQL-用于初始快照和正在进行的CDC的不同表集

羊舌自强
2023-03-14

我正在使用Debezium connector for MySQL和Kakfa。因此,我的模式更改和数据更改进入Kafka主题。

我想看看下面的行为是否可以在没有人工干预的情况下实现。

我希望只有一个表作为快照的一部分。模式=初始快照。然后,我希望多个表被监控,以进行CDC。

https://debezium.io/documentation/reference/stable/connectors/mysql.html似乎为snapshot和cdc表列出了单独的选项,因此我假设在我的连接器配置中可以执行以下操作:

...
 "table.include.list": "api.table1, api.table2",
 "snapshot.include.collection.list": "api.table1",
...

表1的快照完成,然后表1的CDC更改被拾取。My kakfaschema changes主题还显示了表1的模式。

然而,当我更改表2中的数据时,我得到了Kafka连接器错误:

原因:io.debezium.DebeziumExctive:遇到表api.table2的更改事件,其模式对此连接器未知

是否支持此行为,或者是否需要在步骤中手动执行此操作?

谢谢你的建议。

共有1个答案

夹谷沛
2023-03-14

我还发布了debezium@googlegroups.com列表,并被亲切地告知这是一个已知的问题。从那时到现在,一个修复程序已经发布。非常感谢debezium团队!:)

https://issues.redhat.com/browse/DBZ-3952

 类似资料:
  • 我正在使用MongoDB atlas和一个分片副本集集群,以及文档中描述的Debezium MongoDB连接器。 这是我当前配置的样子(运行独立设置): 我可以在Kafka主题中接收CDC事件,但文档中描述的初始快照从未制作过。我尝试了另一种导致创建和使用完全不同的主题集,但结果相同。 MongoDB oplog有大约200万行,kafka主题总共几乎没有几千条消息。 进一步挖掘时,连接器似乎记

  • 我们有一个始终在线的SQL Server实例。我想用Debezium在一些表上跟踪CDC事件。按照debezium网站上的官方教程,我注册了一个具有以下属性的连接器: 这里的问题是,debezium成功地将表快照到相关的Kafka主题,但在快照之后不跟踪cdc事件。有人知道吗?

  • 我有几个关于备份/恢复Cassandra集群的最佳方法的问题。 背景:我有一个在EC2中运行的集群。它的节点配置如下: 实例类型:m3.medium存储:50 GB根卷/100 GB另一个卷 在阅读了大量的文件和搜索了一些网站后,我明白了带有Cassandra(nodetool)快照的EBS快照看起来很有前途。 问题:EBS 还拍摄增量快照,Nodetools 也拍摄快照,那么这两个工具有何不同或

  • 当我尝试安装 patroni 时,我可以使用 md5 初始化数据库,所有的集群都运行良好。. 但当我试图用初始化紧急停堆sha 256安装patroni时,它没有启动,状态也保持不变 群集中所有数据库实例的“副本”。同样在patroni日志上,我可以看到这个错误“”postgres“没有有效的SCRAM验证器”。解决方案是什么? 信息:password_encryption是scram-sha 2

  • 首次启动后,Debezium将对已经存在的数据进行初始数据快照。 假设我有两个表-和。表B对具有FK约束。根据Debezium的默认方法--Debezium将为表和中的数据创建两个单独的Kafka主题。 根据我的理解,我很有可能尝试在新表中创建记录,而适当的记录将不存在于适当的新表中。这样我就会遇到约束冲突错误。 例如-我是否可以使用Debezium主题路由https://Debezium.io/

  • 根据Debezium SQL Server连接器文档,初始快照仅在连接器首次运行时激发。然而,如果我删除连接器并创建一个新的但具有相同的名称,初始快照也不能工作。这是故意的还是已知的问题?有什么需要帮忙的吗