当前位置: 首页 > 知识库问答 >
问题:

创建和debezium源连接器时创建的额外主题是什么

秦阳旭
2023-03-14

Q1)以下是我在为MySQL源创建kafka连接器时使用的配置。

{
  "connector.class": "io.debezium.connector.mysql.MySqlConnector",
  "snapshot.locking.mode": "minimal",
  "database.user": "cdc_user",
  "tasks.max": "3",
  "database.history.kafka.bootstrap.servers": "10.49.115.X:9092,10.48.X.211:9092,10.X.178.121:9092,10.53.4.X:9092",
  "database.history.kafka.topic": "history.cdc.fkw.supply.mp.seller_platform",
  "database.server.name": "cdc.fkw.supply.mp",
  "heartbeat.interval.ms": "5000",
  "database.port": "3306",
  "table.whitelist": "seller_platform.Contacts, seller_platform.EmailVerificationConfigs, seller_platform.financial_account_tag, seller_platform.HolidayConfigs, seller_platform.Preferences, seller_platform.Sellers",
  "database.hostname": "something.cloud.in",
  "database.password": "ABCDE",
  "database.history.kafka.recovery.poll.interval.ms": "5000",
  "name": "cdc.fkw.supply.mp.seller_platform.connector",
  "database.history.skip.unparseable.ddl": "true",
  "errors.tolerance": "all",
  "database.whitelist": "seller_platform",
  "snapshot.mode": "when_needed"
}


curl -s --location --request GET "http://10.24.18.167:80/connectors/cdc.fkw.supply.mp.seller_platform.connector/topics" | jq '.'
{
  "cdc.fkw.supply.mp.seller_platform.connector": {
    "topics": [
      "cdc.fkw.supply.mp.seller_platform.Sellers",
      "cdc.fkw.supply.mp",
      "cdc.fkw.supply.mp.seller_platform.HolidayConfigs",
      "cdc.fkw.supply.mp.seller_platform.EmailVerificationConfigs",
      "cdc.fkw.supply.mp.seller_platform.Contacts",
      "cdc.fkw.supply.mp.seller_platform.Preferences",
      "__debezium-heartbeat.cdc.fkw.supply.mp",
      "cdc.fkw.supply.mp.seller_platform.financial_account_tag"
    ]
  }
}

为什么会创建cdc.fkw.supply.mp和_ _ debezium-heart beat . CDC . fkw . supply . MP主题?

我在这两个主题中看到了一些垃圾数据。

Q2)

有没有Restapi知道工作服务器上的kafka连接转换器配置?如果没有API,那么我们存储所有工作属性的配置文件的路径是什么?

这是worker属性的链接:https://docs.confluent.io/platform/current/connect/references/allconfigs.html

curl -s --location --request GET "http://10.24.18.167:80"         
                                                            
{"version":"6.1.1-ccs","commit":"c209f70c6c2e52ae","kafka_cluster_id":"snBlf-kfTdCYWEO9IIEXTA"}%

共有1个答案

米迪
2023-03-14

A1)

心跳主题存储连接器正在使用的所有kafka主题的详细信息,以便连接器可以向其发送心跳。

创建名为 topic 的 database.server.name 值是为了存储数据库中发生的任何架构更改。

https://debezium . io/documentation/reference/1.7/connectors/MySQL . html # MySQL-schema-change-topic

 类似资料:
  • 我有一个微服务,它使用 OracleDB 在表中发布系统更改。表包含一个,其中包含事件类型的名称。 JDBC Source Kafka Connect可能会接受表更改,并在KAFKA-TOPIC中使用列的值发布它们? 这是我的源代码kafka连接器配置:

  • 我正在使用Debezium作为CDC工具从MySql流式传输数据。在将Debezium MySQL连接器安装到ConFluent OSS集群后,我试图捕获MySQLbin_log变化为Kafka主题。当我创建连接器时,在获取数据库的快照后,我会留下一系列连续的错误。 我检查了MySql bin_日志是否打开,并尝试用不同的序列化程序重新启动模式注册表和连接器。但我也犯了同样的错误。 错误日志显示:

  • Atom的界面使用HTML渲染,并且通过Less来定义样式,它是CSS的超集。不要担心之前从未听说过Less,它类似于CSS,但是带有一些便捷的扩展。 Atom支持两种主题:UI和语法。UI主题为树视图、选择夹、下拉列表和状态栏之类的元素定义样式。语法主题为编辑器中的代码定义样式。 主题可以从设置视图安装和修改,你可以选择Atom > Preferences…菜单,然后在左侧的侧栏中选择“Inst

  • 我正在尝试让Debezium的SQLServerConnector在Kafka Connect中工作,除了没有创建主题外,所有的东西似乎都运行得很好。我是不是漏掉了什么? 它将使用正确的配置启动任务... 获取快照设置...... 并且连接器任务正在运行... 用户名和密码在SQL Server上有一个SPID,并运行CDC查询以获取更改,但在Kafka主题中没有显示任何内容。 我有什么不明白的?

  • 无法使用Ksqldb创建Kafka->Cassandra接收器连接器: 创建接收器连接器cassandra(“CONNECTOR.class”=“io.confluent.connect.cassandra.CassandrasinkConnector”,“tasks.max”=“1”,“topics”=“tst”,“cassandra.contact.points”=“cassandra”,“c

  • 我写了一个简单的控制台应用程序,它使用JPA连接到MySQL数据库。数据的实际读写工作正常,但日志记录似乎被搞砸了。我创建的每个EntityManager实例似乎都将自己的log4j appender添加到控制台。因此,由于我的应用程序中有三个实体管理器实例,除了我想要的“真实”控制台输出行之外,我的控制台输出中还有三行额外的行。这里有一个例子。第一行来自我的“真正的”附件,另外三行似乎来自实体管