当前位置: 首页 > 知识库问答 >
问题:

Kafka Connect Debezium MySQL连接器时间戳问题

通沛
2023-03-14

我正在使用部署在Kafka Connect中的Debezium MySQL连接器,将MySQL更改流式传输到Kafka主题,并从中获取这些消息,从而丰富数据并将数据推送到另一个MySQL。

源和接收器都是MySQL。

我的源表中有几个列,列数据类型为TIMESTAMP。

创建时间:2021-10-06 09:32:46

我可以在Kafka的信息中看到上述数据,如下所示

“创建时间”:“2021-10-06T09:32:46Z”

在将消息加载到目标数据库(MySQL)时,上面字符串中的T和Z存在问题,其中的数据类型也是时间戳。

我需要在Kafka留言中创建时间为“创建时间”:“2021-10-06 09:32:46”,不带TZ

错误日志:

  • 行导入失败,错误:("第1行的列CREATE_TIME的日期时间值不正确:'2021-10-06T09:32:46Z',1292)

我知道Debezium正在将时间戳列数据转换为ZonedDateTime,这可能会添加时区信息。(https://debezium.io/documentation/reference/1.7/connectors/mysql.html#mysql-temporal-types)

我试过了。阿帕奇。Kafka。连接转变。Debezium连接器配置中的时间转换器,但这没有帮助。

目前我正在使用org.apache.kafka.connect.json.JsonConver在Kafka连接配置。

需要注意的是:我批量处理从Kafka收到的多条消息,构造一个csv文件,并通过使用加载数据将csv内容推送到目标数据库。

共有1个答案

高正初
2023-03-14

你尝试使用“org”。阿帕奇。Kafka。连接转变。“时间转换器”的方向似乎正确,但用法不正确。时间戳转换对象“在接收器连接器中”必须包含其“类型”、“字段”、“格式”和“目标”。为每个目标列键入“非常非常正确”。在我的官方系列项目中,我对这个功能非常满意。;-)

 类似资料:
  • 问题内容: 我可以看到例如在这里进行了几次讨论,但是我认为由于Elasticsearch中的重大更改,解决方案已过时。 我正在尝试将我在Kafka主题中的Json中的long / epoch字段转换为通过连接器推送的Elasticsearch日期类型。 当我尝试添加动态映射时,我的Kafka连接更新失败,因为我试图将两个映射应用于字段_doc和kafkaconnect。我认为这是关于版本6的重大更

  • 它给出了准备好的SQL语句字符串: 无论我指定的时区如何,返回的时间戳都是相同的时间戳。它忽略了我指定的带有时区的Calendar对象。这是怎么回事,我做错了什么?

  • 我需要将两个数据集与CLOSE时间戳连接起来。第一个数据集是来自移动应用程序的日记数据集: 在这里: 第二个数据集是来自加速度计日志的数据集,显示移动(=INVH)或空闲(=NIVH): 在这里: 我需要根据时间戳字段之间的时间差连接两个数据帧。例如,在df1上留下join,以查看应用程序日志数据如何与实际加速度计日志一致。简单的左连接在这里不起作用,因为在大多数情况下有一个滞后时间。所以我的问题

  • 我是新来的sql,并试图使用它来加快空间分析的~120万旅行从一个csv,包含lat和lon的拾取和下降点。我想用简单的英语说: 将从感兴趣区域开始的所有行程(作为shapefile加载到我的数据库中)选择到一个表中 我正在使用的代码如下(如果有帮助,NTA或邻域制表区域,是我想在此操作结束时显示在我的表中的邻域名称): 但是,我从一开始就遇到了问题-ST_交叉点不会返回感兴趣区域内的任何点! 到

  • 我知道这是一个非常常见的问题,但我觉得我找到的答案并没有真正解决问题。我将概述我的具体用例,并对来自其他SO答案和网络的信息进行总结。 对于我正在编写的服务,数据库条目被创建并存储在移动设备和我们的网站上,需要以两种方式同步。我们目前的目标是Android和iOS,它们都使用sqlite作为关系数据库。服务器端是使用Django和MySQL在Python中实现的,但将来可能会有其他解决方案取代它。

  • 我有一个Flink程序,它接受两个流,即数据/传感器读数流和警报规则流。我正在广播规则流,并将其连接到数据流以生成动态警报。ProcessingTime的一切都很好,但EventTime却不行。我已经分配了时间戳 > 当两个流(即带有时间戳的流)同时出现时,如何使用“EventTime”生成警报 我是否也必须为我的规则流分配时间戳和水印? 因为我的规则流只有在有任何添加/修改时才会有记录。是否有任