当前位置: 首页 > 知识库问答 >
问题:

向Kafka Connect添加连接器

轩辕涵亮
2023-03-14

我正在使用Confluent Kafka Docker镜像,特别是使用这个: https://github.com/confluentinc/cp-docker-images/tree/4.0.x/examples/cp-all-in-one

我想添加MySQL连接器,通过:

  • 正在下载连接器的1.5.46版本(https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.46.tar.gz)
  • 用从下载的连接器(mysql-connector-java-5.1.46-bin.jar)出来的罐子安装卷
  • CONNECT_PLUGIN_PATH添加到docker撰写文件

基本上,从撰写文件中推断感兴趣的部分,这是重要的片段:

environment:
  <cut>
  CONNECT_PLUGIN_PATH: '/etc/kafka-connect/jars/'
volumes:
  - "./mysql_connector:/etc/kafka-connect/jars/"

JAR 正确存在于 Docker 容器中。

但是,当然,如果我尝试使用连接器,我在启用的连接器列表中找不到。如果我去控制中心,我看到:

[{
    "class": "org.apache.kafka.connect.file.FileStreamSinkConnector",
    "type": "sink",
    "version": "1.0.0-cp1"
}, {
    "class": "org.apache.kafka.connect.file.FileStreamSourceConnector",
    "type": "source",
    "version": "1.0.0-cp1"
}]

共有1个答案

宋飞文
2023-03-14

您的插件路径需要包含实际JDBC Connect JAR文件以及MySQL JAR的路径

如果在此路径下装载MySQL JAR

/usr/share/java/kafka-connect-jdbc

然后设置< code > CONNECT _ PLUGIN _ PATH =/usr/share/Java ,就可以访问所有捆绑的连接器了。JDBC连接器将能够读/写MySQL数据。

 类似资料:
  • 我参考了以下链接来了解Kafka的HDFS连接https://docs.confluent.io/2.0.0/Connect/connect-hdfs/docs/index.html 我能够通过配置单元集成将数据从Kafka导出到HDFS。 现在我正尝试在Java程序的帮助下将avro记录写入Kafka 当我把Avro记录写到Kafka主题时,我在Connect中出现以下错误

  • 我遵循了以下教程。因此,我在服务器初始化中添加了服务器.crt 和服务器.key 然后我尝试向Postman发送请求。为此,我向Postman添加了证书: 但是当我发送请求时,我收到此错误 - SSL错误:无法验证第一个证书。我知道我可以禁用SSL验证,但似乎应该有一个选项可以在不禁用它的情况下执行此操作。你能帮帮我吗

  • 我有一个Debezium连接器,连接到SQL服务器,其中一个表在配置参数中。我想添加另一个表,我已经添加到参数中,尽管我的连接器没有接收到它。 我以前的看起来像这样: 我当前的如下所示: 我重启了Kafka,重启了Debezium中的连接器,但是当我查看bash中的连接器状态时,我仍然看到旧的值。是否需要做其他事情来让连接器刷新配置文件中的内容? Debezium版本:1.2.5。Kafka最终版

  • 我在Netty上运行的项目有以下场景: 我有一个绑定到“w”的服务器通道 我基本上需要一个现有通道的bind('w','z')方法,它将从'z'获取连接并将其包含在我现有的管道中,而不是转到已经绑定在'w'的服务器通道 这在Netty中可能吗? 我能想到的一个(脏)解决方案是单独存储这些绑定请求,然后当我的服务器获得相应的连接时,它只会创建一个“转发”处理程序,将所有内容转发到我的其他通道。Net

  • 我正忙于学习 kafka,特别是使用接收器连接器 (jdbc) 将数据从 kafka 主题发送到 mysql 的下游元素。 我已经用jdbc连接器和mysqljdbc驱动程序从汇合的kafka connect基础映像构建了一个映像,在Dockerfile中如下: 老实说,我在文档中有点迷失了方向,我到了想要包含接收器配置的地步,但我不知道如何包含它或将其复制到何处。我已经创建了接收器配置文件,但不

  • 我试图添加一个连接。 jdbc:oracle:thin:@localhost:1521: xe 因为某种原因它不起作用。错误如下 JAVAsql。SQLException:Listener拒绝了连接,出现以下错误:ORA-12505,TNS:Listener当前不知道连接描述符中给出的SID 原因:甲骨文。网纳什。NetException:侦听器拒绝连接,出现以下错误:ORA-12505,TNS: