当前位置: 首页 > 知识库问答 >
问题:

Kafka未将文件更改发布到主题

皇甫雨华
2023-03-14

阅读:Kafka Connect FileStreamSource忽略附加行

Kafka Connect does not "watch" or "tail" a file. I don't believe it is documented anywhere that it does do that.

看来Kafka现在支持这一观点,他说:

https://docs.confluent.io/5.5.0/connect/management/configuring.html#Standalone-示例

是否声明该文件被监视:

name=my-file-connector
connector.class=FileStreamSource
tasks.max=1
file=/data/users/zamara/suivi_prod/app/data/logs.txt
topic=connect-test

开始独立连接

connect-standalone connect-standalone.properties connect-file-source.properties 

将文件logs.txt的所有内容添加到主题connect-test中,将新行添加到logs.txt中不会将这些行添加到主题中。是否需要配置使Kafka能够监视文件,以便将添加到logs.txt中的新数据添加到主题connect-test中?

共有1个答案

田昊天
2023-03-14

除非您只是为了教育目的而对filestreamsource进行实验,否则您将在这里走入一条死胡同。连接器仅作为示例连接器存在。

要将文件摄取到Kafka中,请使用Kafka Connect Spooldir、Kafka Connect FilePulse,或者查看来自弹性的Filebeat。

 类似资料:
  • 我有一个用例“XML文件==>Kafka主题==>Build REST API to Query”来自Kafka主题的数据。我熟悉将数据转换为Avro格式,并编写到kafka主题。 您能建议如何发布XML吗?

  • 我正在使用Hosted Graphite并试图将部署事件添加到我的grafana仪表板中。我首先尝试使用这里描述的方法。 我也试图联系托管石墨支持,但“支持”链接似乎没有任何地方。

  • 日志中的错误 2020-05-28 15:52:53.597错误112469---[nio-8080-exec-1]O.a.C.C.C.[.[.[/].[dispatcherServlet]:servlet.Service()对于servlet[dispatcherServlet]在路径[]上下文中引发异常[请求处理失败;嵌套异常是java.lang.IllegalStateException:没

  • 我有一个简单的形式,我想转换成一个PHP后端系统。 现在,此表单有一个提交到URL的操作—URL仅在提交了名为的数据以及正确的信息(已编码的xml)时才接受邀请。 作品:-请注意,输入名称被称为和值包含的已经和它完美的工作。 但是,我希望通过在PHP中移动元素来实现以下目标,因为大量信息都是通过这种方式传递的。 请注意:链接是https,但它在本地不起作用,所以我不得不在CURL中禁用它。 我一直

  • 问题内容: 我试图在此处修改@BalusC优秀教程,以发送gzip压缩文件。这是一个有效的java类: 您必须编辑和字段,并在URL中设置一个servlet-其方法是: 现在,当field设置为true时,FILENAME会被正确压缩并发送到服务器,但是当我尝试将其提取时,它已损坏(我在Windows上使用7z,它将打开gzip文件作为存档,但是当我尝试将文件提取到 内部时 , gzip归档文件说

  • 问题内容: 我试图在此处修改@BalusC优秀教程,以发送gzip压缩文件。这是一个有效的java类: 您必须编辑和字段,并在URL中设置一个servlet-其方法是: 现在,当field设置为true时,FILENAME会被正确压缩并发送到服务器,但是当我尝试将其提取时,它已损坏(我在Windows上使用7z,它将打开gzip文件作为存档,但是当我尝试将文件提取到 内部时 , gzip归档文件说