当前位置: 首页 > 知识库问答 >
问题:

使用apache beam python sdk使用PubSub读取和写入transoforms的示例

汲昊空
2023-03-14

我看到这里的例子https://cloud.google.com/dataflow/model/pubsub-io#reading-with-pubsubioJava,但是当我看这里https://github.com/apache/beam/blob/master/sdks/python/apache_beam/io/gcp/pubsub.py它说:

def reader(self):
    raise NotImplementedError(
        'PubSubSource is not supported in local execution.')

那是什么意思?云数据流Python SDK PubSub Source/Sink还没有完全准备好?

共有3个答案

宰父保臣
2023-03-14

对于2019年访问此问题的任何人,我可以确认,只要提供适当的谷歌云认证,PubSub确实与DirectRunner合作。

壤驷泓
2023-03-14

它似乎还没有准备好,因为我可以用JavaSDK和pubsub模拟器在本地运行它,但正如您所遇到的,不是用Python SDK。

邹嘉致
2023-03-14

这意味着在本地(在您的机器上,即不在云中)执行管道时,目前不支持从PubSub读取。本地执行主要用于测试。

使用数据流运行程序运行时,支持PubSub。

 类似资料:
  • 问题内容: 如何使用框架有效地从大文件读取并将大数据写入文件。 我工作,并和曾尝试类似如下: 谁能告诉我,如果我的文件大小超过2 GB,我应该遵循相同的步骤吗? 如果大量的书面操作,我想在写作时做类似的事情,该怎么办? 问题答案: 请注意,您可以像示例代码那样简单地用于复制文件,只是速度更快,而且仅一行代码。 否则,如果您已经打开了两个文件通道,则可以使用 将该通道的全部内容传输到该通道。请注意,

  • 本文向大家介绍R使用NA值读取和写入数据,包括了R使用NA值读取和写入数据的使用技巧和注意事项,需要的朋友参考一下 示例 使用read.*函数读取表格数据集时,R自动查找看起来像的缺失值"NA"。但是,缺失值并不总是由表示NA。有时,点(.),连字符(-)或字符值(例如:)empty表示值是NA。该函数的na.strings参数read.*可用于告诉R需要将哪些符号/字符视为NA值: 还可能表明需

  • 下面是以下代码,它使用BufferedImage读取RGB值,然后简单地将它们再次写回文件。生成的图像是完美的,看起来很好。不用担心。 我运行了一个打印测试,打印出前10个RBG int值。这是为了测试“test.png”文件,然后测试结果图像——“new-test . png”。出于某种原因,我得到了不同的RBG值之间的两个文件。 例如(前3个RGB int值) test.png:-167042

  • 我正在尝试使用shell和java的组合来读取和写入串行端口。目标是能够使用PrintWriter和BufferedReader从连接到串行端口的设备发送和接收命令。我知道这可以用不同的方式来实现(不使用shell),但这不是我想要的。我希望能够使用shell和java实现这一点。 这是我的代码: 有了这段代码,我特别尝试从串行端口读取数据。我使用java运行shell命令来访问串行端口,然后读取

  • 我目前正在使用Spring集成实现一些导入/导出机制,总的来说进展很顺利,但在功能方面似乎存在差距,我不了解: 有Spring集成文件轮询目录,写入文件,...我可以用它来轮询一个目录,并获得一个

  • 我正在写一个程序,它需要从excel文件中读取和写入数据,而不考虑格式(xls或xlsx)。 我知道ApachePOI,但它似乎有不同的类来处理xls文件(HSSF)和xlsx(XSSF)文件。 任何人都知道我将如何实现我在这里的目标。(也欢迎使用POI以外的API的想法)。