当前位置: 首页 > 知识库问答 >
问题:

在Dataflow SQL中解析属性

西门洛城
2023-03-14

给定一个pub/sub主题,BigQuery允许使用Dataflow SQL语法将数据流到表中。

event_timestamp: TIMESTAMP
a: INT64
b: INT64
c: INT64
gcloud dataflow sql query 'SELECT * FROM pubsub.topic.my_project.my_topic' \
  --job-name my_job --region europe-west1 --bigquery-write-disposition write-append \
  --bigquery-project my_project --bigquery-dataset staging --bigquery-table my_topic

gcloud pubsub topics publish my_topic --message='{"a": 1, "b": 2, "c": 3}'
​
bq query --nouse_legacy_sql \
  'SELECT * FROM my_project.staging.my_topic ORDER BY event_timestamp DESC LIMIT 10'

+---------------------+-----+-----+-----+
|   event_timestamp   |  a  |  b  |  c  |
+---------------------+-----+-----+-----+
| 2020-10-28 14:21:40 |  1  |  2  |  3  |

在步骤2中,我还希望将--attribute=“origin=gcloud,username=gcp”发送到pub/sub主题。是否可以在第1步定义模式,以便它自动写入表?

我一直在尝试不同的事情:

  • attributes:struct,遵循本Beam extensions文档,但我得到的只是数据流中的JSON解析错误
  • gcloud pubsubtopics发布my_topic--message='{“a”:1,“b”:2}'--attribute='c=3'希望消息像这段代码一样被扁平化,但在结果表中C得到一个null值。

共有1个答案

谯嘉懿
2023-03-14

pub/sub属性是map类型,但这不是Dataflow SQL支持的类型之一。有关于增加支持的讨论,但我不知道这方面的状况。

如果属性很重要,我建议使用ReadFromPubSub创建自定义管道

 类似资料:
  • 问题内容: 我目前正在解析XML,但是我不太确定如何解析“消息”的“状态”属性: 这是代码,我切断了所有不必要的内容: 谁能指导我该如何完成? 提前致谢。 问题答案: Node.getAttributes() 如果使用XPATH检索数据,则可以避免遍历。阅读本教程。

  • 太长别读:GCP秘密没有在bootstrap文件中解析,但是sql starter需要一个实例连接名和bootstrap上的库名 我正在尝试将GCP Secretmanager合并到一个Spring Boot应用程序中,该应用程序运行在Google App Engine上,并使用GCP SQL。 但是,在引导时似乎没有解析前缀。 作为参考,这是我pom的一部分。(我正在使用com.google.c

  • “env”为:“org.springframework.core.env.environment” 现在,当我在Eclipse中运行Spring Boot应用程序时,我希望这段代码从类路径中的application.properties获取属性(在project/src/main/resources中),但它使用的是project/config中的另一个application.properties

  • 问题内容: 我需要解析Java(Android)中来自AppEngine的DateTime字符串。该字符串如下所示:。它是某种标准格式吗?有没有比使用custom更简单的方法? 问题答案: 非常简单,除了日期字符串由于其中的最后一个而有些偏离。只需替换并使用以下模式即可:

  • 我有一个来自API的xml。 当我尝试使用simplexml\u load\u字符串或simplexmlement进行解析时,我得到了这个结果。 [广告]= 重要的是缺少我需要的url visibleurl属性。我试着在网上找,浪费了一整天来解决这个问题,但没有答案。有人能纠正我正在做的错误吗? PHP代码:

  • 本文向大家介绍JavaScript中Boolean对象的属性解析,包括了JavaScript中Boolean对象的属性解析的使用技巧和注意事项,需要的朋友参考一下 constructor 属性 实例 返回通过 myvar 对象的原型创建的函数: 结果输出: 定义和用法 constructor 属性返回对创建此对象的 Boolean 函数的引用。 prototype 构造器 为 Boolean 对象