当前位置: 首页 > 知识库问答 >
问题:

BigQuery模式更新而不丢失流缓冲区?

夏侯野
2023-03-14

我们正在BigQuery表上进行流式插入。

我们希望在不更改表名的情况下更新表的模式。

例如,我们希望删除一列,因为它包含敏感数据,但是我们希望保持所有其他数据和表名不变。

我们的流程如下:

  • 将原始表复制到临时表
  • 删除原始表
  • 使用原始表名和新架构创建新表。
  • 用旧表的数据填充新表。
  • 哭,因为最后(最多)90分钟的数据卡在流缓冲区中,未传输

如何避免最后一步?

共有1个答案

裴昕
2023-03-14

我相信新的流式处理 API 不再使用流式处理缓冲区。相反,它会将数据直接写入目标表。

要启用API,您必须注册BigQuery Streaming V2 Beta注册表:

您可以在以下链接中找到更多信息,我希望它能解决您的问题。

 类似资料:
  • 问题内容: 我想使用JavaScript强制文本框的值小写。我已经尝试过下面的代码,但是每次您按一个键,光标就会跳到输入的末尾。如何避免这种情况? 问题答案: $(“#beLowerCase”).on(‘input’, function(){ 这实际上也适用于CSS: 服务器可以照顾实际的下壳体…

  • 我正在使用下面的代码片段每秒一次通过com端口发送gps数据: 这一切都很好,但是当使用以下方法写入串行端口时: 我的读取程序,使用: 将只从该写入状态读取254字节的数据。油灰也是如此。 我尝试过将写状态分成254个字节大小的块并写两次,但是第二次写操作,尽管被确认为由我的写入程序运行,却从未被读取程序读取。 我知道我的写缓冲区是4096字节,读缓冲区是2048字节。 我的字符串是这样的: 当我

  • 更新视图时,间接模式更改似乎不会被拾取。 使用字段 创建视图 (例如) 创建,从 中选择所有字段 更新 以包括(例如) 使用与以前相同的查询更新 (由于记录的限制) 和,包括和 视图更新应该是原子的 < li >正确更新了< code >视图1的模式(包括< code >字段1和< code >字段2) < Li > < code > view 2 的模式仅包括< code>field1 < li

  • 我为序列分类(二进制)创建了一个LSTM网络,其中每个样本有25个时间步和4个特征。以下是我的keras网络拓扑: 上面,密集层之后的激活层使用softmax功能。我使用二进制交叉熵作为损失函数,Adam作为优化器来编译keras模型。使用batch_size=256、shuffle=True和validation_split=0.05对模型进行训练,以下是训练日志: 到目前为止,我还尝试使用了r

  • 问题内容: 我正在使用SQL数据库,我有一列名为“价格”。创建数据库后,将“价格”列设置为“我”,需要将其类型更改为不丢失数据库中的数据。这应该通过SQL脚本来完成 我想到了创建一个新列,将数据移到其中,删除旧列,然后重命名新创建的列。 有人可以帮我举个例子吗?在SQL中也有一个函数可以将字符串解析为十进制? 谢谢 问题答案: 您无需添加新列两次,只需在更新新列后删除旧列即可: 请注意,如果不是数

  • 今天早些时候很无聊,我开始思考Java中缓冲和非缓冲字节流的相对性能。作为一个简单的测试,我下载了一个相当大的文本文件,并编写了一个简短的程序来确定缓冲流在复制文件时的效果。进行了四项测试: 使用无缓冲的输入和输出字节流复制文件 毫不奇怪,使用缓冲输入和输出流比使用无缓冲流快几个数量级。然而,真正有趣的事情(至少对我来说)是案例2和案例3之间的速度差异。部分样本结果如下: 对于那些感兴趣的人,可以