当前位置: 首页 > 知识库问答 >
问题:

BigQuery从云存储传输csv时出错

贺英悟
2023-03-14

我试图在bigquery中创建一个表,从google存储中传输csv。这个csv有3000万行,我得到了这些错误,例如:

读取数据时出错,错误消息:行中从位置2543333656开始的值太多。找到4列,而预期为3列

读取数据时出错,错误消息:行中从位置254312106开始的值太多。找到4列,而预期为3列

这很尴尬,我的csv中没有所有这些行。它在2.5亿行中发现了一个错误。怎么可能??

非常感谢。

共有1个答案

麹凯捷
2023-03-14

错误指出在位置254333656存在问题,而不是row

这意味着错误位于距离文件开头254333656个字符的位置(这使得调试非常困难)。

为了解决您的问题,您可以:

>

也许可以在bq load语句中尝试使用标志allow\u jagged\u row=true。

 类似资料:
  • 我正试图从控制台/命令行将一个表从big query导出到google cloud storage。控制台作业运行了几分钟,并在没有任何错误代码的情况下出错,命令行作业在运行一段时间后也会出现以下错误: 提取操作中的BigQuery错误:错误处理作业“数据流-实验:BQJOB_R308FF0F73D1820A6_00000157F77E8AB9_1”:后端错误。作业中止。 上面给出了命令行的作业i

  • 我们一直在使用服务,在(AWS)中,我们意外删除了一个目录,因此我们认为它应该在中,但是经过查看,尽管处于打开状态,但它并不存在。

  • 我正在创建一个web应用程序,使动画从框架。我使用opencv和VideoWriter来实现它。但有个问题。我想在Google App Engine上托管我的应用程序,所以我不能在上面保存文件。是否可以直接将VideoWriter视频输出到谷歌云商店,而不保存在机器上,或者我必须找其他库来实现?

  • 我们需要将csv文件从GCP云存储传输到ftp服务器,我们如何实现这一点? 我们可以用bigquery工具将这些文件直接传输到ftp吗? 或者我们需要用服务下载它,然后上传到ftp吗?

  • 我需要从Google Cloud Storage(GCS->Temp Table->Main table)中加载100个表到BigQuery。我创建了一个python进程,将数据加载到BigQuery中,并在AppEngine中进行调度。因为AppEngine最多有10min的超时时间。我已经在异步模式下提交了作业,并在稍后的时间点检查了作业状态。由于我有100个表,需要创建一个监控系统来检查作业

  • 我有一个firebase帐户,我想以编程方式上传一些照片到firebase存储。为此,我使用了google cloud java storage API。我配置权限和其他权限。我可以成功地创建桶,斑点。然而,当我试图上传一张图片时,要么它的大小为0,要么它无法下载(不生成URL)。下面是我使用的代码; 任何建议都很感激。问候。