我已经看到了一些关于数据库到雪花的问题,但我的问题是如何将表格从雪花到数据库。
到目前为止我所做的:创建了一个集群并将集群附加到我的笔记本上(我正在使用Python)
# Use secrets DBUtil to get Snowflake credentials.
user = dbutils.secrets.get("snowflake-user", "secret-user")
password = dbutils.secrets.get("snowflake-pw", "secret-pw")
sf_url = dbutils.secrets.get("snowflake-url", "secret-sf-url")
# snowflake connection options
options = {
"sfUrl": sf_url,
"sfUser": user,
"sfPassword": password,
"sfDatabase": "DEV",
"sfSchema": "PUBLIC",
"sfWarehouse": "DEV_WH"
}
然后我试着用spark.read读取雪花中的FBK _视频表:
# Read table from Snowflake.
df = spark.read.format("snowflake").options(**options).option("dbtable", "FBK_VIDEOS").load()
我也尝试过:选项(“dbtable”,“从FBK_VIDEOS中选择*”).load()
但我看到df
的以下错误:
net.snowflake.client.jdbc.SnowflakeSQLException:SQL编译错误:
追溯展开后显示了这一点:
Py4JJavaError Traceback (most recent call last)
<command-3339556253176158> in <module>
1 # Read table from Snowflake.
----> 2 df = spark.read.format("snowflake").options(**options).option("dbtable", "FBK_VIDEOS").load()
3
4 display(df)
/databricks/spark/python/pyspark/sql/readwriter.py in load(self, path, format, schema, **options)
208 return self._df(self._jreader.load(self._spark._sc._jvm.PythonUtils.toSeq(path)))
209 else:
--> 210 return self._df(self._jreader.load())
211
212 def json(self, path, schema=None, primitivesAsString=None, prefersDecimal=None,
/databricks/spark/python/lib/py4j-0.10.9-src.zip/py4j/java_gateway.py in __call__(self, *args)
1302
1303 answer = self.gateway_client.send_command(command)
-> 1304 return_value = get_return_value(
1305 answer, self.gateway_client, self.target_id, self.name)
为完整性和将来可能遇到类似问题的用户提供答案。
正如评论中所回答的:Snowflake使用基于角色的访问控制系统,因此所使用的角色具有必要的权限至关重要。在这种情况下,代码中没有显示<code>USE ROLE</code>,因此运行查询时处于活动状态的任何角色都没有足够的权限。
当我在snowflake中查询外部表(指向CSV文件)时,结果以JSON格式显示。 我如何检索我的结果在表格格式,而不使用任何这样的sql下面。我想做,我希望它以显示格式显示。 有什么想法吗?谢了。
我在Snowflake中有一个名为“年龄”的大列,5%的行具有“>80”之类的值。 null
null
我使用的是spark 2.4.7和spark-snowflake 2.8.4,以及snowflake jdbc 3.12.17。我在Mac OS X Big Sur上。这发生在我升级到大苏尔之后,尽管我不确定这是否有关系。 我试过: 将bouncy castle提供程序作为包依赖项添加到我的配置中 检查是否指向Java 8(它确实指向) 重新安装java 8(使用homebrew和adoptope
文件格式定义: 阶段定义: