spark scala -将json字符串转换为json结构

Question

我有一个具有如下架构的数据帧

 |-- aaa: string (nullable = true)
 |-- bbb: long (nullable = false)
 |-- ccc: string (nullable = true)
 |-- ddd: string (nullable = true)
 |-- eee: long (nullable = false)

我已经有了上面的结果。

我想使用火花scala转换如下架构

  |ddd:struct (nullable = true)
      |-- aaa: string (nullable = true)
      |-- bbb: string (nullable = true)
      |-- ccc: string (nullable = true)
      |-- eee: string (nullable = true)

请帮忙

Answer 1

您应该使用struct函数

第一种方法是使用＜code＞with column

import org.apache.spark.sql.functions._
df.withColumn("ddd", struct(col("aaa"), col("bbb").cast(StringType).as("bbb"), col("ccc"), col("eee").cast(StringType).as("eee"))).drop("aaa", "bbb", "ccc", "eee")

第二种方法是使用selectapi作为

df.select(struct(col("aaa"), col("bbb").cast(StringType).as("bbb"), col("ccc"), col("eee").cast(StringType).as("eee")).as("ddd"))