在Spark DataFrame[Java]中合并多个列

Question

如何将一个数据帧中的多列(比如3列)组合成一个列(在一个新的数据帧中)，其中每一行都成为一个Spark DenseVector？类似于这个线程，但在Java中，有一些下面提到的调整。

我试着用这样的UDF:

private UDF3<Double, Double, Double, Row> toColumn = new UDF3<Double, Double, Double, Row>() {

    private static final long serialVersionUID = 1L;

    public Row call(Double first, Double second, Double third) throws Exception {           
        Row row = RowFactory.create(Vectors.dense(first, second, third));

        return row; 
    }
};

然后注册UDF:

sqlContext.udf().register("toColumn", toColumn, dataType);

其中＜code＞数据类型＜code＞为：

StructType dataType = DataTypes.createStructType(new StructField[]{
    new StructField("bla", new VectorUDT(), false, Metadata.empty()),
    });

当我在一个有3列的数据帧上调用这个UDF并打印出新数据帧的模式时，我得到如下结果：

根| - 特征：结构（可为空 = 真） | | - bla： 向量（可空 = 假）

这里的问题是，我需要一个向量在外部，而不是在结构中。像这样：

root
 |-- features: vector (nullable = true)

我不知道如何得到它，因为寄存器函数要求UDF的返回类型为DataType（这反过来又不提供VectorType）

Answer 1

实际上，您使用以下数据类型手动将向量类型嵌套到结构中：

new StructField("bla", new VectorUDT(), false, Metadata.empty()),

如果您移除外部StructField，您将得到您想要的。当然，在这种情况下，您需要稍微修改一下函数定义的签名。也就是说，您需要返回类型向量。

请参见下面我的具体例子，它以一个简单的JUnit测试的形式说明了我的意思。

package sample.spark.test;

import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.mllib.linalg.Vector;
import org.apache.spark.mllib.linalg.VectorUDT;
import org.apache.spark.mllib.linalg.Vectors;
import org.apache.spark.sql.DataFrame;
import org.apache.spark.sql.RowFactory;
import org.apache.spark.sql.SQLContext;
import org.apache.spark.sql.api.java.UDF3;
import org.apache.spark.sql.types.DataTypes;
import org.apache.spark.sql.types.Metadata;
import org.apache.spark.sql.types.StructField;
import org.junit.Test;

import java.io.Serializable;
import java.util.Arrays;
import java.util.HashSet;
import java.util.Set;

import static org.junit.Assert.assertEquals;
import static org.junit.Assert.assertTrue;

public class ToVectorTest implements Serializable {
  private static final long serialVersionUID = 2L;

  private UDF3<Double, Double, Double, Vector> toColumn = new UDF3<Double, Double, Double, Vector>() {

    private static final long serialVersionUID = 1L;

    public Vector call(Double first, Double second, Double third) throws Exception {
      return Vectors.dense(first, second, third);
    }
  };

  @Test
  public void testUDF() {
    // context
    final JavaSparkContext sc = new JavaSparkContext("local", "ToVectorTest");
    final SQLContext sqlContext = new SQLContext(sc);

    // test input
    final DataFrame input = sqlContext.createDataFrame(
        sc.parallelize(
            Arrays.asList(
                RowFactory.create(1.0, 2.0, 3.0),
                RowFactory.create(4.0, 5.0, 6.0),
                RowFactory.create(7.0, 8.0, 9.0),
                RowFactory.create(10.0, 11.0, 12.0)
            )),
        DataTypes.createStructType(
            Arrays.asList(
                new StructField("feature1", DataTypes.DoubleType, false, Metadata.empty()),
                new StructField("feature2", DataTypes.DoubleType, false, Metadata.empty()),
                new StructField("feature3", DataTypes.DoubleType, false, Metadata.empty())
            )
        )
    );
    input.registerTempTable("input");

    // expected output
    final Set<Vector> expectedOutput = new HashSet<>(Arrays.asList(
        Vectors.dense(1.0, 2.0, 3.0),
        Vectors.dense(4.0, 5.0, 6.0),
        Vectors.dense(7.0, 8.0, 9.0),
        Vectors.dense(10.0, 11.0, 12.0)
    ));

    // processing
    sqlContext.udf().register("toColumn", toColumn, new VectorUDT());
    final DataFrame outputDF = sqlContext.sql("SELECT toColumn(feature1, feature2, feature3) AS x FROM input");
    final Set<Vector> output = new HashSet<>(outputDF.toJavaRDD().map(r -> r.<Vector>getAs("x")).collect());

    // evaluation
    assertEquals(expectedOutput.size(), output.size());
    for (Vector x : output) {
      assertTrue(expectedOutput.contains(x));
    }

    // show the schema and the content
    System.out.println(outputDF.schema());
    outputDF.show();

    sc.stop();
  }
}