将Pandas数据框转换为Spark数据框错误
我正在尝试将Pandas DF转换为Spark one。DF头：
10000001,1,0,1,12:35,OK,10002,1,0,9,f,NA,24,24,0,3,9,0,0,1,1,0,0,4,543
10000001,2,0,1,12:36,OK,10002,1,0,9,f,NA,24,24,0,3,9,2,1,1,3,1,3,2,611
10000002,1,0,4,12:19,PA,10003,1,1,7,f,NA,74,74,0,2,15,2,0,2,3,1,2,2,691
码：
dataset = pd.read_csv("data/AS/test_v2.csv")
sc = SparkContext(conf=conf)
sqlCtx = SQLContext(sc)
sdf = sqlCtx.createDataFrame(dataset)
我得到一个错误：
TypeError: Can not merge type <class 'pyspark.sql.types.StringType'> and <class 'pyspark.sql.types.DoubleType'>
问题答案：
您需要确保您的pandas dataframe列适合spark推断的类型。如果您的熊猫数据框列出类似以下内容：
pd.info()
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 5062 entries, 0 to 5061
Data columns (total 51 columns):
SomeCol 5062 non-null object
Col2 5062 non-null object
而且您遇到该错误，请尝试：
df[['SomeCol', 'Col2']] = df[['SomeCol', 'Col2']].astype(str)
现在，确保.astype(str)实际上是您希望这些列成为的类型。基本上，当底层Java代码尝试从python中的对象推断类型时，它会使用一些观察值并做出猜测，如果该猜测并不适用于试图将熊猫转换为列的所有数据，火花会失败。
-
问题内容： 我试图将输出转换为熊猫数据框，但我很努力。我有这个清单 我想创建一个具有3列和3行的熊猫数据框。我尝试使用 但它似乎对我不起作用。任何帮助，将不胜感激。 问题答案： 您需要转换为然后：
-
我正在尝试将熊猫DF转换为Spark one。测向头： 代码： 我得到了一个错误：
-
问题内容： 我对知道如何将熊猫数据框转换为NumPy数组感兴趣。 数据框： 给 我想将其转换为NumPy数组，如下所示： 我怎样才能做到这一点？ 作为奖励，是否可以像这样保留dtype？ 或类似的？ 问题答案： 要将pandas数据框（df）转换为numpy ndarray，请使用以下代码：
-
问题内容： 我需要将列表转换为一列熊猫数据框 当前列表（len = 3）： 所需的熊猫DF（形状= 3，）： 请注意，这些数字代表上述“必需熊猫” DF中的索引。 问题答案： 采用： 谢谢DYZ：
-
问题内容： 我正在从一列存储为JSON的数据库（超过5万行）中读取数据。我想将其提取到pandas数据框中。下面的代码片段可以正常工作，但是效率很低，并且在对整个数据库运行时会花费很多时间。请注意，并非所有项目都具有相同的属性，并且JSON具有一些嵌套的属性。 我怎样才能使它更快？ 问题答案： json_normalize接受一个已经处理过的json字符串或一系列这样的字符串。 设定
-
问题内容： 我有一个如下的Pandas DataFrame TimeReviewed是系列类型 我已经在下面尝试过，但是它仍然没有改变Series类型 如何将df.TimeReviewed更改为DateTime类型并分别拉出年，月，日，时，分，秒？我是python的新手，感谢您的帮助。 问题答案： 您不能：按定义列是。也就是说，如果使（所有元素的类型）类似日期时间，则可以通过访问器（docs）访问