如何使用Pandas中的Apply并行处理许多（模糊）字符串比较？

Question

我有以下问题

我有一个包含句子的数据框 母版 ，例如

master
Out[8]: 
                  original
0  this is a nice sentence
1      this is another one
2    stackoverflow is nice

对于Master中的每一行，我都会使用来查找另一个Dataframe Slave，
以获得最佳匹配fuzzywuzzy。我之所以使用Fuzzywuzzy，是因为两个数据框之间的匹配句子可能有所不同（其他字符等）。

例如， 奴隶 可能是

slave
Out[10]: 
   my_value                      name
0         2               hello world
1         1           congratulations
2         2  this is a nice sentence 
3         3       this is another one
4         1     stackoverflow is nice

这是一个功能齐全，精巧紧凑的工作示例：）

from fuzzywuzzy import fuzz
import pandas as pd
import numpy as np
import difflib


master= pd.DataFrame({'original':['this is a nice sentence',
'this is another one',
'stackoverflow is nice']})


slave= pd.DataFrame({'name':['hello world',
'congratulations',
'this is a nice sentence ',
'this is another one',
'stackoverflow is nice'],'my_value': [2,1,2,3,1]})

def fuzzy_score(str1, str2):
    return fuzz.token_set_ratio(str1, str2)

def helper(orig_string, slave_df):
    #use fuzzywuzzy to see how close original and name are
    slave_df['score'] = slave_df.name.apply(lambda x: fuzzy_score(x,orig_string))
    #return my_value corresponding to the highest score
    return slave_df.ix[slave_df.score.idxmax(),'my_value']

master['my_value'] = master.original.apply(lambda x: helper(x,slave))

一百万美元的问题是：我可以并行化上面的应用代码吗？

毕竟，将其中的每一行都master与其中的所有行进行比较slave（从属是一个小的数据集，我可以将许多数据副本保存到RAM中）。

我不明白为什么我不能运行多个比较（即同时处理多个行）。

问题：我不知道该怎么做，或者那是否可能。

任何帮助，不胜感激！

Answer 1

您可以将其与Dask.dataframe并行化。

>>> dmaster = dd.from_pandas(master, npartitions=4)
>>> dmaster['my_value'] = dmaster.original.apply(lambda x: helper(x, slave), name='my_value'))
>>> dmaster.compute()
                  original  my_value
0  this is a nice sentence         2
1      this is another one         3
2    stackoverflow is nice         1

另外，您应该在这里考虑使用线程与进程之间的权衡。模糊字符串匹配几乎可以肯定不会释放GIL，因此使用多个线程不会有任何好处。但是，使用进程将导致数据序列化并在您的计算机中移动，这可能会使速度变慢。

您可以通过管理方法的get=关键字参数，在使用线程和进程或分布式系统之间进行实验compute()。

import dask.multiprocessing
import dask.threaded

>>> dmaster.compute(get=dask.threaded.get)  # this is default for dask.dataframe
>>> dmaster.compute(get=dask.multiprocessing.get)  # try processes instead