经过多次尝试优化代码之后,似乎最后的资源就是尝试使用多个内核来运行以下代码。我不确切地知道如何转换/重组我的代码,以便它可以使用多个内核更快地运行。如果能得到指导以实现最终目标,我将不胜感激。最终目标是能够对数组A和B尽可能快地运行此代码,其中每个数组包含大约700,000个元素。这是使用小数组的代码。700k元素数组已被注释掉。
import numpy as np
def ismember(a,b):
for i in a:
index = np.where(b==i)[0]
if index.size == 0:
yield 0
else:
yield index
def f(A, gen_obj):
my_array = np.arange(len(A))
for i in my_array:
my_array[i] = gen_obj.next()
return my_array
#A = np.arange(700000)
#B = np.arange(700000)
A = np.array([3,4,4,3,6])
B = np.array([2,5,2,6,3])
gen_obj = ismember(A,B)
f(A, gen_obj)
print 'done'
# if we print f(A, gen_obj) the output will be: [4 0 0 4 3]
# notice that the output array needs to be kept the same size as array A.
我想做的是模仿一个称为ismember
[2]的MATLAB函数(其格式为:[Lia,Locb] = ismember(A,B)
。我只是想获取Locb
零件。
从Matlab:Locb,对于A中属于B的每个值,在B中包含最低的索引。无论A是否不是B的成员,输出数组Locb都包含0。
主要问题之一是我需要能够尽可能高效地执行此操作。为了测试,我有两个700k元素的数组。创建一个生成器并检查生成器的值似乎并不能很快完成工作。
在担心多个内核之前,我将通过使用字典来消除ismember函数中的线性扫描:
def ismember(a, b):
bind = {}
for i, elt in enumerate(b):
if elt not in bind:
bind[elt] = i
return [bind.get(itm, None) for itm in a] # None can be replaced by any other "not in b" value
您最初的实现需要对B中的元素对A中的每个元素进行全面扫描,使其成为O(len(A)*len(B))
。上面的代码需要对B进行一次完整扫描,以生成dict
Bset。通过使用dict,您可以有效地使A中每个元素的B中每个元素的查找常量保持不变,从而使操作成为可能O(len(A)+len(B))
。如果仍然太慢,则担心使上述功能在多个内核上运行。
编辑:我也稍微修改了您的索引。Matlab使用0,因为其所有数组都从索引1开始。Python / numpy从0开始的数组,所以如果您是数据集,则如下所示
A = [2378, 2378, 2378, 2378]
B = [2378, 2379]
并且没有元素返回0,那么您的结果将排除A的所有元素。上面的例程返回None
没有索引而不是0。返回-1是一个选项,但是Python会将其解释为数组中的最后一个元素。
None
如果将其用作数组的索引,将引发异常。如果您想要不同的行为,请将Bind.get(item,None)
表达式中的第二个参数更改为要返回的值。
问题内容: 这是执行字符串替换的两种方法: 如何使用Java做与第一种方法类似的操作? 问题答案: 或更短:
问题内容: 我目前正在玩《暴力Python》一书中的示例。你可以在这里看到我的实现 我现在正在尝试在Go中实现相同的脚本以比较性能,请注意我对Go来说是全新的。打开文件并遍历各行很好,但是我无法弄清楚如何使用“ crypto”库以与Python的crypt.crypt(str_to_hash,salt)相同的方式对字符串进行哈希处理。我想可能是这样的 但是,没有雪茄。任何帮助将不胜感激,因为将Go
问题内容: 我已经找到了以下问题,但我想知道是否有一种更快,更脏的方法来估算不依赖外部库的python解释器当前正在使用多少内存。 我来自PHP,过去经常为此目的使用memory_get_usage()和memory_get_peak_usage(),我希望能找到一个等效的对象。 问题答案: 以下代码为Linux和其他系统提供了一个简单的解决方案,我在我的项目中使用了以下代码: 它返回当前和峰值驻
问题内容: PostgreSQL有一个有用的功能,称为。它返回那些传递给它记录的最大价值在这里。 SQLite中是否有任何等效项? 需要注意的是,我只需要使用它来处理2个参数。 问题答案: 参考:https : //sqlite.org/lang_corefunc.html#maxoreunc 多参数max()函数返回具有最大值的参数,如果任何参数为NULL,则返回NULL。多参数max()函数从
问题内容: 在C ++中,我可以定义一个 访问器 成员函数,该函数返回(或引用)私有数据成员的值,以便调用者无法以任何方式修改该私有数据成员。 有没有办法在Java中做到这一点? 如果是这样,怎么办? 我知道关键字但AFAIK应用于 方法 时: 防止在子类中重写/多态化该方法。 使该方法可内联。 (请参见下面@Joachim Sauer的评论) 但这并不限制该方法返回对数据成员的引用,以使调用者无
问题内容: 我发现compact()和extract()是PHP中的函数,非常方便。compact()在符号表中获取名称列表,并仅使用其值创建哈希表。提取相反。例如, 有没有办法在Python中做同样的事情?我环顾四周,最接近的就是这个线程,似乎对此不满意。 我知道locals(),globals()和vars(),但是如何方便地选择它们的一部分值呢? Python是否有更好的东西可以消除对此的需