为什么numpy.zeros和numpy.zeros_like之间的性能差异？

Question

我终于在代码中发现了性能瓶颈，但是对于原因是很困惑的。为了解决这个问题，我将所有对的调用都numpy.zeros_like改为使用numpy.zeros。但是为什么zeros_like太慢了？

例如（注意e-05在zeros电话）：

>>> timeit.timeit('np.zeros((12488, 7588, 3), np.uint8)', 'import numpy as np', number = 10)
5.2928924560546875e-05
>>> timeit.timeit('np.zeros_like(x)', 'import numpy as np; x = np.zeros((12488, 7588, 3), np.uint8)', number = 10)
1.4402990341186523

但是奇怪的是，写入使用创建的数组zeros要慢于使用创建的数组zeros_like：

>>> timeit.timeit('x[100:-100, 100:-100] = 1', 'import numpy as np; x = np.zeros((12488, 7588, 3), np.uint8)', number = 10)
0.4310588836669922
>>> timeit.timeit('x[100:-100, 100:-100] = 1', 'import numpy as np; x = np.zeros_like(np.zeros((12488, 7588, 3), np.uint8))', number = 10)
0.33325695991516113

我的猜测是zeros使用一些CPU技巧，而不是实际写入内存来分配它。写入时可以即时完成。但这仍不能解释数组创建时间的巨大差异。

我正在使用当前的numpy版本运行Mac OS X Yosemite：

>>> numpy.__version__
'1.9.1'

Answer 1

我在Ipython中的计时是（使用更简单的timeit接口）：

In [57]: timeit np.zeros_like(x)
1 loops, best of 3: 420 ms per loop

In [58]: timeit np.zeros((12488, 7588, 3), np.uint8)
100000 loops, best of 3: 15.1 µs per loop

当我使用IPython（np.zeros_like??）查看代码时，我看到：

res = empty_like(a, dtype=dtype, order=order, subok=subok)
multiarray.copyto(res, 0, casting='unsafe')

而np.zeros黑匣子-纯编译代码。

的时间empty是：

In [63]: timeit np.empty_like(x)
100000 loops, best of 3: 13.6 µs per loop

In [64]: timeit np.empty((12488, 7588, 3), np.uint8)
100000 loops, best of 3: 14.9 µs per loop

因此，额外的时间zeros_like就在其中copy。

在我的测试中，分配时间（x[]=1）的差异可以忽略不计。

我的猜测是zeros，ones，empty都是早期编译作品。 empty_like为方便起见添加了此功能，只是从输入中绘制形状和类型信息。
zeros_like撰写本书时，empty_like比起速度，更多的是着眼于轻松进行编程维护（重用）。

np.ones并np.full使用该np.empty ... copyto序列，并显示相似的时间。

https://github.com/numpy/numpy/blob/master/numpy/core/src/multiarray/array_assign_scalar.c
似乎是将标量（例如0）复制到数组的文件。我看不到使用memset。

https://github.com/numpy/numpy/blob/master/numpy/core/src/multiarray/alloc.c调用了malloc和calloc。

https://github.com/numpy/numpy/blob/master/numpy/core/src/multiarray/ctors.c-zeros和的来源empty。两者都通话PyArray_NewFromDescr_int，但是一个最终使用npy_alloc_cache_zero另一个npy_alloc_cache。

npy_alloc_cache在alloc.c通话中alloc。
npy_alloc_cache_zero呼叫npy_alloc_cache后跟一个memset。输入的代码alloc.c进一步与THREAD选项混淆。

关于callocvmalloc+memset差异的更多信息： 为什么malloc +
memset比calloc慢？

但是对于缓存和垃圾回收，我想知道这种calloc/memset区别是否适用。

这与简单的测试memory_profile包支持声称zeros和empty分配“上即时”内存，而zeros_like分配一切前面：

N = (1000, 1000) 
M = (slice(None, 500, None), slice(500, None, None))

Line #    Mem usage    Increment   Line Contents
================================================
     2   17.699 MiB    0.000 MiB   @profile
     3                             def test1(N, M):
     4   17.699 MiB    0.000 MiB       print(N, M)
     5   17.699 MiB    0.000 MiB       x = np.zeros(N)   # no memory jump
     6   17.699 MiB    0.000 MiB       y = np.empty(N)
     7   25.230 MiB    7.531 MiB       z = np.zeros_like(x) # initial jump
     8   29.098 MiB    3.867 MiB       x[M] = 1     # jump on usage
     9   32.965 MiB    3.867 MiB       y[M] = 1
    10   32.965 MiB    0.000 MiB       z[M] = 1
    11   32.965 MiB    0.000 MiB       return x,y,z