jer*_*dna 13 python performance numpy
我在python中有以下代码,至少对我来说会产生奇怪的结果:
import numpy as np
import timeit
a = np.random.rand(3,2)
print timeit.timeit('a[2,1] + 1', 'from __main__ import a', number=1000000)
print timeit.timeit('a.item((2,1)) + 1', 'from __main__ import a', number=1000000)
Run Code Online (Sandbox Code Playgroud)
这给出了结果:
0.533630132675
0.103801012039
Run Code Online (Sandbox Code Playgroud)
如果我只尝试访问numpy元素似乎没关系,但是当增加这个元素时,时间变得奇怪......为什么时间上有这么大的差异?
Joe*_*ton 18
在这种情况下,它们不会返回完全相同的东西. a[2,1]返回a numpy.float64,同时a.item((2,1))返回本机python float.
numpy 标量(float,int,等)一个numpy.float64标量不是原来的Python相当一致float(它们的行为相同,不过).使用本机python float时,对单个元素的简单操作会更快,因为间接更少.有关详细信息,请查看docstringndarray.item.
作为速度差异的一个例子,请考虑以下事项:
In [1]: x = 1.2
In [2]: y = np.float64(1.2)
In [3]: %timeit x + 1
10000000 loops, best of 3: 58.9 ns per loop
In [4]: %timeit y + 1
1000000 loops, best of 3: 241 ns per loop
Run Code Online (Sandbox Code Playgroud)
最初,我错误地说第二个因素a.item(...)是略快于a[...].实际上并非如此.花费的时间a.item的标量numpy的转换为原生的Python标量淹没它需要在附加逻辑的时间a[...]/ a.__getitem__(...).
但是,您应该小心尝试将numpy标量所发生的事情概括为numpy数组如何作为一个整体运行.如果你在numpy中做了很多单项索引,那么它通常是一种反模式.
例如,比较:
In [5]: a = np.random.rand(1000)
In [6]: %timeit a + 1
100000 loops, best of 3: 2.32 us per loop
Run Code Online (Sandbox Code Playgroud)
无论我们做什么,我们都无法匹配a + 1上面矢量化版本()的速度(或更低的内存使用率):
In [7]: %timeit [x + 1 for x in a]
1000 loops, best of 3: 257 us per loop
In [8]: %timeit [a.item(i) + 1 for i in range(len(a))]
1000 loops, best of 3: 208 us per loop
Run Code Online (Sandbox Code Playgroud)
其中一些原因是因为迭代ndarrays比遍历列表要慢.为了完全公平的比较,让我们将所有内容转换为本机python浮点列表:
In [9]: b = a.tolist()
In [10]: type(b[0])
Out[10]: float
In [11]: %timeit [x + 1 for x in b]
10000 loops, best of 3: 69.4 us per loop
Run Code Online (Sandbox Code Playgroud)
显然,当您在较大的阵列上操作时,使用矢量化操作(第一种情况)要快得多.它的内存效率也要高得多,因为lists需要存储指向每个项目的指针,而ndarrays在内存中是连续的.