具有numpy的数组的高效阈值滤波器

Question

我需要过滤一个数组来删除低于某个阈值的元素.我目前的代码是这样的:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

问题是这会创建一个临时列表,使用带有lambda函数的过滤器(慢).

由于这是一个非常简单的操作,也许有一个numpy函数以有效的方式完成它,但我一直无法找到它.

我认为实现这一目标的另一种方法可能是对数组进行排序,找到阈值的索引并从该索引返回切片,但即使这对于小输入来说会更快(并且无论如何都不会引人注意) ),随着输入大小的增加,其最终渐近渐弱的效率.

有任何想法吗？谢谢!

更新:我也进行了一些测量,当输入为100.000.000个条目时,排序+切片仍然比纯python过滤器快两倍.

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop

Answer 1

b = a[a>threshold] 这应该做

我测试如下:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

我有

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays