pem*_*ahl 21 python numpy scipy
假设我有一个二维矩阵作为一个numpy数组.如果我想在这个矩阵中删除具有特定索引的行,我会使用numpy.delete().这是我的意思的一个例子:
In [1]: my_matrix = numpy.array([
...: [10, 20, 30, 40, 50],
...: [15, 25, 35, 45, 55],
...: [95, 96, 97, 98, 99]
...: ])
In [2]: numpy.delete(my_matrix, [0, 2], axis=0)
Out[2]: array([[15, 25, 35, 45, 55]])
Run Code Online (Sandbox Code Playgroud)
我正在寻找一种方法来使用scipy.sparse包中的矩阵来完成上述操作.我知道可以通过将整个矩阵转换为numpy数组来实现这一点,但我不想这样做.还有其他办法吗?
非常感谢!
pv.*_*pv. 22
对于CSR,这可能是最有效的就地方法:
def delete_row_csr(mat, i):
if not isinstance(mat, scipy.sparse.csr_matrix):
raise ValueError("works only for CSR format -- use .tocsr() first")
n = mat.indptr[i+1] - mat.indptr[i]
if n > 0:
mat.data[mat.indptr[i]:-n] = mat.data[mat.indptr[i+1]:]
mat.data = mat.data[:-n]
mat.indices[mat.indptr[i]:-n] = mat.indices[mat.indptr[i+1]:]
mat.indices = mat.indices[:-n]
mat.indptr[i:-1] = mat.indptr[i+1:]
mat.indptr[i:] -= n
mat.indptr = mat.indptr[:-1]
mat._shape = (mat._shape[0]-1, mat._shape[1])
Run Code Online (Sandbox Code Playgroud)
在LIL格式中它甚至更简单:
def delete_row_lil(mat, i):
if not isinstance(mat, scipy.sparse.lil_matrix):
raise ValueError("works only for LIL format -- use .tolil() first")
mat.rows = np.delete(mat.rows, i)
mat.data = np.delete(mat.data, i)
mat._shape = (mat._shape[0] - 1, mat._shape[1])
Run Code Online (Sandbox Code Playgroud)
lol*_*oli 12
Pv.s答案是一个很好的,可靠的现场解决方案
a = scipy.sparse.csr_matrix((100,100), dtype=numpy.int8)
%timeit delete_row_csr(a.copy(), 0)
10000 loops, best of 3: 80.3 us per loop
Run Code Online (Sandbox Code Playgroud)
对于任何数组大小.由于布尔索引适用于稀疏矩阵,至少在scipy >= 0.14.0,我建议每当要删除多行时使用它:
def delete_rows_csr(mat, indices):
"""
Remove the rows denoted by ``indices`` form the CSR sparse matrix ``mat``.
"""
if not isinstance(mat, scipy.sparse.csr_matrix):
raise ValueError("works only for CSR format -- use .tocsr() first")
indices = list(indices)
mask = numpy.ones(mat.shape[0], dtype=bool)
mask[indices] = False
return mat[mask]
Run Code Online (Sandbox Code Playgroud)
对于单行删除,此解决方案需要更长的时间
%timeit delete_rows_csr(a.copy(), [50])
1000 loops, best of 3: 509 us per loop
Run Code Online (Sandbox Code Playgroud)
但是对于删除多行更有效,因为执行时间几乎不随行数增加
%timeit delete_rows_csr(a.copy(), numpy.random.randint(0, 100, 30))
1000 loops, best of 3: 523 us per loop
Run Code Online (Sandbox Code Playgroud)
您可以删除一行0 < i < X.shape[0] - 1从CSR矩阵X与
scipy.sparse.vstack([X[:i, :], X[i:, :]])
Run Code Online (Sandbox Code Playgroud)
您可以分别用X[1:, :]或删除第一行或最后一行X[:-1, :].删除一行中的多行可能需要滚动自己的功能.
对于除CSR之外的其他格式,这可能不一定有效,因为并非所有格式都支持行切片.
要从 A 中删除第 i 行,只需使用左矩阵乘法:
B = J*A
Run Code Online (Sandbox Code Playgroud)
其中 J 是删除了第 i 行的稀疏单位矩阵。
J 的转置左乘将插入一个零向量回到 B 的第 i 行,这使得这个解决方案更通用一些。
A0 = J.T * B
Run Code Online (Sandbox Code Playgroud)
为了构建 J 本身,我在稀疏对角矩阵上使用了 pv. 的解决方案,如下所示(对于这种特殊情况,也许有更简单的解决方案?)
def identity_minus_rows(N, rows):
if np.isscalar(rows):
rows = [rows]
J = sps.diags(np.ones(N), 0).tocsr() # make a diag matrix
for r in sorted(rows):
J = delete_row_csr(J, r)
return J
Run Code Online (Sandbox Code Playgroud)
您还可以通过右乘适当大小的 JT 来删除列。
最后,在这种情况下乘法是有效的,因为 J 非常稀疏。
除了@ loli的@pv答案之外,我扩展了它们的功能,允许通过CSR矩阵上的索引删除行和/或列.
import numpy as np
from scipy.sparse import csr_matrix
def delete_from_csr(mat, row_indices=[], col_indices=[]):
"""
Remove the rows (denoted by ``row_indices``) and columns (denoted by ``col_indices``) from the CSR sparse matrix ``mat``.
WARNING: Indices of altered axes are reset in the returned matrix
"""
if not isinstance(mat, csr_matrix):
raise ValueError("works only for CSR format -- use .tocsr() first")
rows = []
cols = []
if row_indices:
rows = list(row_indices)
if col_indices:
cols = list(col_indices)
if len(rows) > 0 and len(cols) > 0:
row_mask = np.ones(mat.shape[0], dtype=bool)
row_mask[rows] = False
col_mask = np.ones(mat.shape[1], dtype=bool)
col_mask[cols] = False
return mat[row_mask][:,col_mask]
elif len(rows) > 0:
mask = np.ones(mat.shape[0], dtype=bool)
mask[rows] = False
return mat[mask]
elif len(cols) > 0:
mask = np.ones(mat.shape[1], dtype=bool)
mask[cols] = False
return mat[:,mask]
else:
return mat
Run Code Online (Sandbox Code Playgroud)