删除pandas数据框中全部为零的行

use*_*827 76 python pandas

我可以使用pandas dropna()功能删除一些或所有列设置为NA's的行.是否有一个等效函数用于删除所有列值为0的行?

P   kt  b   tt  mky depth
1   0   0   0   0   0
2   0   0   0   0   0
3   0   0   0   0   0
4   0   0   0   0   0
5   1.1 3   4.5 2.3 9.0
Run Code Online (Sandbox Code Playgroud)

在此示例中,我们希望从数据框中删除前4行.

谢谢!

8on*_*ne6 101

一衬垫.无需转置:

df.loc[~(df==0).all(axis=1)]
Run Code Online (Sandbox Code Playgroud)

对于喜欢对称性的人来说,这也有效......

df.loc[(df!=0).any(axis=1)]
Run Code Online (Sandbox Code Playgroud)

  • 为了简洁起见(并且在我看来,目的清晰),将其与 Akavall 的评论结合起来:`df.loc[(df != 0).any(1)]`。团队合作! (4认同)
  • 应该提到使用 .all 和 .any 之间的区别,因为最初的问题提到了 dropna 的等效性。如果要删除任何列包含零的所有行,则必须反转上面答案中的 .all 和 .any 。当我在寻找该功能时,我花了一段时间才意识到这一点。 (2认同)

U2E*_*EF1 90

事实证明,这可以用矢量化方式很好地表达:

> df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})
> df = df[(df.T != 0).any()]
> df
   a  b
1  0  1
2  1  0
3  1  1
Run Code Online (Sandbox Code Playgroud)

  • 很好,但我认为你可以用'df = df [(df.T!= 0).any()]来避免否定. (6认同)
  • 转置不是必需的,any() 可以将轴作为参数。所以这是有效的: df = df[df.any(axis=1)] (3认同)
  • 请注意:OP 想要删除“所有列都为 0”的行,但可以推断出“all”方法。 (2认同)

The*_*Cat 18

我每个月都会查询一次这个问题,并且总是要从评论中找出最佳答案:

df.loc[(df!=0).any(1)]
Run Code Online (Sandbox Code Playgroud)

谢谢丹艾伦!

  • 无需挖掘。@ 8one6早在2014年就将其包含在他的回答中,该部分说:“以及那些喜欢对称的人...”。 (2认同)

小智 8

用nan替换零,然后删除所有条目为nan的行.之后用零替换nan.

import numpy as np
df = df.replace(0, np.nan)
df = df.dropna(how='all', axis=0)
df = df.replace(np.nan, 0)
Run Code Online (Sandbox Code Playgroud)

  • 如果数据中存在任何预先存在的NaN,则此操作将失败. (3认同)

8on*_*ne6 7

您可以使用快速lambda函数来检查给定行中的所有值是否为0。然后,您可以使用应用该结果的结果lambda来仅选择匹配或不匹配该条件的行:

import pandas as pd
import numpy as np

np.random.seed(0)

df = pd.DataFrame(np.random.randn(5,3), 
                  index=['one', 'two', 'three', 'four', 'five'],
                  columns=list('abc'))

df.loc[['one', 'three']] = 0

print df
print df.loc[~df.apply(lambda row: (row==0).all(), axis=1)]
Run Code Online (Sandbox Code Playgroud)

产量:

              a         b         c
one    0.000000  0.000000  0.000000
two    2.240893  1.867558 -0.977278
three  0.000000  0.000000  0.000000
four   0.410599  0.144044  1.454274
five   0.761038  0.121675  0.443863

[5 rows x 3 columns]
             a         b         c
two   2.240893  1.867558 -0.977278
four  0.410599  0.144044  1.454274
five  0.761038  0.121675  0.443863

[3 rows x 3 columns]
Run Code Online (Sandbox Code Playgroud)


clo*_*ker 6

我发现一些解决方案在查找时很有用,尤其是对于较大的数据集:

df[(df.sum(axis=1) != 0)]       # 30% faster 
df[df.values.sum(axis=1) != 0]  # 3X faster 
Run Code Online (Sandbox Code Playgroud)

继续@ U2EF1中的示例:

In [88]: df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})

In [91]: %timeit df[(df.T != 0).any()]
1000 loops, best of 3: 686 µs per loop

In [92]: df[(df.sum(axis=1) != 0)]
Out[92]: 
   a  b
1  0  1
2  1  0
3  1  1

In [95]: %timeit df[(df.sum(axis=1) != 0)]
1000 loops, best of 3: 495 µs per loop

In [96]: %timeit df[df.values.sum(axis=1) != 0]
1000 loops, best of 3: 217 µs per loop
Run Code Online (Sandbox Code Playgroud)

在更大的数据集上:

In [119]: bdf = pd.DataFrame(np.random.randint(0,2,size=(10000,4)))

In [120]: %timeit bdf[(bdf.T != 0).any()]
1000 loops, best of 3: 1.63 ms per loop

In [121]: %timeit bdf[(bdf.sum(axis=1) != 0)]
1000 loops, best of 3: 1.09 ms per loop

In [122]: %timeit bdf[bdf.values.sum(axis=1) != 0]
1000 loops, best of 3: 517 µs per loop
Run Code Online (Sandbox Code Playgroud)

  • 如果您的行包含 -1 和 1,会发生不好的事情吗? (4认同)

Aka*_*all 5

import pandas as pd

df = pd.DataFrame({'a' : [0,0,1], 'b' : [0,0,-1]})

temp = df.abs().sum(axis=1) == 0      
df = df.drop(temp)
Run Code Online (Sandbox Code Playgroud)

结果:

>>> df
   a  b
2  1 -1
Run Code Online (Sandbox Code Playgroud)


ikb*_*mad 5

我认为这种解决方案是最短的:

df= df[df['ColName'] != 0]
Run Code Online (Sandbox Code Playgroud)

  • 此解决方案删除至少有 1 个零的行。原始发帖者要求删除全部为零的行。这就是为什么 Unfun Cat 的答案是正确的。 (4认同)
  • 而且它也到位了! (2认同)
  • @MaxKleiner 通过重新分配变量就位 (2认同)