BC *_*ith 5 python nan filter pandas data-science
我正在尝试从数据框中过滤小于某个值的数据。如果没有 NaN 则它工作正常。但是当有 nan 时,它会忽略 NaN 值。我想一直包含它并不重要,它小于或大于比较值。
import pandas as pd
import numpy as np
df = pd.DataFrame(
{
'index': [1, 2, 3, 4, 5, 6, 7, 8, 9],
'value': [5, 6, 7, np.nan, 9, 3, 11, 34, 78]
}
)
df_chunked = df[(df['index'] >= 1) & (df['index'] <= 5)]
print('df_chunked')
print(df_chunked)
df_result = df_chunked[(df_chunked['value'] < 10)]
# df_result = df_chunked[(df_chunked['value'] < 10) | (df_chunked['value'] == np.isnan(df_chunked['value']))]
print('df_result')
print(df_result)
Run Code Online (Sandbox Code Playgroud)
在上面的结果中显示 5,6,7,9。但我也想要那里的 nan。我试过
df_result = df_chunked[(df_chunked['value'] < 10) | (df_chunked['value'] == np.isnan(df_chunked['value']))]
Run Code Online (Sandbox Code Playgroud)
但它不起作用。
我怎样才能做到这一点?
使用非运算符:~
df_chunked[~(df_chunked['value'].ge(10))]
#df_chunked[~(df_chunked['value']>=10)] #greater or equal(the same)
index value
0 1 5.0
1 2 6.0
2 3 7.0
3 4 NaN
4 5 9.0
Run Code Online (Sandbox Code Playgroud)
为什么?
因为逻辑运算只是忽略NaN值并将其视为False,始终如您在以下数据框中看到的那样,那么如果您想避免使用(避免不必要的额外代码)并简化代码,只需使用逆逻辑series.isna ~
print(df.assign(greater_than_5 = df['value'].gt(5),
not_greater_than_5 = df['value'].le(5)))
index value greater_than_5 not_greater_than_5
0 1 5.0 False True
1 2 6.0 True False
2 3 7.0 True False
3 4 NaN False False
4 5 9.0 True False
5 6 3.0 False True
6 7 11.0 True False
7 8 34.0 True False
8 9 78.0 True False
Run Code Online (Sandbox Code Playgroud)