将具有多个纳米值的pandas系列减少到一组给出多个nan值

Question

我期待得到,set([nan,0,1])但我得到set([nan, 0.0, nan, 1.0]):

>>> import numpy as np
>>> import pandas as pd
>>> l= [np.nan,0,1,np.nan]
>>> set(pd.Series(l))
set([nan, 0.0, nan, 1.0])
>>> set(pd.Series(l).tolist())
set([nan, 0.0, nan, 1.0])
>>> set(l)
set([nan, 0, 1])

Answer 1

并非所有的nans都是相同的:

In [182]: np.nan is np.nan
Out[182]: True

In [183]: float('nan') is float('nan')
Out[183]: False

In [184]: np.float64('nan') is np.float64('nan')
Out[184]: False

因此,

In [178]: set([np.nan, np.nan])
Out[178]: {nan}

In [179]: set([float('nan'), float('nan')])
Out[179]: {nan, nan}

In [180]: set([np.float64('nan'), np.float64('nan')])
Out[180]: {nan, nan}

l包含np.nans,它们是相同的,所以

In [158]: set(l)
Out[158]: {nan, 0, 1}

但pd.Series(l).tolist()包含np.float64('nan')不相同的s:

In [160]: [type(item) for item in pd.Series(l).tolist()]
Out[160]: [numpy.float64, numpy.float64, numpy.float64, numpy.float64]

所以set不会将它们视为平等:

In [157]: set(pd.Series(l).tolist())
Out[157]: {nan, 0.0, nan, 1.0}

如果您有Pandas系列,请使用它的unique方法而不是set查找唯一值:

>>> s = pd.Series(l)
>>> s.unique()
array([ nan,   0.,   1.])