熊猫与numpy的不同std

Question

大熊猫和numpy之间的标准偏差不同.为什么和哪一个是正确的？(相对差异是3.5%,这不应该来自四舍五入,这在我看来很高).

例

import numpy as np
import pandas as pd
from StringIO import StringIO

a='''0.057411
0.024367
 0.021247
-0.001809
-0.010874
-0.035845
0.001663
0.043282
0.004433
-0.007242
0.029294
0.023699
0.049654
0.034422
-0.005380'''


df = pd.read_csv(StringIO(a.strip()), delim_whitespace=True, header=None)

df.std()==np.std(df) # False
df.std() # 0.025801
np.std(df) # 0.024926

(0.024926 - 0.025801) / 0.024926 # 3.5% relative difference

我使用这些版本:

熊猫:'0.14.0'numpy:'1.8.1'

Answer 1

简而言之,两者都不是"不正确".Pandas使用无偏估计(N-1在分母中),而Numpy默认不使用.

为了使它们表现相同,传递ddof=1给numpy.std().

有关进一步讨论,请参阅

• 有人可以解释有偏见/无偏见的人口/样本标准偏差吗？
• 种群差异和样本方差.
• 为什么除以n-1？

Answer 2

对于pandas的执行与 相同numpy，可以传入ddof=0参数，因此df.std(ddof=0)。

这段简短的视频很好地解释了为什么n-1样品可能是首选。https://www.youtube.com/watch?v=Cn0skMJ2F3c